х-4у=5
+
-х+3у=2
=
-у=7
у=-7
х=5+4у=5+4*(-7)=-23
х=-23
возвести в квадрат, получив, 
, что и требовалось проверить.
, следует, что 0 <x < 1, 0 < y < 1
складываем оба уравнения
-у=7
в качестве второго переписываем любое, напр. первое
х-4у=5
и решаем систему
у=-7
х+28=5
у=-7
х=-23