Попробуем в левой части выделить полный квадрат, как раз от выражения 
Здесь удвоенное произведение я искусственно создал для выделения квадрата, но чтобы не нарушить равенства, надо это же удвоенное произведение с противоположным знаком добавить, что и было сделано.
Было получено два значения и не зря. Если решать уравнение из условия, то мы обязательно получим 2 корня (кроме случая x=0, на котором даже не определено второе слагаемое и потому его в расчет не берем), это 
и второе выражение, которое зависит от этих корней, может и будет принимать не одно лишь значение, а 2.
ответ: 
2x-3y+z=8
-x+y-5z=-8
Из последнего ур-я видим: x=8+y-5z - Обозначим это (1)
Подставляем (1) в каждое из уравнений вместо х:
8+y-5z+2y-3z+3=3y-8z+11=0
16+2y-10z-3y+z-8=y-9z+8=0
Из последнего ур-я видим: y=9z-8 - Обозначим это (2)
Подставим (2) и (1) в первое ур-е исходной системы:
8+y-5z+18z-16-3z+3=10z+y-5=0 Сюда подставим (2)
10z+9z-8-5=19z-13,
z=13/19.
Подставляем z в (2): y=9*13/19-8=35/19
Подставляем z и y в (1): x=8+35/19-5*13/19=122/19
ответ: x=122/19, y=35/19, z=13/19.