вы проходили симметрические многочлены?? если да, то решается через них. Если нет, то:
e1=x+y
e2=x*y
Далее выражаешь все через них, это можно сделать. Все должно получиться.
Это в общем случае. Я не смотрел, может тут проще можно
а еще можно первое уравнение поlелить на y^4, а второе- на y^2, и получить уравнения от одной переменной x/y
во втором уравнение выражаешь либо x^2 либо y^2, и подставь это в первое уравнение