Если я правильно понимаю, то 
Посмотрим промежутки возрастания-убывания функции, исследовав производную на знаки. Так как при разложении перед иксами коэффициенты равны 1 (4 можно отбросить, если мы поделим на неё, решая неравенство), то в крайнем правом промежутке "+", а дальше знаки будут чередоваться, но при переходе через x=0 чередования не будет, так как это нуль четной кратности (x²). Получим, что y'>0 при x>3/2, а y'<0 при x<3/2 (за исключением x=0). В x=0 и x=3/2 y'=0. Получается, что точка минимума в x=3/2.
Но мы рассматриваем отрезок [-2;1]. На нем функция только убывает.
Значит, максимум в x=-2; минимум в x=1
{а2+b2=13
2×2+3×2≠13(т.к. 4+6≠13)
2a+b=7
2×2+3=7
4+3=7
:)