По всей видимости, речь идёт о функции у=-5/(1+х^2)
Если это так, то обратим внимание на то, что знаменатель всегда положителен, поэтому значение функции всегда отрицательное.
Далее, вообще верхний предел этой функции равен 0, при х-> +-бесконечности, поэтому максимальное ЦЕЛОЕ значение, которое может принять функция, равно -1.
Вот в принципе и всё, однако для строгости нужно ещё доказать, что она где-то примет это значение. Это просто, так как мин. значение функции -5 , это очевидно, если глянуть на знаменатель. Поэтому область значений функции [-5;0). -1 входит в этот интервал. Всё.
Ну и последнее. В задаче НЕ ТРЕБУЕТСЯ определить при каком значении х достигается указанный максимум и в общем случае это бывает очень трудно, даже невозможно аналитическими методами сделать. У нас же очень простая функция, поэтому в качестве бонуса определим этот х.
-5/(1+х^2)=-1
x^2 = 4, x=+-2
То есть указанного целочисленного максимума функция принимает даже при двух разных значениях аргумента(хотя это было ясно с самого начала, так как функция чётная).
Вот теперь точно всё.
а^2-ав-ас-ав+в^2+вс-ас+вс+с^2=
а^2+в^2+с^2+2вс-2ав-2ас=
а^2+в^2+с^2+2(вс-ав-ас);
значит
9*9=а^2+в^2+с^2+2*16;
а^2+в^2+с^2=81-32= 49.