Функция "хорошая", так что экстремум может достигаться только там, где все частные производные равны нулю.
Решая систему, находим решение x = y = 0. Осталось понять, является ли эта точка точкой экстремума.
Сделать это можно, например, так. Заметим, что F можно переписать в следующем виде: 1. Рассмотрим прямую x + y = 0. На ней F(x, y) = 27 + 11/4 (x - y)², и в точке x = y = 0 у функции будет минимум. 2. Рассмотрим прямую x - y = 0. На ней F(x, y) = 27 - 7/4 (x + y)², и в точке x = y = 0 у функции будет максимум.
Если бы x = y = 0 была точкой экстремума, то для любого направления характер экстремума не менялся бы (был бы всегда минимум, или всегда максимум). В нашем случае это не так. Значит, x = y = 0 не является точкой экстремума.
