необходимо найти ноли производной 
т.е. точки, где у функции будет экстремум, и показать, что до экстремума функция падает, т.е. производная 
а после экстремума функция растёт, т.е. производная 
;
;
;
;
;
;
;
;
;
причём это единственный корень.
например при 
т.е. функция убывает.
например при 
т.е. функция растёт.
как раз достигается минимум: 
;
а^2 + 8аb + 15b^2 = 1
а^2 + 8аb + 16b^2 - b^2 = 1
(a+4b)^2 - b^2 = 1
(a+5b)(a+3b)=1
1/ a+3b=1
a+5b = 1
решаем систему , вычитаем первое из второго
2b=0
b = 0
a = 1
2/ a+3b=-1
a+5b = -1
решаем систему
2b = 0
b=0
a = -1
ответ (-1 0)(1 0)