Попробуем в левой части выделить полный квадрат, как раз от выражения 
Здесь удвоенное произведение я искусственно создал для выделения квадрата, но чтобы не нарушить равенства, надо это же удвоенное произведение с противоположным знаком добавить, что и было сделано.
Было получено два значения и не зря. Если решать уравнение из условия, то мы обязательно получим 2 корня (кроме случая x=0, на котором даже не определено второе слагаемое и потому его в расчет не берем), это 
и второе выражение, которое зависит от этих корней, может и будет принимать не одно лишь значение, а 2.
ответ: 
(2*2+3)(4*4-6*2+9)=(4+3)(16-12+9)=7*13=91
На счёт формулы всё правильно, только одно большое НО. Ты когда подставляла под формулу, ты не учла что тебе именно нужно возводить 2а в куб и 3b в куб, т.е. коэффициенты при a и b тоже возводятся в куб, в следствии у тебя будет ответ по формуле: