Эта функция дифференцируема на всех числовой прямой, она будет убывающей, если её производная ≤ 0 на всей числовой прямой (при этом ни на каком отрезке производная не должна быть тождественно равна нулю, иначе она на этом промежутке не будет меняться)
y' = -3x^2 + 2px - 3 ≤ 0
У квадратного трёхчлена старший коэффициент меньше нуля, поэтому чтобы неравенство было выполнено при всех x, дискриминант должен быть неположительным.
5 - 3*(a - 2(a+1)) - 9a = 5 - 3a + 6(a+1) - 9a = 5 - 3a + 6a + 6 - 9a =
= - 6a + 11
-6a + 11> 0
- 6a> - 11
a < (1)5/6
ответ: при a = 1 данное выражение положительно.