Угадываем первый корень х₁=-1, и делим левую часть уравнения на (х+1)
Получаем х³-х²+х-5
Дальше ничего лучшего наверное, чем метод Кардано- Виета для уравнения вида
х³+ах²+вх+с=0
В нашем случае а=-1; в=1;с=-5
потом находим Q=(а²-3в)/9=((-1)²-3*1)/9=-2/9≈-0,2222
R=(2а³-9ав+27с)/54=(2*(-1)³-9*(-1)*1+27*(-5))/54=-128/54=-64/27≈-2,3704
Q³ меньше R²(оно отрицательное, меньше положительного)
Значит, уравнение имеет один действительный корень и два комплексно сопряженных.
Находим А=знак R*(модуль(R) +√(R²-Q³))¹/³
В=Q/A, детали счета пропускаю, пишу окончательный результат.
Найдем действительный корень х₂=(В+А)-а/3≈1,881
Два комплексно сопряженных х₃,₄=-(А+В)/2-а/3±i√3(А-В)/2
х₃,₄=-0,441±i*1,57
Это вкратце, как решить Вашу задачу.
6 х в квадрате = 5
х=5\6