Ваша задача равносильна неравенству: (x^2-3*x+2)/(x3-5*x^2+4*x) < 0,
Разложим на множители:
((х-1)*(х-2))/(x*(x-1)*(x-4)) < 0.
Определяем ОДЗ: х ≠ 0 U x ≠ 1 U x ≠ 4. (При решении методом интервалов, эти точки будут "выколотыми", т. к в этих точках функция имеет разрыв.
Ни один сомножитель в знаменателе не равен нулю. Поэтому неравенство не изменится, если мы умножим его на x^2*(x-1)^2*(x-4)^2, тогда получается:
х*(х-1)^2*(х-2)*(х-4) < 0.
Отмечаем на числовой оси точки х=0, х=1, х=2, х=4, не забываем, что точки х=0, х=1 и х=4 - выколоты. Рисуем "змейку". При х > 4, значение функции положительно, в интервале (2; 4) = отрицательно, в интервале (1; 2) - положительно. Точка х=1 входит дважды, поэтому знак "змейки" не меняем, т. е в интервале (0; 1) значение функции остается положительным, левее точки х=0 - значение функции отрицательно.
Решение: (-∞; 0) U (2; 4).
F(x)=∫(6x-x^2)dx=6x²/2-x³/3 = 3x²-x³/3; F(3)-F(0)=(6*9/2-9)-0=18
s=3*9-18=9