, естественно, убедившись перед этим, что 
и сделав замену 
Получившееся квадратное уравнение имеет два действительных, но противных корня, которые даже лень выписывать. Обозначим эти корни через p и q, 
для поиска x получаем два уравнения 
1(б) x^2 -6x-7=0
D1=(-3)^2-1*(-7)=16 => корень из D1=4
x1=3+4=7 x2=3-4=-1
x^2-9x+14=0
D=(-9)^2-4*1*14=25 => корень из D=5
x1=9+5/2=7 x2=9-5/2=2
Записываем дробь с полученными корнями.
(x-7)(x+1)/(x-7)(x-2)=x+1/x-2
2(б) 3x^2-16x+5=0
D1=(-8)^2-3*5=49 => корень из D1=7
x1=8+7/3=5 x2=8-7/3=1/3
Нижнюю часть сократим на x, но будем помнить, что за этим x скрывается ещё один корень - 0.
x^2-4x-5=0
D1=(-2)^2-1*(-5)=9 => корень из D1=3
x1=2+3=5 x2=2-3=-1 x3=0
Подставляем.
(x-5)(x-1/3)/(x-5)(x+1)x=x-1/3/x(x+1)
что у тебя здесь этом обозначается