ответ: скорость катера по течению 15 км/час
Объяснение:
Пусть собственная скорость катера х (км/час),
тогда скорость движения ПО течению будет (х+3) км/час - течение реки "несет" катер, увеличивая скорость движения; даже плот (не имея двигателя, т.е. его собственная скорость =0)) движется по течению реки (со скоростью течения))
в озере вода не течет (течения нет), скорость движения будет равна собственной скорости катера.
S (км) = V (км/час) * t (час)
5 (км) = (х+3) * t1 ---> t1 (час) = 5 / (x+3) ---это время движения по течению реки
8 (км) = х * t2 ---> t2 (час) = 8 / x ---это время движения по озеру
все время (сумма) = 1 час
уравнение: 
x² + 3x = 13x + 24
x² - 10x - 24 = 0; по т.Виета корни (12) и (-2)
скорость не может быть отрицательным числом, ---> x=12 (км/час)
ПРОВЕРКА:
по озеру катер идет со скоростью 12 км/час, время в пути 8/12 часа = 2/3 часа = 40 минут
по течению реки катер идет со скоростью (12+3) км/час, время в пути 5/15 часа = 1/3 часа = 20 минут
20 минут + 40 минут = 60 минут = 1 час.
по правилу квадрат разности раскладываем
1) (m- 1/2)^2= m^2 - 2m(1/2) + (1/2)^2= m^2- m+ (1/4)
потом можно через дискременант найти корни m=-(1/2)
2)(a/4 - b/3)^2= (a/4)^2 - 2 a/4 b/3 + (b/3)^2= a^2/16 - ab/6 + b^2/9
3) (2/3a+ b/2)^2= (2/3a)^2 + 2 2/3a b/2+ (b/2)^2= 4/9a^2 + 4b/6a+ b^2/4= 4/9a^2 + 2b/3a+ b^2/4
квадрат суммы (x+y)^2= x^2+ 2xy + y^2
квадрат разности (x-y)^2= x^2- 2xy + y^2