Вот накалякал. Разбирайся :)
xy/(x+y) = 5
xz/(x+z) = 7
yz/(y+z) = 9
xy = 5x + 5y
xz = 7x + 7z
yz = 9y + 9z
x(y-5) = 5y
x = 5y/(y-5)
5yz/(y-5) = 35y/(y-5) + 7z
5yz = 35y + 7z * (y-5)
5yz = 35y + 7yz - 35z
2yz + 35y = 35z
y(2z + 35) = 35z
y = 35z/(2z + 35) = z/(2z/35 + 1)
35z^2/(2z + 35) = 315z/(2z + 35) + 9z
35z^2 = 315z + 9z*(2z + 35)
35z^2 = 315z + 18z^2 + 315z
17z^2 = 630z
z=630/17
y = 35*630/(2*630/17 + 35)/17 = 35*630/(1260 + 595) = 22050/1855 = 630 / 53
x = 5*630/(630/53 - 5)/53 = 5*630/((630/53 - 5)*53) = 5*630/365 = 630/73
35 + х (км/ч) - скорость теплохода по течению реки
55 + х (км/ч) - скорость катера по течению реки
40 мин = 40/60 ч = 2/3 ч - время теплохода
30 мин = 30/60 ч = 1/2 ч - время катера
(35 + х) * 2/3 = (55 + х) * 1/2
(35 + х) * 4/6 = (55 + х) * 3/6
(35 + х) * 4 = (55 + х) * 3
140 + 4х = 165 + 3х
4х - 3х = 165 - 140
х = 25 (км/ч) - скорость течения реки
(35 + 25) * 2/3 = (55 + 25) * 1/2
60 * 2/3 = 80 * 1/2 = 40 (км) - расстояние от пункта А до пункта Б.
ответ: 40 км.