Найдем сначала общее решение соответствующего однородного уравнения:

Пусть
, получим характеристическое уравнение:

Характеристическое уравнение имеет два комплексных корня Два линейно независимые решения это 
Общее решение однородного дифференциального уравнения:

Рассмотрим правую часть дифференциального уравнения:

Число
принимает значение
, это число является корнем характеристическое уравнение
. Кратность k=1
Частное решение будем искать в виде:

Вычислим для нее производную второго порядка

Подставив в исходное дифференциальное уравнение, получим:

Приравниваем коэффициенты при xcos5x, xsin5x, sin5x, cos5x, получим систему уравнений:

Частное решение: 
Общее решение линейного неоднородного дифференциального уравнения:

х = 3у
х-20 - на у+20
Во втором уравнении заменим х на 3у и получим:
3у-20=у+20
3у-у=20+20
2у=40
у=20 - столько человек было на 2 катере
А так как в первом было в 3 раза больше, то на нем было 60 человек