монотонно убывает на интервале знакопостоянства производной: x∈(-∞;0) 
докажем от обратного- допустим, все поймали разное кол-во рыбы. в таком случае, наименьший улов будет составлять 1 рыбу, остальные соответственно 2, 3 и 4 рыбы.если посчитать суммарное кол-во рыбы в этом случае (1+2+3+4) равняется 10, что не соответствует условию. значит,не один из рыбаков не поймал более 4-х рыб, т.е. max. составляет 3. т.е. множество ответов состоит из чисел {1; 2; 3}, а поскольку друзей было четверо, то минимум двое из них поймали одинаковое кол-во рыбы))само решение лучше всего будет записать как равенства с множествами))удачи)
Проверка на пустое множество обязательна: возможен вариант, когда экстремум приходится на точку устранимого разрыва, (например: