Возведём обе части в квадрат:
(√(2x-20) + √(x+15))² = 25
Теперь всё раскрываем:
2x - 20 + 2√((2x-20)(x+15)) + x + 15 = 25
Теперь всё кроме корня перенесём вправо с противоположным знаком и вновь возведём в квадрат:
2√((2x-20)(x+15)) = 30 - 3x
4√((2x-20)(x+15))² = (30 - 3x)²
4(2x-20)(x+15) = (30 - 3x)²
4(2x² + 30x - 20x - 300) = 900 - 180x + 9x²
8x² + 120x - 80x - 1200 = 900 - 180x + 9x²
-x² + 220x - 2100 = 0
x² - 220x + 2100 = 0
x1 = 210; x2 = 10
Теперь попытаемся подставнокой проверить, какой корень будет удовлетворять уравнению:
Правильное условие такое:
У брата х груш, а у сестры у² яблок. Вместе у них было 11 этих фруктов. Если бы у брата было у груш, а у сестры -х² яблок, то всего этих фруктов у них было бы 7. Сколько было груш и сколько было яблок?
Решение.
ОДЗ: 
Методом подбора быстрее.
1) Начнем с решения второго уравнения.
Если 
то 7-1=6. Тогда 
не натуральное число.
Если 
то 7-2=5. Тогда 
не натуральное число.
Если 
то 7-3=4. Тогда 
натуральное число.
Получили решение
2) Подставим в первое уравнение 
.
верное равенство.
ответ: 2 груши у брата;
3 яблока у сестры.
ответ во вложении, надеюсь все понятно.