Правильное условие такое:
У брата х груш, а у сестры у² яблок. Вместе у них было 11 этих фруктов. Если бы у брата было у груш, а у сестры -х² яблок, то всего этих фруктов у них было бы 7. Сколько было груш и сколько было яблок?
Решение.
ОДЗ: 
Методом подбора быстрее.
1) Начнем с решения второго уравнения.
Если 
то 7-1=6. Тогда 
не натуральное число.
Если 
то 7-2=5. Тогда 
не натуральное число.
Если 
то 7-3=4. Тогда 
натуральное число.
Получили решение
2) Подставим в первое уравнение 
.
верное равенство.
ответ: 2 груши у брата;
3 яблока у сестры.
Сумма всех их возрастов, стало быть:
x + х + (x+3) + (x+3) + (x+3) = 2х + 3(x+3) = 2х + 3x + 9 = 5x + 9 .
Значит сумма всех их возрастов должна быть на 9 больше,
чем какое-то число, кратное пяти.
Или иначе, если из суммы всех их возрастов вычесть 9,
то должно получиться какое-то число, кратное пяти.
34 – 9 = 25 – кратно пяти!
53 – 9 = 44 – не кратно пяти
76 – 9 = 67 – не кратно пяти
88 – 9 = 79 – не кратно пяти
92 – 9 = 83 – не кратно пяти
О т в е т : (а) на торте было 34 свечи.