На 5. Возраст дочери от 3 до 6-7 лет, возраст сына от 7 до 10-11. Начинаем подбор возраста Галиной мамы: 5Х5=25, варианты возрастов для дочери и сына отсутствуют. 6Х6=36. Варианты для детей: дочь 4, сын 9 - подходит, дочь 3 (2), сын 12 (18) - не подходит. Берем возраст мамы 7Х7=49, для детей возрасты не подбираются. Берем возраст мамы 8Х8= 64 все варианты будут выпадать из границ возрастов детей. Значит единственный вариант: маме 36 лет, девочке 4 года, мальчику - 9 лет. Разница в возрасте - 5 лет.
На 5. Возраст дочери от 3 до 6-7 лет, возраст сына от 7 до 10-11. Начинаем подбор возраста Галиной мамы: 5Х5=25, варианты возрастов для дочери и сына отсутствуют. 6Х6=36. Варианты для детей: дочь 4, сын 9 - подходит, дочь 3 (2), сын 12 (18) - не подходит. Берем возраст мамы 7Х7=49, для детей возрасты не подбираются. Берем возраст мамы 8Х8= 64 все варианты будут выпадать из границ возрастов детей. Значит единственный вариант: маме 36 лет, девочке 4 года, мальчику - 9 лет. Разница в возрасте - 5 лет.
2(v-5)v-(v-1)(v^2+v+1) = 2v^2 - 10v - (v^3 - 1) = - v^3 + 2v^2 - 10v + 1
а дальше я не знаю что можно ещё сделать, как упростить...