пусть первое число будет равно х, и пусть оно на у меньше второго числа, тогда второе число получается х+у, тогда третье число получается второе число плюс у, т.е х+у+у = х+2у. Так как квадрат второго числа на 36 больше произведения первого и третьего чисел, то составляем уравнение:
(х+у)² - 36 = х * (х+2у)
х²+2ху+у²-36=х²+2ху
у²=36
у=6 или -6, но так как каждое следующее число больше предыдущего, то -6 не подходит. Значит у=6, т.е. первое число х, второе х+6, третье х+2*6=х+12.
Таким образом наибольшее число больше чем наименьшее на 12, т.е. (х+12)-х=12.
ответ: 12
x1 + x2 = a + 3
x1 * x2 = 2a + 3
(x1 + x2)^2 = x1^2 + 2 * x1 * x2 + x2^2
x1^2 + x2^2 = (x1 + x2)^2 - 2 * x1 * x2
x1^2 + x2^2 = (a + 3)^2 - 2 * (2a + 3) = a^2 + 6a + 9 -4a - 6= a^2 +2a + 3
х1^2+х2^2<3(х1+х2+2)
a^2 +2a + 3 < 3(a + 5)
a^2 - a - 12 < 0
(a - 4)(a + 3) < 0
методом интервалов получаем
-3 < a < 4
ответ: (-3; 4).