a; a+d; a+2d; a+3d - арифметическая прогрессия
a; a+d-2; a+2d; a+3d+14 - геометрическая прогрессия, значит квадрат каждого члена прогрессии, начиная со второго, равен произведению двух соседних
поэтому
(a+d-2)²=a(a+2d)
(a+2d)²=(a+d-2)(a+3d+14)
Решаем систему двух уравнений:
{a²+d²+4+2ad-4a-4d=a²+2ad
{a²+4ad+4d²=a²+ad-2a+3ad+3d²-6d+14a+14d-28
упрощаем
{d²=4a+4d-4
{d²=12a+8d-28⇒
4a+4d-4=12a+8d-28
выражаем d через а
d=6-2a
и подставляем в первое уравнение:
(6-2a)²=4a+4d-4
a²-5a+4=0
a=1 или a=4
d=4 или d=-2
и обе прогрессии
при а=1; d=4
1;5;9;13
1;3;9;27
при а=4; d=-2
4; 2; 0; -2
4; 2+2;0; -2+14 - не удовлетворяет смыслу задачи
{ x1 + 4x2 - 7x3 + 13x4 = 0
{ 2x1 + x2 - 3x3 + 5x4 = 0
{ 3x1 - 2x2 + x3 - 3x4 = 0
{ 3x1 + 5x2 - 10x3 + 18x4 = 0
Умножаем 1 уравнение на -2 и складываем со 2 уравнением.
Умножаем 1 уравнение на -3 и складываем с 3 уравнением.
Умножаем 4 уравнение на -1 и складываем с 3 уравнением.
{ x1 + 4x2 - 7x3 + 13x4 = 0
{ 0x1 - 7x2 + 11x3 - 21x4 = 0
{ 0x1 - 14x2 + 22x3 - 42x4 = 0
{ 0x1 - 7x2 + 11x3 - 21x4 = 0
2, 3 и 4 уравнения все одинаковые, от них можно оставить одно.
{ x1 + 4x2 - 7x3 + 13x4 = 0
{ 0x1 - 7x2 + 11x3 - 21x4 = 0
Переменные x3 и x4 - свободные, могут быть какими угодно.
x2 = 11/7*x3 - 3x4
x1 = 7x3 - 13x4 - 4x2 = 7x3 - 13x4 - 44/7*x3 + 12x4 = 5/7*x3 - x4
Это общее решение системы.
Ненулевое решение: например, x3 = 7, x4 = 1, x2 = 8, x1 = 4