(x^2 - 2x)^2 - (a+2)(x^2 - 2x) + (3a-3) = 0
Замена x^2 - 2x = y
y^2 - (a+2)y + (3a-3) = 0
Если у исходного уравнения 4 корня, то у этого должно быть 2 корня.
При этом у каждого из уравнений x^2 - 2x = y1 и x^2 - 2x = y2 тоже должно быть по 2 корня.
D = (a+2)^2 - 4(3a-3) = a^2 + 4a + 4 - 12a + 12 = a^2 - 8a + 16 = (a-4)^2
При любом а, кроме 4, это уравнение имеет 2 корня.
y1 = (a+2-a+4)/2 = 6/2 = 3
y2 = (a+2+a-4)/2 = (2a-2)/2 = a-1
Обратная замена
1) x^2 - 2x = 3
x^2 - 2x - 3 = 0
(x + 1)(x - 3) = 0
x1 = -1; x2 = 3
2) x^2 - 2x = a-1
x^2 - 2x + 1 - a = 0
D = 4 - 4(1-a) = 4 - 4 + 4a = 4a
x3 = (2 - 2√a)/2 = 1 - √a
x4 = (2 + 2√a)/2 = 1 + √a
При a < 0 корней x3 и x4 вообще нет, то есть всего 2 корня.
При а = 0 будет x3 = x4 = 1, то есть всего 3 корня.
При a > 0, но при a ≠ 4, будет 2 корня x3 и x4.
3) Рассмотрим варианты, когда x3 = x1; x3 = x2; x4 = x1; x4 = x2.
1 - √a = -1; √a = 2; a = 4 - не может быть, тогда уравнение с у имеет 1 корень.
1 - √a = 3; √a = -2 - не может быть, корень арифметический, то есть неотрицательный.
1 + √a = -1; √a = -2 - не может быть, корень арифметический, то есть неотрицательный.
1 + √a = 3; √a = 2; a = 4 - не может быть, тогда уравнение с у имеет 1 корень.
ответ: a ∈ (0; 4) U (4; +oo)
) 2) 
Как уже было показано в комментарии, при n=1 это утверждение верно. Пусть теперь n=k: положим, что (3^4k-1)/2=40*m, где m - натуральное число. Переходя к n=k+1, получим выражение (3^(4k+4)-1)/2=(81*3^4k-1)/2=(3^4k+80*3^4k-1)/2=(3^4k-1)/2+80*3^4k/2=40*m+40*3^4k=40*(m+3^4k). Так как число 3^4k - натуральное, то таким будет и число m+3^4k. Обозначив его через n1, получим (3^(4k+4)-1)/2=40*n1. А это значит, что число (3^(4k+4)-1)/2 кратно 40. Теперь из верности утверждения при n=1 следует его верность при n=2; из верности при n=2 следует верность при n=3 и.т.д. для всех натуральных чисел. Утверждение доказано.