прощения, но решение получилось слишком сложным :(
q - знаменатель геом. прогр.
d - сумма арифм. прогрессии
a - первый член ар. прогр.
b - первый член геом. прогр.
1) a+d+a+2d=2a+3d=12; также b+bq=b(1+q)=12; также bq+a+d=12
2) a+2d=bq
3) a+d=b
4) a+bq^2=14
из b(1+q)=12:
из a+2d=bq и a+d=b выражаем b+d=bq -> d=bq-b=b(q-1)
т.е. 
из a+bq^2=14 выразим a=14
Подставим в 2a+3d=12 получим квадратное уравнение вида:
После всех приведений и сокращений и с учетом, что занменатель д.б. не равен 0, получим:
Решая єто уравнения получим, что q=5/3 - не подходит, т.к. в условии числа д.б. целыми и q=1/2.
Отсюда b=8, a=12, d=-4
Получаем последовательность:
12 8 4 2
(
a
+
b
)
n
=
∑
k
=
0
n
(
n
k
)
a
n
−
k
b
k
=
(
n
0
)
a
n
+
(
n
1
)
a
n
−
1
b
+
⋯
+
(
n
k
)
a
n
−
k
b
k
+
⋯
+
(
n
n
)
b
n
(a+b)^n = \sum_{k=0}^n \binom{n}{k} a^{n - k} b^k = {n\choose 0}a^n + {n\choose 1}a^{n - 1}b + \dots + {n\choose k}a^{n - k}b^k + \dots + {n\choose n}b^n
где
(
n
k
)
=
n
!
k
!
(
n
−
k
)
!
=
C
n
k
{n\choose k}=\frac{n!}{k!(n - k)!}= C_n^k — биномиальные коэффициенты,
n
n — неотрицательное целое число.
В таком виде эта формула была известна ещё индийским и персидским математикам; Ньютон вывел формулу бинома Ньютона для более общего случая, когда показатель степени — произвольное действительное (или даже комплексное) число.