будем искать формулу в виде f[n]=an^3+bn^2+cb+d, где a,b,c,d - некоторые действительные числа
2=a*1^3+b*1^2+c*1+d
8=a*2^3+b*2^2+c*2+d
20=a*3^3+b*3^2+c*3+d
40=a*4^3+b*4^2+c*4+d
2=a+b+c+d
8=8a+4b+2c+d
20=27a+9b+3c+d
40=64a+16b+4c+d
2=a+b+c+d
6=7a+3b+c
18=26a+8b+2c
38=63a+15b+3c
2=a+b+c+d
6=7a+3b+c
9=13a+4b+c
38=63a+15b+3c
2=a+b+c+d
6=7a+3b+c
3=6a+b
11=24a+3b
2=a+b+c+d
6=7a+3b+c
3=6a+b
2=6a
2=a+b+c+d
6=7a+3b+c
3=6a+b
a=1/3
a=1/3
2=1/3+b+c+d
6=7/3+3b+c
3=2+b
a=1/3
a=1/3
b=1
11/3=3*1+c
5/3=1+c+d
a=1/3
b=1
c=2/3
d=0
f(n)=1/3n^3+n^2+2/3n=1/3(n^3+3n^2+2n)
ответ: f(n)=1/3(n^3+3n^2+2n)
или g(n)= 1/3(n^3+3n^2+2n)+(n-2)(n-8)(n-20)(n-40)
Например
А1=2
А2=8
n>=3
An=Cумма(Ai)[по i 1 до n-1]+10
A4=2+8+20+10=40
A5=2+8+20+40+10=80