Вариант прочтения условия № 1. Пока никто ни на какую роль не выбран, все претенденты одинаковы. Задача - выбрать k человек из n возможных.
Число вариантов выбрать k претендентов из n актеров равно биномиальному коэффициенту из n по k,
Легко проверить, что это уравнение не имеет корней в натуральных числах, поэтому (если мы не собираемся извлекать корни из актёров) в таком прочтении задача решения не имеет.
Вариант прочтения условия № 2 (предполагаемый авторами задачи). Мы выбираем не претендентов, а уже сразу актёров на роли. Тогда на первую роль можно выбрать актёра на вторую (n - 1), на третью (n - 2) и т.д., если всего ролей k, то получится n! / (n - k)! вариантов.
x₁=(5+√(25-12а))/6
x₂=(5-√(25-12а))/6
x₁² - x₂² = (5+√(25-12а))²/36 - (5-√(25-12а))²/36 = 5/9
(5+√(25-12а))² - (5-√(25-12а))² = 20
(5+√(25-12а) - 5+√(25-12а))*(5+√(25-12а) + 5-√(25-12а)) = 20
2√(25-12а)*10 = 20
√(25-12а) = 1
25-12а = 1
12а = 24
a=2