У Толи 18 монет по 2 р. и 5 р. на сумму 97 р.
Если взять 18 монет по 5 р, то общая сумма составит 90 рублей, которая меньше заявленной в условии 97 р. Поэтому с такими данными задача решений не имеет.
Если у Толи 18 монет по 2 р. и 5 р. то сумма денег может быть в пределах от 17·2+5=39 р. до 2+17·5=87 р. с шагом в 3 р.
=================================
В качестве примера решим такую задачу.
У Толи 18 монет по 2 р. и 5 р. на сумму 57 р. Сколько монет каждого достоинства у Толи?
Пусть у Толи х монет по 2 р. и у монет по 5 р. Тогда система :

ответ при таком условии : 11 монет по 2 р. и 7 монет по 5 р.
D=b²-4ac
D>0 два корня
D=0 один корень
D<0 нет корней
1
x² - 5x + 6 = 0
a=1 b=-5 c=6
D= 25 - 24 = 1 > 0 два корня
3
2x² + x - 3 = 0
a=2 b=1 c=-3
D= 1 + 24 = 25 > 0 два корня
5
3x² - 13x + 14 = 0
a=3 b=-13 c=14
D = 13² - 4*3*14 = 169 - 168 = 1 >0 два корня
7
y² - y - 20 = 0
a=1 b=-1 c=-20
D = 1 + 80 = 81 > 0 два корня