Методом подбора рассмотрим крайние варианты:
1 вариант
Мальчики сбивали кегли 13 раз. За эти 13 раз Юра не сбил ни одной, а так как Антон каждый раз сбивал больше, чем Юра, то выглядеть это может так:
Юра Антон
0 1
0 1
0 1
0 1
0 1
0 1
0 1
0 1
0 1
0 1
0 1
0 1
0 1
Итого: Юра сбил 0 кеглей, Антон сбил 13 кеглей
2 вариант
Пусть Юра сбил сразу 6 кеглей. Тогда Антон сбил 7 кеглей
Как мы видим, вариантов может быть несколько:
Юра сбил 0 кеглей, Антон - 13 кеглей
Юра сбил 1 кеглю, Антон - 12 кеглей
Юра сбил 2 кегли, Антон - 11 кеглей
Юра сбил 3 кегли, Антон - 10 кеглей
Юра сбил 4 кегли, Антон - 9 кеглей
Юра сбил 5 кеглей, Антон - 8 кеглей
Юра сбил 6 кеглей, Антон - 7 кеглей
х чел. было в автобусе, тогда
40=10-6-11+8+х
40=1+х
х=40-1=39 чел. было