Тут два варианта. 1) Если они решили разные задачи, то ни одной нерешенной не осталось. В условии прямо сказано: Егор решил задачи, которые НЕ решил Миша. Значит, Миша решил, допустим, 3 задачи, а Егор 2 оставшиеся. Вместе они решили все 5 задач. 2) Если они решили одинаковые задачи, то остались нерешенными минимум из количества задач, решенных обоими. Чтобы было более понятно, приведу пример. Пусть Егор решил 3 задачи и не решил 2. А Миша решил 2, но это те же задачи из 3, решенных Егором. Тогда остались нерешенными 2 задачи, которые не решил Егор. То есть осталось не решенными столько задач, сколько решил Миша.
Если от вас ждут одного ответа, тогда надо уточнить, сколько задач решили оба мальчика, и Миша, и Егор. То есть пересечение множеств задач.
К(3,4,7)=(84, 168, 252, 336, 420,...).