Родился 12 (24) октября 1875 года в Москве, в немецкоязычной швейцарской семье. Отец — служащий страховой компании, позже — её директор; мать — музыкант-любитель.
С 1892 по 1898 год учился в МУЖВЗ. Его преподавателями были такие мастера, как К. А. Савицкий, А. Е. Архипов, Н. А. Касаткин.
По окончании училища два года работал в мастерской В. А. Серова. Затем основал собственную студию, в которой преподавал с 1900 по 1917 совместно с И. О. Дудиным. Его учениками были, в частности, А. В. Куприн, В. А. Фаворский, В. И. Мухина, братья Веснины, В. А. Ватагин, Н. Д. Колли, А. В. Грищенко, М. Г. Ройтер, Н. Терпсихоров.
В 1903 году Юон стал одним из организаторов Союза русских художников. Он также входил в число участников объединения «Мир искусства».
С 1907 года работал в области театральной декорации.
Вёл художественную студию на Пречистенских рабочих курсах с И. О. Дудиным (один из учеников — Ю. А. Бахрушин.)
В 1925 года Юон стал членом АХРР. Есть все основания полагать, что он симпатизировал большевизму. Так, на созданной в 1921 или 1922 году картине «Новая планета»[1] художник изобразил космосозидающее значение[неизвестный термин] Великой Октябрьской социалистической революции. В другой «космической» картине «Люди» (1923 г.) речь идет о наполненном тем же содержанием созидании нового мира. В том же плане выполнена и картина "Парад Красной армии" (1923).
Большой известностью пользуется и картина «Купола и ласточки. Успенский собор Троице-Сергиевой лавры» (1921 г.). Это панорамный пейзаж, написанный с колокольни собора ясным летним вечером, на закате. Под ласковым небом благоденствует земля, и на переднем плане сияют освещённые солнцем купола с золотыми узорчатыми крестами. Сам мотив не только очень эффектен, но и символизирует значительную культурную и историческую роль церкви[2][3]
Помимо работы в живописном жанре, Юон занялся оформлением театральных постановок («Борис Годунов» в парижском театре Дягилева, «Ревизор» в Художественном театре, «Аракчеевщина» и др.), а также художественной графикой.
В 1948 по 1950 годы художник работал директором Научно-исследовательского института теории и истории изобразительных искусств АХ СССР.
С 1952 по 1955 преподавал в качестве профессора в Московском художественном институте им. В. И. Сурикова, а также в ряде других учебных заведений. С 1957 года был первым секретарем правления СХ СССР.
Могила К. Ф. ЮонаК. Ф. Юон умер 11 апреля 1958 года. Похоронен в Москве на Новодевичьем кладбище (участок № 4)[4].
Брат — П. Ф. Юон.
