Родился, вероятно, 31 марта 1732 г. (крещён 1 апреля 1732 г.) в деревне Рорау (Нижняя Австрия).
В шестилетнем возрасте Гайдн был отдан в школу в Хайнбурге, где обучался игре на различных музыкальных инструментах и пению. Уже в 1740 г. Гайдн, благодаря прекрасному голосу, стал певчим в соборе Святого Стефана в Вене. В хоре собора он пел до 1749 г. Живя в крайней бедности и нужде, Гайдн находил отраду только в занятиях музыкой. В австрийской столице он познакомился с итальянским поэтом, драматургом и либреттистом П. Метастазио, который в свою очередь познакомил Гайдна с композитором и педагогом Н. Порпорой.
С 1753 по 1756 г. Гайдн работал у Порпоры аккомпаниатором и одновременно изучал основы композиции. В 1759 г. он получил место дирижёра капеллы у чешского графа Морцина. Тогда же им была написана первая симфония, имевшая большой успех и завоевавшая ему симпатию князя Эстергази, который предложил Гайдну место капельмейстера в своём оркестре.
Музыкант принял это предложение в 1761 г. и прослужил у князя 30 лет. После смерти Эстергази в 1790 г. Гайдн остался без определённой должности, но имя его как композитора уже было широко известно. Особенно прославили Гайдна его симфонии. Всего им написано 119 симфоний, в том числе 45-я «Прощальная» (1772 г.), шесть Парижских симфоний (1785—1786 гг.), 92-я «Оксфордская» (1789 г.), двенадцать Лондонских симфоний (1791—1795 гг.), явившихся откликом на поездки в Лондон в 1791—1792 и 1794—1795 гг.
Кроме симфоний композитором написаны 22 оперы, 19 месс, 83 струнных квартета, 44 фортепианные сонаты и множество других произведений.
В области инструментальной музыки Гайдн считается одним из крупнейших композиторов рубежа XVIII—XIX вв.
В 1792 г. его учеником был Л. ван Бетховен. Последние годы жизни Гайдн провёл в Вене. Здесь он написал оратории «Сотворение мира» (1798 г.) и «Времена года» (1801 г.).
Талант Гайдна был высоко оценён его современниками. В 1791 г. он стал почётным доктором Оксфордского университета, в 1798 г. — членом Шведской королевской академии музыки. В 1804 г. композитор был избран почётным гражданином города Вены, а в 1808 г. — почётным членом Филармонического общества в Петербурге.
Умер 31 мая 1809 г. в Вене.ио .
