Родился в селе Емецк Архангельской области, в многодетной семье. В 1942, после смерти родителей, был направлен в Никольский детский дом на Вологодчине. Окончив семь классов, поступил в Тотемский лесотехнический техникум.
В 1955 жил в Ленинграде у брата и работал слесарем на заводе, в 1956-1958 служил на Северном флоте.
В 1962, представив свои первые стихи, успешно выдержал конкурс на поступление в Литературный институт. Первый небольшой сборник стихов Рубцова «Лирика» вышел в 1965 в Архангельске. До своей трагической гибели опубликовал ещё три сборника, названия которых отражают основную направленность его поэзии: «Звезда полей» (1967), «Душа хранит» (1969), «Сосен шум» (1970). В элегических стихах поэта – его привязанность к русской деревне, миру тишины, звёзд, воды, берёз, родным просторам.
... а Фиона была русская простота, которой даже лень сказать кому-нибудь: "прочь поди" и которая знает только одно, что она баба. Такие женщины очень высоко ценятся в разбойничьих шайках, арестантских партиях и петербургских социально-демократических коммунах.
Для нее не существовало ни света, ни тьмы, ни худа, ни добра, ни скуки, ни радостей, она ничего не понимала, никого не любила и себя не любила.
Ко всякому отвратительному положению человек по возможности привыкает, и в каждом положении он сохраняет по возможности преследовать свои скудные радости.
Любовь ее к отцу, как любовь многих слишком страстных женщин, не переходила никакою своею частию на ребенка.
Да каких ты это людей знала, что им только дверью к женщине и дорога? Мне что к тебе, что от тебя - везде двери.
Н. С. Лесков «Леди Макбет Мценского уезда»