Родился в селе Емецк Архангельской области, в многодетной семье. В 1942, после смерти родителей, был направлен в Никольский детский дом на Вологодчине. Окончив семь классов, поступил в Тотемский лесотехнический техникум.
В 1955 жил в Ленинграде у брата и работал слесарем на заводе, в 1956-1958 служил на Северном флоте.
В 1962, представив свои первые стихи, успешно выдержал конкурс на поступление в Литературный институт. Первый небольшой сборник стихов Рубцова «Лирика» вышел в 1965 в Архангельске. До своей трагической гибели опубликовал ещё три сборника, названия которых отражают основную направленность его поэзии: «Звезда полей» (1967), «Душа хранит» (1969), «Сосен шум» (1970). В элегических стихах поэта – его привязанность к русской деревне, миру тишины, звёзд, воды, берёз, родным просторам.
Но он преодолеет все трудности, осилит даже французский язык, а впоследствии оценит и ту которую ему оказала учительница Лидия Михайловна, нарушив из-за него пренебрегла своим профессиональным долгом и нарушила учительскую этику.