Ну насчет столбиком шутки шутками, а ведь можно делить многочлен на многочлен уголком, только в LaTeX это особо не распишешь. А вот разложить на множители вполне можно.
Сначала займемся числителем:

Здесь часто использовался метод искусственного добавления и вычитания слагаемых для вынесения за скобки общих множителей (в виде скобок). Вот каких - дело опыта, но имея опыт с нахождением корней многочленов высоких степеней, я уже знал, конечно, что в разложении будут присутствовать скобки
и
и последнюю скобку не стал раскладывать, тоже кое-что зная. Так что больше опыта нужно и внимательности. Других рекомендаций нет.
Получили 
Теперь знаменатель: по известной формуле 
получаем 
Осталось все это написать вместе и сократить

Сокращать можно только учитывая ограничения
ответ: 
(y⁵ - 2y³ + y² + y - 1) : (y² - 1) = y³ - y + 1
1) y⁵ - 2y³ + y² + y - 1 = (y - 1)(y⁴ + y³ - y² + 1) = (y - 1)(y³(y + 1) - (y - 1)(y + 1)) = (y - 1)(y + 1)(y³ - y + 1)
2) y² - 1 = (y - 1)(y + 1)
3) (y - 1)(y + 1)(y³ - y + 1) : (y - 1)(y + 1) =