Есть 12 вариантов выбора книг для покраски по количеству книг в каждом цвете (красный, зеленый, коричневый)
1 1 10
1 2 9
1 3 8
1 4 7
1 5 6
2 2 8
2 3 7
2 4 6
2 5 5
3 3 6
3 4 5
4 4 4
Им соответствуют количество вариантов выбора книг по их числу, например, первому, 12!/(10!*2!)*2!/(1!*1!)=66*2=132. Их надо посчитать.
И каждому набору соответствует число возможных перестановок по цветам. Если все числа в наборе разные, то 3!=6, если две одинаковые, до 3!/(2!*1!)=3, если все одинаковые (последний случай) , то 3!/(3!*0!)=1.
Затем количество вариантов выбора книг для каждого набора надо умножить на количество перестановок в наборе (то есть, для первого получится 132*3=396), и полученные числа сложить. Получится 519156.

- 1 =
- 1 = 1-1=0
Необходимо выполнить ряд преобразований. Сначала - раскрываем скобки. Зачем они? :D Получаем:
2sin4x + 2sin4x*cos2x - cos2x - cos^2(2x) = sin^2(2x).
Переносим последнее слагаемое левой части в правую часть.
2sin4x + 2sin4x*cos2x - cos2x = cos^2(2x) + sin^2(2x).
Очевидно, что cos^2(2x) + sin^2(2x) = 1 при любых значениях x. Тогда, перенося -cos2x в правую часть и вынося в левой части общий множитель за скобки, получим:
2sin4x * (1 + cos2x) = 1 + cos2x.
Далее мы переносим всю правую часть уравнения влево и снова выносим общий множитель за скобки.
(1 + cos2x) * (2sin4x - 1) = 0.
Далее уравнение примет вид совокупности. Первым ее условием станет уравнение [1 + cos2x = 0], вторым же - [2sin4x - 1 = 0]. Эти уравнения сводятся к простейшим тригонометрическим уравнениям, поэтому решать до конца я не буду. Но корни получаются, на первый взгляд, хорошими. Удачи. :)