x^2 - 3x + 2 = (x - 1)(x - 2) < 0
Решением этого неравенства является промежуток (1, 2)
Разложим на множители левую часть второго неравенства:
ax^2 - (3a + 1)x + 3 = (ax^2 - x) - (3ax - 3) = x(ax - 1) - 3(ax - 1) = (x - 3)(ax - 1) = a(x - 3)(x - 1/a)
Возможны 5 вариантов.
1) a > 1/3. Тогда решение неравенства – промежуток (1/a, 3). Нужно, чтобы промежуток (1, 2) полностью содержался в нём, так будет, если 1/a < 1. Объединяем с условием a > 1/3 и получаем часть ответа: a > 1.
2) a = 1/3. У второго неравенства нет решений.
3) 0 < a < 1/3. Решение неравенства – промежуток (3, 1/a); такой промежуток никогда не содержит (1, 2).
4) a = 0. Второе неравенство превращается в 3 - x < 0, x > 3. Не подходит.
5) a < 0. Решение второго неравенства – промежуток (1/a, 3), при этом 1/a < 0. Подходит.
ответ. 
2 Cos² 2x - Cos x -1 = 0
Решаем как квадратное
a) Cos 2x = 1 б) Cos 2x = -1/2
2x = 2πk, где к ∈Z 2x = +- arc Cos (-1/2) +2π n , где n∈Z
х = π к, где к∈Z 2x = +-2π/3 + 2πn, где n∈Z
x = +- π/3 + πn,где n∈ Z
Получили 2 группы корней. Будем искать корни, которые попадают в указанный промежуток
Разберёмся с указанным отрезком на числовой прямой
-π -π/2 0 π/3
а) х = πк,где к ∈Z
k = -1
x = -π ( попадает в указанный отрезок)
к = 0
х = 0 ( попадает в указанный отрезок)
к = 1
к = 2
х = 2π( не попадает в указанный отрезок)
б) х = +- π/3 +πn,где n ∈Z
n = 0
x = +-π/3 (попадает в указанный отрезок)
n = 1
х = π/3 + π( не попадает)
х= - π/3 +π ( не попадает)
n = -1
x = π/3 - π = -2π/3( попадает)
х = -π/3 -π(не попадает)