Это довольно трудная задача если решать в лоб, но можно увидеть необычное использование теоремы Пифагора.
Если изобразить это уравнение, то это просто окружность с центром в точке (0,0) радиуса 3.
А пото внимательно смотрим на косинусы и получаем что по теореме Чевы можно их сложить, а значит получаем:
(переписываете исходное уравнение)
Снизу пишите по теореме Чевы - решения есть при любых а
Осталось эти решения найти. И тут то и применяем всю красоту математики. Пишем:
По т. Соса x=cos(x-2a)*S, S найдем по теореме Ницкого: S=14-12+2=4
x=4*a
Красиво? Мне кажется очень.
1) Решим систему, чтобы облегчить построение:
Понимаем, что график не даст нам точные координаты пересечения и строим его схематически (см рис.)
2) Одна точка пересечения (-2; -5) (пересечение прямых x = - 2 и y = -5).
Найдем две точки пересечения:
5x + 2y = 10 и x = -2 ⇒ -10 + 2y = 10 ⇒ y = 10 ⇒ (-2; 10)
5x + 2y = 10 и y = -5 ⇒ 5x - 10 = 10 ⇒ x = 4 ⇒ (4; -5)
Т.к. один из углов треугольника образован пересечением перпендикулярных прямых x = - 2 и y = -5, то он прямоугольный и можем найти длину катетов, вычитая ординаты точек для пары (-2; -5) и (-2; 10) ⇒ a = 10 - (-5) = 15
и абсциссы точек для пары (-2; -5) и (4; -5) ⇒ b = 4 - (-2) = 6
Тогда 
Для более общего решения найдем площадь треугольника заданного координатами трех точек в двухмерном декартовом пространстве как половину векторного произведения построенного на двух векторах задающих две стороны треугольника.
Для треугольника построенного на точках 
площадь будет равна:
20/80=0,25 вероятность того, что случайно вынутое из корзины яблоко окажется красным