1) Получаем треугольник AOB (см.рис1), стороны которого нам известны (AO=10 см, BO = 6 см, AB = 14 см). Из этого треугольника по теореме косинусов:
.
2) (см.рис2) Угол CDO - прямой, т.к. CD - расстояние от вершины С до грани угла (перпендикуляр). Значит, треугольник COD - прямоугольный, CO - гипотенуза. В то же время CO - высота равностороннего треугольника ABC. 
Из треугольника COD по определению синуса, синус угла COD равен отношению противолежащего катета CD к гипотенузе CO sinO= 2/4 = 1/2. То есть 
3) (см.рис3) В треугольнике EOF сторона EO - это высота равностороннего трегольника ABE 
Сторона OF равна стороне квадрата, DF равна половине стороны квадрата (OF - средняя линия ABCD), сторону EF найдём из прямоугольного треугольника EFD (EF перпендикуляр к CD => EFD - прямоугольный, ED - гипотенуза): 
.
Тогда из треугольника EOF по тереме косинусов:
сначала делаем скобки
80+60=140
96-56=40
400-140+40=300
во втором условие где-то не правльно