1)Косинус угла между векторами, зная их координаты вычисляется по формуле:
cos α = 
Здесь x1,x2, y1, y2 - координаты двух векторов.
Подставив в эту формулу координаты, получим:
cos α = (0 * 20 + 60) / √16 * √(20² + (-15)²) = 60 / 4 * √625 = 60 / 4 * 25 = 60/100 = 0.6
3)Доказать этот факт несложно. Достаточно соединить эти точки отрезками и доказать, что BA и BC будут перпендикулярными. Тогда мы докажем, что угол между векторами будет равен 90°, то есть они будут перпендикулярными. Теперь найдём каждую из этих сторон.(AB, BC,AC). Это можно сделать, воспользовавшись методом координат, используя извстную формулу, которую я здесь приводить не буду,(вы можете вполне сами найти её в интернете, а сразу проведу вычисления по ней, чтобы не загромождать место.
AB = √((2 - 0)² + (3 - 1)²) = √(4 + 4) = √8
BC = √((-1 - 2)² + (6 - 3)²) = √(9 + 9) = √18
AC = √(-1)² + (6 - 1)² = √(1 + 25) = √26
Теперь заметим, что (√26)² = (√18)² + (√8)², то есть сумма квадрата одной стороны равна сумме квадратов двух других сторон(это обратная теорема Пифагора), значит данный треугольник является прямоугольным, причём по длине сторон можно заключить, что AC - гипотенуза, тогда AB и BC - катеты, которые взаимно перпендикулярны. Итак. мы доказали, что между данными векторами прямой угол, значит они перпендикулярны между собой, что и требовалось доказать.
AB =c = 6 см ;
∠A =60° ;
BC =a =4 см .
∠C -?
По теореме синусов :
a / sin (∠A ) = b / Sin (∠B ) = c / sin (∠C ) ;
4 / sin 60° = 6 / sin ( ∠C ) ⇔ 4 / (√3 /2) = 6 / sin ( ∠C )⇒ 8 / √3 = 6 / sin ( ∠C )
⇒ sin ∠C = (6√3 ) / 8) = (3√3 ) /4 > 1 невозможно , а это свою очередь означает что не существует треугольник такими параметрами . Действительно, кратчайшее расстояние от точки B (вершины) до прямой AC (стороны ) равно (√(6² - (6/2)²) = √27 =3√3 ≈ 3*1,73 =5,19 ( или по другому AB*sin60° ) , что больше чем BC = 4