Условие задачи неполное. Должно быть так:
Основанием тетраэдра МАBC служит треугольник АBC в котором AB = BC и АС = 2а√3. Точка О принадлежит АС отрезок МО перпендикулярен АС и ОА = ОС. Расстояние от точки О до прямой МB равно а. Найти угол между плоскостями (AMB) и (CMB).
Проведем ОК⊥МВ. Тогда ОК - расстояние от точки О до прямой МК и ОК = а.
ΔАВС равнобедренный, значит медиана ВО (ОА = ОС по условию) является и высотой,
ВО⊥АС,
МО⊥АС по условию, значит
АС⊥(МОВ).
МВ лежит в плоскости (МОВ), значит МВ⊥АС и ОК⊥МВ по построению, тогда МВ⊥(АКС) и значит ∠АКС - линейный угол двугранного угла между плоскостями (АМВ) и (СМВ).
АО = ОС = АС/2 = а√3, МО - медиана и высота в треугольнике МАС, значит он равнобедренный,
МА = МС.
ΔМАК = ΔМСК по гипотенузе и катету (∠АКМ = ∠СКМ = 90°, МА = МС и МК - общий катет), тогда
АК = КС, значит медиана ОК в равнобедренном треугольнике АКС является и высотой и биссектрисой, т.е. ОК⊥АС и ∠АКС = 2∠ОКС.
ΔОКС: ∠КОС = 90°,
tg∠OKC = OC / OK = a√3 / a = √3
Тогда ∠ОКС = 60°.
∠АКС = 2∠ОКС = 120°
см. рисунок. Там сделали допостроения и обозначения.
СВ=х
АС=х-7
по т. Пифагора (х-7)²+х²=13²
отсюда х=12 (отрицательное значение ж не подходит)
х-7=5
Катеты будут 5 и 12.Напишем их зеленым на рисунке, чтоб удобнее было.
А теперь самое интересное.
Центр опис.окр. лежит на серединных перпендикулярах. Что и обозначено. Т.е. СМ=12/2=6
Дальше, ∠СОК - центральный для ∠СВК, значит он = 2α, тогда угол СОН в 2 раза меньше ( треугольник СОК равнобедр. с высотой ОН) и равен α. Обозначим зеленым.
Тогда ∠ОСМ=90-α-45=45-α
теперь из Δ ОСМ имеем R=CM/cos(45-α)
R=6/cos(45-α)
подставляя формулу косинуса разности получаем
cos(45-α)=cos45cosα+sin45sinα=√2/2(cosα+sinα)
но из первоначального треугольника, когда нашли его катеты, имеем
cosα=12/13
sinα=5/13
a cosα+sinα=12/13+5/13=17/13
cos(45-α)=17√2/26
и R=6/(17√2/26)=78√2/17
вроде так.