1)Раз точка А равно удалена от точек В и С значит отрезки АВ и АС равны
длинна отрезка = КОРЕНЬ( ( х2 - х1 )^2 + ( у2 - у1 )^2 + ( z2 -z1 )^2 )
получим длинна АВ = КОРЕНЬ ( 1 + 4 - 4 * y + y^2 + 9 ) длинна АС = Корень ( 1 + 9 - 6 * y + y^2 + 16)
2)из п.1 AC = AB => Корень ( 1 + 9 - 6 * y + y^2 + 16) = КОРЕНЬ ( 1 + 4 - 4 * y + y^2 + 9 )
квадратные кони равны между собой тогда и только тогда когда подкоренные выражения равны между собой
1 + 9 - 6 * y + y^2 + 16 = 1 + 4 - 4 * y + y^2 + 9
y^2 - 6 * y +26 = y^2 - 4 * у +14
2 * y = 12
у = 6
3)Значит при у = 6 точка А(0;у;0) равноудалена от точек B(1;2;3) и С(-1;3;4).
Обозначим точку пересечения АМ и CK через О. Рассмотрим треугольник АBС.
Есть такая формула для нахождения длины биссектрисы.
где a, b - стороны треугольника, к которым относится биссектриса, а 
- угол между этими сторонами.
Выразим биссектрису СК через стороны АС и ВС, а также через угол С.
Теперь рассмотрим треугольник АМС. Там биссектрисой уже будет СО. Выразим СО по той же формуле биссектрисы
По условию задачи MC=0,5ВС. Подставим это значение в предыдущую формулу
По условию задачи
Пусть СО=5х, тогда ОК=3х. СО+ОК=5х+3х=8х.
Теперь в формулу (***) подставим значение СО из (**), значение СК из (*)
Cократим обе части равенства на множители 
Получается
Умножим обе части на 4.
Умножим обе части на (АС+ВС)*(AC+0,5BC).
4*(АС+ВС)=5*(AC+0,5BC)
4АС+4ВС=5АС+2,5ВС
4ВС-2,5ВС=5АС-4ВС
1,5ВС=АС
По-другому
чтобы составить уравнение окружности надо знать координаты центра и радиус окружности
найдем радиус окружности, это длина отрезка ре
ре = корень из (х2-х1)^2 + (y2 - y1)^2
pe = корень из (1 +2)^2 + (-3 +5)^2
pe = корень из 9 + 4
ре = корень из 13
составим уравнение окружности
(х - а)^2 + (y - b)^2 = r^2
(x -1)^2 + (y + 3)^2 =13