Пусть точка C(0, m) - центр окружности (так как по условию центр лежит на оси OY, то первая координата равна 0)
Известно, что расстояние от центра до любой точки на окружности является константой и равно радиусу R окружности
Наша окружность проходит через точку 7 на оси OY, значит R = 7 - m
Также окружность проходит через точку 5 на оси OX, значит по теореме Пифагора 
Приравняем это и получим уравнение:

Возвёдём в квадрат и решим уравнение:

Координата центра окружности - 
Радиус окружности: 
Уравнение окружности выглядит следующим:

Подставим наши числа:

ответ: 
x≥2 x+1+x-2=x+3 x=4
-1≤x≤2 x+1-x+2=x+3 x=0
-3≤x≤-1 -x-1-x+2=x+3 3x=-2 x=-2/3 не подходит по ограничению
х≤-3 -х-1-х+2=-х-3 х=-1+2+3=4
ответ х=4, х=0