Пусть точка C(0, m) - центр окружности (так как по условию центр лежит на оси OY, то первая координата равна 0)
Известно, что расстояние от центра до любой точки на окружности является константой и равно радиусу R окружности
Наша окружность проходит через точку 7 на оси OY, значит R = 7 - m
Также окружность проходит через точку 5 на оси OX, значит по теореме Пифагора 
Приравняем это и получим уравнение:
Возвёдём в квадрат и решим уравнение:
Координата центра окружности - 
Радиус окружности: 
Уравнение окружности выглядит следующим:
Подставим наши числа:
ответ: 
ах+11а+вх-3в=2х сгруппируем кое-что
(ах+вх) +(11а-3в)=2х вынесем иксик за скобки
х(а+в)+(11а-3в)=2х.
Теперь, зная, что
а+в=2 и 11а-3в=0, получаем
а=2-в
11(2-в)-3в=0
22-11в-3в=0
14в=22
в=11/7
в=1целая4/7, тогда а=2-в=2-1целая4/7=3/7.
ответ: а=3/7, в=1целая4/7.