Так как окружность касания осей координат, то для координат ее центра и радиуса окружности справделиво равенство
учитывая, что окружность проходит через точку (8;-4) опускаем модуль (окружность за исключением точек касания находится в IV четверти) 
уравнение окружности имеет вид (x-x_0)^2+(y-y_0)^2=R^2
;
R=20 или R=4
значит существуют две окружности проходящие через точку (8;-4) и касающееся осей координат
и 
вторая задача, пряммая симетричная относительно точек А и В - середнинный перпендикуляр
Ищем координаты середины отрезка АВ,
(0;2)
ищем уравнение пряммой АВ в виде y=kx+b
3=-2k+b;
1=2k+b;
2=-4k
1=2k+b;
k=-0.5
b=2;
y=-0.5x+2
перпендикулярные пряммые связаны соотношением угловых коэффициентов
k_1k_2=-1
поєтому угловой коєффициент искомой пряммой равен k=-1/(-0.5)=2
учитывая что искомая пряммая проходит через точку С ищем ее уравнение в виде
y=kx+b (k=2)
2=2*0+b;
b=2
y=2x+2 или y-2x-2=0
в чем ошибка у вас - неведомо, ибо вы своего решения не предоставили
Вектор АВ (5-6=1, 5-1=4) = АВ (1,4)
Составляем каноническое уравнение прямой с направляющим вектором АВ проходящей через точку А:
(x - 6)/1 = (y - 1)/4
b) Уравнение высоты АH. Составим общее уравнение прямой АН, используя ортогональный вектор ВС.
Вектор ВС (2-5=-3, 10-5=5) = BC(-3, 5)
тогда уравнение прямой будет выглядеть так:
-3x + 5y + d = 0
чтобы найти постоянную d подставим в уравнение координаты точки А:
-3*6 + 5*1 + d = 0
-13 + d = 0
d = 13
Итого уравнение прямой AH:
-3x + 5y + 13 = 0
c) Уравнение медианы BM
найдем точку M - середину отрезка АС:
x = (6 + 2)/2 = 4
y = (1 + 10)/2 = 5.5
Итого М (4, 5.5)
Вектор ВМ ( 4-5=1, 5.5-5=0.5) = ВМ (1, 0.5)
Каноническое уравнение прямой ВМ:
(x - 5)/1 = (y - 5)/0.5
d) Точка пересечения АН и ВМ
Преобразуем уравнение ВМ к общему виду:
x - 5 = (y - 5)/1/2 = 2y - 10
x - 2y + 5 = 0
Далее решая систему:
-3x + 5y + 13 = 0
x - 2y + 5 = 0
получим координаты точки пересечения.
Умножим второе уравнение на 3 и прибавим к первому:
-3x + 3x + 5y - 6y + 13 + 15 = -y + 28 = 0
y = 28
Подставим у = 28 во второе уравнение:
x - 56 + 5 = 0
x = 51
Итого, точка пересечения медианы BM и высоты AH :
D( 51, 28)