Задачка довольно не простая, поэтому решение будет длинным.
Просто хочу сказать что все что я решал до этого привело меня в полное безумие. И этим решением является текст данный мной ниже.
Так как гипотенуза равна
и один из катетов например AC = x, то катет AB = 
Проводим биссектрисы из двух остроугольных вершин.
Их пересечение создает треугольник ВDC:
Угол ∠ABC = 
Значит ∠DBC = 
Угол ∠BCA = 
Значит ∠DCA =
.
Напишем уравнение прямой BC

где BA =
, AC = x
Теперь, зная что центр вписанной окружности находится на одинаковом расстоянии от сторон треугольника, напишем систему равенств.
Теперь ищем такое значение Dx, при котором Dx = расстоянию от точки D то прямой BC.
Расстояние от точки D то прямой BC будет равно по формуле

Составим систему равенств




А теперь приступим к настоящему :
Так как гипотенуза равна
и один из катетов например AC = x, то катет AB = 
Проводим биссектрисы из прямой и остроугольной вершины.
Их пересечение создает треугольник ADC:
Угол ∠BAC = 90°
Значит ∠DAC = 45°
Угол ∠BCA = 
Значит ∠DCA =
.
Найдем значение x1 при котором прямые AD и DC пересекаются:
x1 =
, где k1 и b1 коэффициенты прямой AD а k2 и b2 коэффициенты прямой DC.
Площадь треугольника BDC равно
.

А радиус окружности равен 
Подставим все известные нам величины.



Получился полный капец.
Я сам в шоке.
Я не просто в шоке, а в полном отчаянии, потому что нам сейчас надо найти производную от этого.
Самое обидное то, что я знаю какой будет ответ, а именно 
потому что максимальный радиус будет при равных катетах прямоугольного треугольника.
Но обоснование ответа будет мне стоить похоже 10 лет жизни.
прощения. Я не смог вам с решением данной задачи