Строишь графики функций y = x² и y = x + 5, но в системе координат с дополнительной осью O, параллельной оси Оy, но сдвинутой на 4 вправо, т.е. провести ее надо через точку 4 по оси Ох. Построил? Теперь смотришь на знаки. Если на каком-то отрезке оси Ох знаки функции одинаковы, т.е. их графики одновременно или выше, или ниже оси Ох, то нужное нам произведение больше нуля, если находятся по разные стороны от оси Ох, то оно меньше нуля.
Т.е. в нашем случае ответ будет x ∈ (-бесконечности; -1], или x ≤ -1
, параллельной оси Оy, но сдвинутой на 4 вправо, т.е. провести ее надо через точку 4 по оси Ох. 
находим гипотенузу 6^2+8^2=10^2
R=10/2=5