Пусть abc - это запись нашего числа.
Запишем уравнения согласно условиям задачи:
a + b + c = 17 (1)
a^2 + b^2 + c^2 = 109 (2)
abc - 495 = cba (3)
abc - 495 = cba (3) => 100a + 10b + c - 495 = 100c + 10b + a => c = a - 5 (3')
a + b + c = 17 (1) => b = 17 - (a + c) (1')
Из (3') найдем все возможные значения a и c: (a,c) = (5,0), (6,1), (7,2), (8,3), (9,4).
Из (1') найдем соответствующие им значения b. Таким образом, получим все возможные тройки (a,b,c) (исключаем варианты, где b > 9): (a,b,c) = (7,8,2), (8,6,3), (9,5,4). Проверив подстановкой в (2), найдем единственную тройку (а, следовательно, и число), удовлетворяюшую условиям (1), (2) и (3). Это число 863.
Решение задания приложено