a-3=x; b-5=y; c-7=z; 
Левая часть - это произведение трех целых чисел, причем каждое из них есть либо сумма двух других, либо разность двух других. При этом 2 и 3 входят в это произведение по два раза. Если бы два из этих чисел делились на два (или на три), то и третье число делилось бы на в (на 3), а тогда произведение делилось бы на 2 (на 3) в третьей степени. Поэтому ровно одно из этих чисел делится на 4, ровно одно (может быть то же самое) делится на 9. Аналогично только одно из них делится на 5. Но поскольку 180 в точности есть произведение чисел 4, 9 и 5, мы имеем следующие возможности для разбиения 180 в произведение трех целых чисел (знаки и порядок пока не учитываем):
Из этих возможностей нужно выбрать те, в которых сумма двух чисел равна третьему (или разность двух чисел равна третьему; впрочем эти условия равносильны). Видим, что этому условию удовлетворяет только разбиение 
Отсюда: x=-4, y=-5, z=-(x+y) =9; или x=-5, y=-4, z=9; или x=9, y = -4 z= - 5; или x=9, y= - 5, z= - 4; или x= - 4, y=9, z= - 5; или x= - 5, y=9, z= - 4
Вернуться к a, b и с предлагается самому автору задания
Предположим противоположное, что 
- является рациональным числом, тогда его можно записать в виде несократимой дроби 
, где P,Q - некоторые целые числа
так как P, Q, 11 - целые, то Р делится на 11, а значит его можно записать в виде
P=11k, где k - некоторое действительное число
так как P, Q, 11 - целые, то Q делится на 11, что невозможно у P и Q нет общих делителей кроме 1 или -1. Пришли к противоречию.
Значит корень из 11 не является рациональным числом, т.е. корень из 11 является иррациональным числом. Доказано
а=5 м
b=6 м
S=5*6=30(м²)