Из точки Е на ВС надо провести перпендикуляр. Пусть он пересекается с ВС в точке К. Тогда ВКЕ - равнобедренный прямоугольный треугольник, и его катеты ВК = ЕК = 3.
В прямоугольном треугольнике ЕКС катет ЕК = 3, гипотенуза ЕС = 5, то есть это "египетский" треугольник, его второй катет равен КС = 4.
Отсюда сторона квадрата ВС = 3 + 4 = 7, а площадь квадрата 7^2 = 49;
На самом деле, есть еще интересная возможность - если ЕD > BD. То есть точка E лежит на продолжении BD за точку B. В этом случае суть решения не меняется, но сторона квадрата ВС = 1, и площадь тоже 1.
Ось X - CA
Ось Y - CB
Ось Z - CD
Координаты точек
A(6;0;0)
B(0;8;0)
D(0;0;6)
Уравнение плоскости ABC
z=0
Уравнение плоскости ABD
ax+by+cz+d=0
подставляем координаты точек
6a+d=0
8b+d=0
6c+d=0
Пусть d= -24 тогда a=4 b=3 c=4
4x+3y+4z-24=0
Косинус угла между ABC и ABD равен
4/√(16+9+16)= 4/√41