Нужно делить на СООТВЕТСТВУЮЩУЮ сторону треугольника. Если дано, что треугольники АВС и ОРТ, подобны, то вначале надо определить какие стороны являются соответствующими (и то же самое с углами: соответствующие углы у подобных треугольников равны). Как правило в учебниках, при записи подобных треугольников соответствие определяется по положению буквы в записи треугольника. Хотя, в новых учебниках это явно не сказано. Например, если сказано, что треугольники АВС и ОРТ подобны, то подразумевается, что угол А равен углу О, угол В равен Р, и С равен Т. И тогда стороне АВ соответствует сторона ОР, стороне ВС соответствует РТ и стороне АС соответствует OТ. Т.е. при такой записи, будет AB/OP=BC/PT=AC/OT. И в вашей задаче, если AB=8, то чтобы определить коэффициент подобия, надо знать длину именно ОР. И если сказано, что она 4, то да, треугольник ABC подобен треугольнику ОРТ с коэффициентом подобия 2.
Условие задачи дано с ошибкой: если в основании прямоугольного параллелепипеда квадрат, то диагональ основания составляет с боковой гранью угол 45°, а не 30°. Кроме того, по этим данным невозможно найти высоту прямоугольного параллелепипеда.
Задача встречается в таком виде: Основанием прямоугольного параллелепипеда служит квадрат. Диагональ параллелепипеда равна 12, она составляет угол 30° с плоскостью боковой грани. Найдите объём прямоугольного параллелепипеда.
DB₁ - диагональ прямоугольного параллелепипеда. Угол между прямой и плоскостью - угол между прямой и ее проекцией на эту плоскость. В₁С₁⊥(DD₁C₁), значит DC₁ - проекция диагонали DB₁ на плоскость (DD₁C₁), а ∠B₁DC₁ = 30°.