Нужно делить на СООТВЕТСТВУЮЩУЮ сторону треугольника. Если дано, что треугольники АВС и ОРТ, подобны, то вначале надо определить какие стороны являются соответствующими (и то же самое с углами: соответствующие углы у подобных треугольников равны). Как правило в учебниках, при записи подобных треугольников соответствие определяется по положению буквы в записи треугольника. Хотя, в новых учебниках это явно не сказано. Например, если сказано, что треугольники АВС и ОРТ подобны, то подразумевается, что угол А равен углу О, угол В равен Р, и С равен Т. И тогда стороне АВ соответствует сторона ОР, стороне ВС соответствует РТ и стороне АС соответствует OТ. Т.е. при такой записи, будет AB/OP=BC/PT=AC/OT. И в вашей задаче, если AB=8, то чтобы определить коэффициент подобия, надо знать длину именно ОР. И если сказано, что она 4, то да, треугольник ABC подобен треугольнику ОРТ с коэффициентом подобия 2.
Если в данном прямоугольном треугольнике есть угол, равный 60-ти градусам, то в нём будет угол, равный 30-ти градусам(180-90-60=30). Как нам известно, в треугольниках напротив большего угла лежит бОльшая сторона этого самого треугольника, т.е. напротив угла в 30 градусов лежит меньший катет этого прямоугольного треугольника. А как нам всем известно, в прямоугольном треугольника сторона, лежащая напротив угла в 30 градусов, равна половине его гипотенузы. Т.е. разница между гипотенузой и меньшим катетом треугольника является просто разницей между гипотенузой и её половины. Значит сама гипотенуза равна 6-ти см(3*2=6), а меньший катет равен 3-ём см. ответ: гипотенуза=6 см, меньший катет=3 см.