Сначала нужно перевести 1 целую 4/7 в неправильную дробь. Для этого коэффициент целой части умножаешь на знаменатель и к получившемуся результату добавляешь числитель, т.е.(в твоем случае) : 1х7+4=11 (числитель не меняется - 7). Теперь можно приступать к самому делению, НО есть один момент, о котором не стоит забывать - при делении одной дроби на другую, первая дробь (7/5) остается неизменной, а вот вторая (уже 11/7) как бы переворачивается и становится 7/11. Вместе с дробью автоматически меняется и действие - деление заменяется умножением, и теперь ты получаешь такой пример : 7/5 x 7/11. Дальше числители под одну черту, как и знаменатели, и выполняешь обычное умножение дробей. Если я не ошиблась - получается дробь 49/55. Если в ответе дробь можно сократить - сокращай:)
f(0.2) = 3*0.2 - 0.2*(0.2)² = 0.6 - 0.008 = 0.592
f(2/3) = 3*(2/3) - 0.2 * (2/3)² = 2 - 0.2 * (4/9) = 2 - (1/5) * (4/9)=
= 2 - (4/45) = 90/45 - 4/45 = 86/45 = 1 ⁴¹/₄₅