Итак, есть уравнение 
Это уравнение всегда является квадратным относительно переменной х, а значит, максимум может быть два корня. Здесь это и требуется.
Ситуация, когда один корень равен другому, даже если этот корень 0, не подходит. На это есть ограничение D>0
По теореме Виета мы должны получить, что сумма корней равна 0, а их произведение всегда меньше 0.
Тогда получается, что
из этой системки (из 1-го уравнения) получаем, что m=0 или m=4, но из второго условия (неравенства) явно получаем, что m<1 и поэтому m=4 не годится. Осталось лишь ограничение D>0. Можно, конечно, было бы сказать, что при одном корне знак произведения всегда неотрицателен, а когда 0 корней, то вообще говорить не о чем. Пути 2: либо проверить само значение m=0, либо проверить D>0, например, если бы таких значений было бесконечно много.
Почему вообще это надо делать: теорема Виета работает прекрасно в любом квадратном уравнении. И вообще у уравнения n-ой степени (ограничимся здесь лишь обычными многочленами) всегда n корней по следствию из основной теоремы алгебры, правда, корни эти комплексные (множество действительных чисел является подмножеством комплексных чисел), так что у квадратного уравнения, на самом деле, всегда 2 корня, но не забивайте себе этим голову, просто примите к сведению, что D>0 здесь тоже надо бы проверить (а проще гораздо проверить само m=0)
Для того чтобы найти, на каких промежутках D>0, надо решить уравнение сначала D=0. Но там 4 страшных корня, 2 из которых действительные и нужны нам. Так что, как показывает практика, в эти дебри лучше не лезть. Но ради интереса я прикреплю картинки с формулами этих чисел. При подстановке m=0 D=12>0, что подходит.
И ещё раз повторю, что некоторые сведения были даны, чтобы понять, что в математике все не просто так и иногда какие-то вещи на самом деле гораздо более глубокие, чем мы думаем.
ответ: 
x²-2x≥0 х(х-2)≥0
3-х≥0 х≤3
х∈(-∞; 0]∪[2;3]