У Вас файл должен заканчиваться .html
Проще всего это сделать открыв текстовый блокнот, написать туда Ваш HTML код, нажать свойства -> сохранить как -> Выбрать внизу тип "Все файлы" и после чего в названии файла написать [Названия файла].html
После чего ищите место куда Вы его сохранили. Как найдёте, нажимаете правую кнопку мыши и открыть при После чего выбираете браузер которым Вы пользуетесь.
Если же Вам нужно изменить файл, тогда его открываете не через браузер, а через любой текстовый редактор.
int main ()
{
SetConsoleOutputCP(1251);
cout<<"Введите три числа"<<endl;
int a,b,c;
cin>>a>>b>>c;
if ( (a<0) && (b<0) && (c<0))
{
cout<<"неотрицательных чисел нет"<<endl;
system("pause");
return 0; // дальше не выполняем, чтобы не тратить силы впустую
}
if (a>0)
cout<<a*a<<endl;
if (b>0)
cout<<b*b<<endl;
if (c>0)
cout<<c*c<<endl;
system("pause");
return 0;
}