Первое уравнение - график окружности с центром в точке (0;0), то есть в начале координат, радиусом 3.
Второе уравнение y=x^2+p, график параболы, ветви которой направлены вверх, и которая двигается по оси Oy вверх или вниз(но не влево и вправо) в зависимости от значения p. Парабола будет иметь с графиком окружности 3 точки пересечения (а значит и система будет иметь три решения), когда вершина параболы будет лежать на окружности, а две ветви параболы будут пересекать окружность в 2 точках. Вершина параболы должно лежать в точке (0; -3) чтобы это выполнялось, а значит p=-3
P.S. если что-то не понятно, напишите.
а) (5-в) (5+в) - 2в (в-3)=25-в²-2в²+6в=25-3в²+6в
б) -5у (у+3) + (у-4)=-5y²-15y+y-4=5y²-14y-4
в) 3(х-2)*2 - 3х*2 =3x²-12x+12-3x²=-12x+12