Первое уравнение - график окружности с центром в точке (0;0), то есть в начале координат, радиусом 3.
Второе уравнение y=x^2+p, график параболы, ветви которой направлены вверх, и которая двигается по оси Oy вверх или вниз(но не влево и вправо) в зависимости от значения p. Парабола будет иметь с графиком окружности 3 точки пересечения (а значит и система будет иметь три решения), когда вершина параболы будет лежать на окружности, а две ветви параболы будут пересекать окружность в 2 точках. Вершина параболы должно лежать в точке (0; -3) чтобы это выполнялось, а значит p=-3
P.S. если что-то не понятно, напишите.
x^2+5x-3=0
x1,2=(-5+-/sqrt5^2-4*2*(-3))/2*2=(-5+-/sqrt49)/4=(-5+-7)/4
x1=(-5+7)/4=0.5
x2=(-5-7)/4=-3
2x^2+5x-3=2*(x-0.5)*(x+3)=(2x-1)*(x+3)