Пусть x - это кол-во экземпляров справочной литературы. Тогда 3x - количество экземпляров научно-популярной литературы, 4x - количество экземпляров художественной литературы. Всего в библиотеке 5600 книг.
Составим и решим уравнение.
x+3x+4x = 5600
8x = 5600
x = 700 (книг) - справочной литературы
Научно-популярной литературы: 700×3 = 2100 книг
Художественной литературы: 700×4 = 2800 книг
Проверка: 700+2100+2800 = 5600 книг, что удовлетворяет условию!
ответ: 2800 экземпляров художественной литературы имеется в библиотеке
монотонно убывает на интервале знакопостоянства производной: x∈(-∞;0) 
2 800 экземпляров художественной литературы имеется в библиотеке
Пошаговое объяснение:
Пусть справочной литературы было х книг, тогда:
3х книг научно-популярной и
4х книг художественной
5 600 книг всего
Составим уравнение:
х + 3х + 4х = 5 600
8х = 5 600
х = 5600/8
х = 700 справочной литературы
700*3 = 2 100 научно-популярной
700 * 4 = 2 800 художественной