Au XIXe siècle, la butte faisait partie d’un réseau de carrières de gypse qui s’étendait jusqu’aux Buttes Chaumont.
Au cours des années 1920 elle échappe aux travaux d’aménagement qui suivent la démolition des fortifications de Thiers imposante enceinte qui entourait la ville depuis 1844. Le parc est conçu par Léon Azéma (1888-1978), dans un style néo-classique typique des années 1930. Il associe aux terrasses, abris, sculptures et fontaines, des arbres remarquables tels des tulipiers, sophoras pleureurs, arbres aux quarante écus, frênes..
Sa fontaine avec des bassins en cascade est une œuvre monumentale de Raymond Couvègnes (1893-1985) intitulée Eve. Composée de trois grands bancs en bois blanc, une œuvre de Bert Theis (1952-2016) symbolise la paix en référence au discours pacifiste prononcé ici, le 25 mai 1913, par Jean Jaurès, fondateur du parti socialiste assassiné en juillet 1914.
Le Chapeau-Rouge était une guinguette située au Pré-Saint-Gervais.