Avec Saint-Pierre de Montmartre, c'est le seul cimetière à être accolé à son église. Il n’a pas été touché par le décret de 1804 interdisant les inhumations au sein des villages. Le cimetière s’étendait jusqu’à l’emplacement du réservoir de Charonne.
Lors de son creusement en 1897, 800 squelettes ont été découverts. Il s’agit des fédérés fusillés en mai 1871 lors de la Commune.
Une plaque commémorative leur rend hommage. Parmi les personnalités inhumées figurent les écrivains collaborateurs et antisémites Maurice Bardèche (1907-1998) et Robert Brasillach (1909-1945), mais également les comédiens Pierre Blanchard (1892 1963) et Emmanuelle Riva (1927-2017)