Elle domine la place et la rue Saint-Blaise et a conservé un aspect d'église de village. Elle est bâtie sur le lieu d’un ancien oratoire commémorant la rencontre légendaire entre Saint-Germain l’Auxerrois et Sainte-Geneviève. Les parties les plus anciennes sont les piliers de la tour du 12e siècle. Puis elle a connu de nombreux remaniements au 15e et 18e siècles. Construite sur une couche d’argile instable, elle a été consolidée en 2014 et 2016. Des fouilles archéologiques de 2012 ont mis à jour plus de 380 sépultures dont les plus anciennes remontent au 13e siècle.
Salon la légende, vers 430, saint Germain, alors évêque d’Auxerre, aurait rencontré sur les coteaux de Charonne une jeune fille de Nanterre, la future patronne de Paris Geneviève.
En souvenir, les habitants du lieu auraient édifié un petit oratoire ; sur son emplacement s’élève l’actuelle église Saint-Germain de Charonne, qui allie harmonieusement quelques vestiges du XIIe siècle (gros piliers de la tour) à une architecture élégante, des XVe et XVIIIe siècles pour l’essentiel.
Avant 1860, date de son rattachement à Paris, elle fut l’église paroissiale de l’ancien village de Charonne dont elle constituait le cœur, avec la rue Saint-Blaise.