Een muurgedeelte van de kerk die in de 12de eeuw werd gebouwd tegen de noordelijke omwalling van Klein Hoei is nog zichtbaar. De eerste vermelding van een religieus gebouw op deze plaats dateert van 1227, de toewijding aan de heilige Martinus en de aanwezigheid van een belangrijk Merovingisch kerkhof in de onmiddellijke nabijheid wijzen echter op een zeer vroege stichting van een kerk.