Ce cimetière militaire inscrit au patrimoine civil de Wallonie, fut érigé par les Allemands dans le courant de l’année 1917 en même temps que le cimetière « du Plateau » situé sur la route de Neufchâteau et que le cimetière « Est » sur la route de Marbehan, ce dernier aujourd’hui disparu. Il accueille aujourd’hui les dépouilles de quelques 2500 soldats français de la bataille des Frontières dont 2379 soldats inconnus. Parmi ces victimes, on retrouve sous-lieutenant du 2e Régiment d’Artillerie Coloniale Ernest PSICHARI et le soldat Gabriel FEUNETTE.
De nombreux soldats avaient été enterrés directement sur les champs de bataille en 1914. A partir de 1917, les Allemands créent des cimetières militaires. A son inauguration en septembre 1917, celui-ci contenait 635 soldats : 408 Français – essentiellement des artilleurs du 2ème Régiment colonial français – et 227 Allemands.
Après le rapatriement de nombreuses victimes françaises dont leurs localités d’origine, de petits cimetières sont démantelées. On crée alors ici deux ossuaires regroupant 2379 soldats coloniaux français et on y rapporte aussi les stèles commémoratives. En 1934, les dépouilles allemandes sont exhumées et ensevelies au cimetière de Saint-Vincent, selon la volonté allemande de regrouper tous les corps allemands au même endroit.
Ernest Psichari, écrivain français, mort lors du combat de Rossignol et enseveli dans ce cimetière, a apporté une certaine renommée à l’endroit. Le 9 novembre 1924, l’autel en son honneur est inauguré à l’initiative du comité Psichari. De nombreuses personnalités françaises et belges sont présentes : des figures nationalistes des catholiques mystiques, des membres de l’armée, des autorités françaises et belges dont le futur roi Léopold III et l’entourage de Psichari.
Le cimetière était conçu comme une sorte de cathédrale naturelle : tous les éléments d’une basilique primitive s’y retrouvaient. Les arbres symbolisaient des colonnes soutenant la voute de feuillage des nefs. Aujourd’hui, ces arbres ont disparu suite à la tempête de 1989. Outre Psichari, le corps de Gabriel Feunette repose ici dans l’ossuaire nord. Originaire de Lorraine, Gabriel Feunette s’est engagé dans l’armée française et 1913. Soldat révolté, son père a organisé sa mutation vers le 3ème Régiment des Chasseurs d’Afrique, une unité réputée pour former les plus récalcitrants. Après avoir été en poste en Algérie, il est mobilisé en août 1914 et envoyé en Gaume. Il écrira, le 2 août, à son père : « Ce n’est plus 1870, on va leur foutre une sacrée raclée, les salops ». Pourtant, le 22 août 1914, il sera tué à Breuvanne avec une grosse partie de son régiment. Il a été enterré une première fois dans le cimetière disparu du Ménil à Breuvanne.