Direct na de capitulatie werd op de top van de Grebbeberg onder leiding van de Duitsche Hauptmann Lesmann en een Feldwebel in een beukenbos een begraafplaats ingericht waar zowel de Nederlandse als Duitse gesneuvelden werden begraven. Mannen van ondermeer het Rode Kruis en de EHBO, meest vrijwilligers, kwamen vanuit de wijde omgeving naar Rhenen om te helpen met het zoeken naar de gesneuvelden. De kapelaan Smulders en predikant Keers, geassisteerd door enkele hulpkrachten, hielden zich bezig met het vaststellen van de identiteit van de gesneuvelden.
In totaal vonden 260 gesneuvelde Duitse militairen hun laatste rustplaats op de Grebbeberg. Zij werden in de voorste 4 rijen begraven. Onder hen 111 die waren gesneuveld tijdens de strijd om de Grebbeberg, het overige aantal, 159, was elders in de Grebbelinie gevallen. Of dit aantal ook overeenkomt met de daadwerkelijke verliezen aan Duitse zijde is onduidelijk. Diverse bronnen uit Renkum, Heelsum en Arnhem maken melding van het afvoeren van Duitse gesneuvelden vanuit het Grebbefront nog tijdens de oorlogsdagen.
Zo ontstond de eerste oorlogsbegraafplaats uit de geschiedenis van ons land: Het Militair Ereveld Grebbeberg. De belangstelling voor de militaire begraafplaats op de Grebbeberg blijkt, zeker in de eerste oorlogsjaren, groot. In de jaren 1940, ’41 en ’42 kwamen tienduizenden belangstellenden van heinde en verre, meestal met de trein maar vaak ook op de fiets, naar Rhenen. In maart 1941 werden een parkeerplaats en fietsenstalling bij de begraafplaats gerealiseerd. In februari 1942 werd een bouwvergunning verleend voor een stenen ingangshek ter vervanging van de berkenhouten ingang.
In dezelfde periode werd besloten om niet langer toestemming te verlenen aan familie om een eigen steen te plaatsen op het graf. Het Departement van Defensie had namelijk het besluit genomen om alle (veelal verschillende) grafstenen te doen vervangen voor eenzelfde model grafzerk. Dit blijkt ook uit de volgende brief die door een majoor van het Nederlandse Rode Kruis op 9 februari 1942 werd gezonden aan de nabestaanden van een op de Grebbeberg begraven soldaat.
“In antwoord op Uw schrijven d.d. 2 Februari j.l. moet ik U tot mijn zeer grooten leedwezen mededeelen, dat ik in opdracht van het Departement van Defensie geen toestemming meer mag verleenen tot het plaatsen van grafsteenen op het Militair Kerkhof te Rhenen.
De graven aldaar, welke nog niet van een steen waren voorzien, zullen door de zorgen van het Departement van Defensie van een grafzerk worden voorzien. Met de nabestaanden van gesneuvelden, die de graven van hun gevallen familieleden van een grafmonument (steen of kruis) hadden voorzien, wordt thans gecorrespondeerd om van hen vergunning te krijgen deze monumenten te verwijderen en te doen vervangen door dezelfde grafzerken, als reeds door de zorg van het genoemde Departement zijn of nog worden geplaatst.
De bedoeling is alle graven van eenzelfde model grafzerk te voorzien, zoodat er geen onderscheid in de graven zal bestaan. “
Gedurende de oorlogsjaren worden op het ereveld tevens enkele monumenten opgericht ter nagedachtenis aan de gevallen kameraden van de diverse regimenten die op en om de Grebbeberg hebben gestreden.
Na de bevrijding werden de Duitse graven overgebracht naar de Duitse begraafplaats in het Limburgse Ysselsteyn. Tegelijkertijd wilde men de militaire begraafplaats inrichten als nationale herdenkingsplaats. Daarvoor werd in 1946 de Stichting Nationaal Legermonument Grebbeberg opgericht. Deze stichting gaf opdracht voor het vervaardigen van het Leeuwenmonument dat werd onthuld in 1953. Het monument, ontworpen door de architect ir. J.J.P. Oud en gemaakt door J. Raedecker en zijn zoon, bestaat uit een kruis geflankeerd door twee leeuwen en draagt als opschrift: Den Vaderlant Ghetrouwe – Blijf Ick Tot Inden Doot.
Tegenover de begraafplaats ligt het Nationale Legermonument, een open aula met kalkstenen klokkentoren waarin de woorden gebeiteld staan: Vijf dagen – en de vrijheid ging verloren, Vijf jaren – en eerst toen werd zij herboren. Zo moeizaam triomfeert gerechtigheid. Aan dit besef zij deze grond gewijd.
Tot 1 januari 1952 stond het ereveld onder de zorg van het ministerie van Defensie. Vanaf dat moment werd het overgedragen aan de Oorlogsgravenstichting (OGS) welke tot vandaag de dag het ereveld onder haar zorg heeft. Door haar zorg wordt de begraafplaats in stand gehouden en blijft de herinnering aan de strijd, die zich op en om de Grebbeberg heeft afgespeeld, bewaard. In 1967 werden de uit de oorlogsjaren daterende kruisen, na overleg met de familie, vervangen door gelijkvormige grafstenen. In de afgelopen jaren werden de stoffelijke resten van honderden Nederlandse militairen, die elders waren begraven, op de Grebbeberg herbegraven. Hierdoor steeg het aantal graven op het ereveld tot ruim 800. Ieder jaar worden op de 4de mei de gevallenen herdacht. Het voormalig 8ste Regiment Infanterie herdenkt haar doden elk jaar op 2e Pinksterdag.
