Die heutige Grabeskirche ist nur ein trauriger Abklatsch des prachtvollen Baus, den Konstantin vor 1700 Jahren errichten ließ.
Die ursprüngliche Kathedrale wurde im Jahr 614 von den Persern und Juden beschädigt. Juden waren bis dahin von Byzanz höchstens geduldet worden waren. Die Christen hatten den vom heidnischen Kaiser Hadrian eingeführten Brauch, Juden nur einmal im Jahr in die Stadt zu lassen, um die Zerstörung des Tempels zu beweinen, fortgeführt.
Nachdem die Muslime unter Saladin Jerusalem zurück eroberten, errichteten sie Minarette neben der Grabeskirche, um die Überlegenheit ihres Glaubens zu demonstrieren. Hier ein Minarett, dessen Basis vorher ein Kirchturm der Johanniter gewesen war, neben dem Haupteingang.
Das Areal des Tempels ließen sie anscheinend zur Müllhalde verkommen. Sie sahen darin eine Bestätigung von Lukas’ Prophezeiung (21, 5-6):«Es wird die Zeit kommen, in welcher von dem allem, was ihr [vom Tempel] sehet, nicht ein Stein auf dem andern gelassen wird, der nicht zerbrochen werde».
Der Eroberungsfeldzug des persischen Herrschers Khosrau II. brachte Byzanz fast zu Fall. Doch letztlich gelang es Kaiser Heraklius, die Perser, die sich schon fast im Besitz Konstantinopels gewähnt hatten, vernichtend zu schlagen. Im Jahre 630 zog er siegreich in Jerusalem ein und brachte die Reliquie des Heiligen Kreuzes zurück in die Grabeskirche, deren Restaurierung anscheinend umgehend nach ihrer Zerstörung 614 begonnen hatte.
Die Eroberung durch die Muslime überstand sie unbeschädigt. Erst der fanatische fatimidische Herrscher Kalif al-Hakim bi amr Allah (996–1021) («Herrscher auf Geheiß Gottes») zerstörte den imposanten Bau im Jahre 1009 bis aufs Fundament, wie auch etwa rund 30 000 weitere Kirchen in seinem Herrschaftsgebiet. Der augenscheinlich psychisch labile al-Hakim, ein muslimisch erzogener Sohn einer Christin, sollte später erklären, göttlicher Herkunft zu sein, und begründete damit einen neuen Geheimglauben. Die Gruppe, die ihm folgte, spaltete sich vom Islam ab und wurde lange vom Islam als dem wahren Glauben abtrünnig verfolgt. Die Drusen harren bis heute der Rückkehr al-Hakims. al-Hakims barbarischer Akt war ein Affront für die christliche Welt und sollte Konsequenzen haben: Als rund 90 Jahre später zum ersten Kreuzzug aufgerufen wurde, war Vergeltung für das historische Übel einer der Gründe, die im Konzil von Clermont für die militärische Kampagne angeführt wurde.
