Doch nach der großen Rebellion haben die Juden sich ihrem Schicksal als römische Untertanen noch nicht ergeben. Zweimal rebellieren sie gegen Rom. Ihr erster Aufstand in der Diaspora im Jahr 115-117 ist so gewaltig, dass er nur mit der völligen Auslöschung der jüdischen Gemeinden von Ägypten, Zyrene (Libyen) und Zypern beendet werden kann. Noch 100 Jahre später ist Zypern judenrein. Wenn ein Jude von einem Sturm an Land gespült wird, ist er des Todes.
Der Wunsch Kaiser Hadrians, auf dem heiligen Berg einen Zeustempel zu errichten, löst 132 den dritten Aufstand aus. Diesmal brauchen die Römer nicht vier sondern 10 Legionen, um ihn niederzuschlagen. Rom zieht Truppen aus Britannien, Gallien und den Donaugebieten zusammen, um der Juden Herr zu werden. Dabei wird die XXII. Legion so aufgerieben, dass sie aus den Listen der Armee verschwindet. Wurde im ersten Aufstand hauptsächlich Jerusalem zerstört, ist das Resultat des zweiten Aufstandes unter Bar Kochba völlige Vernichtung des ganzen Landes:„Nur ganz wenige von ihnen kamen mit dem Leben davon. Fünfzig ihrer wichtigsten Festungen und 985 der bedeutendsten Ansiedlungen wurden dem Erdboden gleich gemacht,“ schreibt der Geschichtsschreiber Cassius Dio und fährt fort:„Ferner fanden 580 000 Mann bei den einzelnen Angriffen und Schlachten den Tod; die Zahl der durch Hunger, Krankheit und Feuer zugrunde Gegangenen war nicht festzustellen. So wurde fast ganz Judäa zur Einöde […] Wölfe sowie Hyänen drangen heulend in ihre Städte ein.“
Erbeutete jüdische Sklaven sind im Überfluss zu haben, so dass sie im Markt von Terebinthe für die Futterration eines Pferdes zu haben sind. Doch sie hatten ihr Blut teuer verkauft:„Es mussten aber auch viele Römer in diesem Kriege sterben“, beklagt Dio. „Deshalb verwendete Hadrian in seinem Schreiben an den Senat nicht die bei den Kaisern übliche Einleitungsformel, nämlich: “Wenn ihr und euere Kinder gesund seid, dann ist es gut; ich und die Legionen fühlen uns gesund.”“ Es ist das einzige Mal, dass diese Formel ausgelassen wird.
Von nun an ist es den Juden verboten, Jerusalem zu betreten. Für eine Steuer ist es ihnen gestattet, den Tempelberg von weitem zu betrachten. Erst im 5. Jahrhundert wohnen Juden wieder in der Stadt. Wie vor ihm Titus siedelt auch Hadrian hier die X. Legion Fretensis an. Die Wahl könnte beabsichtigt gewesen sein: Ihr Abzeichen, das den Juden unreine Wildschwein, krönt von nun an die Gebäude und schändet ihre heilige Stadt. Hadrian ist entschlossen, jedes Andenken an das widerspenstige Judentum auszulöschen: Kartographen streichen den Namen Judäa und schreiben „Palästina“ an seiner statt, der Tempelberg wird zur Ruine, die in späteren Zeiten wahrscheinlich als Latrine benutzt wird. Das Beschneiden und das Lehren jüdischer Bräuche werden in Palästina verboten.
Nur einmal im Jahr, am 9. Av, dürfen Juden in die Stadt. An dem letzten Überbleibsel ihres Tempels, der westlichen Stützmauer des herodianischen Vorhofs, beklagen sie vor schadenfrohen Römern und später ebenso feindlich eingestellten Christen ihr Schicksal. So wird die westliche Stützmauer, die während des ersten Aufstands die Zerstörungswut der Römer überstand, stellvertretend für den zweiten Tempel zum heiligsten Ort des Judentums wird, in der westlichen Welt als „Klagemauer“ bekannt.