La dynastie Perse Sassanide est en guerre contre l'empire byzantin de 602 à 628. Les Perses sont vainqueurs sur la longue période 602-622 mais le Byzantin Héraclius défend Constantinople en 626 et défait les Perses. Ces guerres ont épuisé les deux empires qui ne résisteront pas au Califat arabe naissant.
En 629 est conclu le pacte (la paix d'Arabissos) liant Héraclius au Perse Schahr-Bazar, lors de leur rencontre à Arabissos en Capaddoce. Les provinces byzantines (Syrie, Palestine, Égypte) doivent être évacuées par les Perses, tandis que les Byzantins quittent la moitié nord de la Mésopotamie qu'ils occupent.
Héraclius, accompagné de son épouse Martine, part pour Jérusalem au début de l'année 630 pour y rapporter triomphalement la relique de la Vraie Croix. Il y est accueilli le 21 mars par Modeste de Jérusalem, locum tenens1 du patriarcat depuis l'exil du patriarche Zacharie. Il entre dans la ville à pied, sans aucun insigne impérial, en portant lui-même la relique tout au long de la Via Dolorosa. Il reste le seul empereur qui se soit rendu à Jérusalem.
Le retour du pouvoir byzantin en Palestine s'accompagne, malgré des assurances données par Héraclius, d'un grand massacre des Juifs, accusés d'avoir collaboré avec les Perses ;
la résidence à Jérusalem et dans ses environs leur est interdite ;d'une façon générale, cette époque connaît une grande flambée d’anti judaïsme, et Héraclius lui-même prend plusieurs mesures tendant au baptême forcé de tous les Juifs (cf Doctrina Jacobi nuper baptizati).
Après l'avoir reprise des mains des Perses en 629, Héraclius a bien fortifié la cité.
À la suite de la défaite des Romains à Yarmouk face aux Arabes le 20 août 636, le patriarche Sophrone restaure les murailles de Jérusalem. Les Musulmans n'ont alors pas essayé d'assiéger la ville une seule fois.
Cependant, depuis 634, les forces arabes ont le potentiel pour menacer toutes les voies d'accès à la ville. Bien que Jérusalem ne soit pas encerclée, elle fait face à un état de siège depuis la prise des forts environnants de Pella et Bosra. Après la bataille du Yarmouk, la ville est coupée du reste de la Syrie et se prépare à l'imminence d'un siège qui semble inévitable
Quand l'armée arabe rashidun, dirigée par Abu Ubayda ibn al-Djarrah atteint Jéricho, Sophrone collecte toutes les reliques de la ville dont encore une fois la Vraie Croix et les envoie secrètement vers la côte, pour y être acheminées vers Constantinople. Les troupes musulmanes débutent le siège en novembre 636. Au lieu de lancer des assauts incessants contre la ville, elles décident de faire durer le siège jusqu'à ce que les Byzantins soient à cours de provisions.
La garnison byzantine ne peut espérer aucun secours de l'empire épuisé d'Héraclius. Après un siège de quatre mois, Sophrone offre la reddition de la cité ainsi que le paiement d'un tribut, à la condition que le Calife vienne à Jérusalem signer le pacte et accepter la reddition. Bien que les détails du siège soient inconnus, il semble qu'il n'y ait pas eu d'effusion de sang.
Il est dit qu'au moment où les termes du Byzantin Sophrone sont connus des Musulmans, Shurahbil ibn Hassana, un des commandants arabes, suggère qu'au lieu d'attendre que le calife fasse le voyage depuis Médine, Khalid ibn Walid soit envoyé devant la ville en tant que calife du fait de sa physionomie proche de celle d'Omar.
Toutefois, la ruse ne fonctionne pas. Peut-être Khalid est-il alors trop connu en Syrie ou des Arabes chrétiens présents dans la cité ont-ils été à Médine et y ont vu Khalid et Omar. Quoi qu'il en soit, le patriarche refuse de négocier. Quand Khalid rapporte l'échec de sa mission, Abu Ubaidah écrit au calife Omar pour lui faire part de la situation et l'invite à venir à Jérusalem pour accepter la reddition de la cité.
1 qui tient lieu de..