في شهر شوال من عام 15 للهجرة ، بدأ حصار المسلمين للقدس ، وكان قائد جيوش المسلمين أمين الأمة أبو عبيدة عامر بن الجراح ، والجيش الذي حاصرها بقيادة عمرو بن العاص ، واستمر الحصار ستة أشهر، في تلك الأيام كان المتصرف بأمر القدس البطريرك صفرونيوس ، وكان رجلا عالما ومحنكا ، يعتبره النصارى من أعظم البطاركة الذين عاشوا في القدس ، وله مؤلفات كثيرة ، لذلك لقبوه بالحكيم ، وعندما رأى صفرونيوس أن الدائرة تدور للمسلمين وأن لا مجال لمقاومة الحصار وقتا أطول ، قرر تسليم المدينة مقابل شروط منها التعهد بعدم مس كنائسها وأديرتها ، أما الشرط الثاني الذي أصر عليه طلب رئيس البطارقة والأساقفة منهم أن لا يسلم القدس إلا للخليفة عمر بن الخطاب. فأرسل عمرو بن العاص يخبر الخليفة عمر في المدينة بما طلبه صفرونيوس رئيس الأساقفة المسيحيين في القدس فاستشار الخليفة عمر بن الخطاب رضي الله عنه أصحابه فكان أول من تكلم عثمان بن عفان فقال: أقم ولا تسر إليهم فإذا رأوا أنك بأمرهم مستخفن ولقتالهم مستحقر فلا يلبثون إلا اليسير حتى ينزلوا على الصغار ويعطوا الجزية. وقال علي بن أبي طالب: إني أرى أنك إن سرت إليهم فتح الله هذه المدينة على يديك وكان في مسيرك الأجر العظيم. ففرح عمر بن الخطاب بمشورة علي فقال: لقد أحسن عثمان النظر في المكيدة للعدو وأحسن علي المشورة للمسلمين فجزاهما الله خيراً ولست آخذاً إلا بمشورة علي فما عرفناه إلا محمود المشورة ميمون الغرة.
في ربيع الأول من السنة 16 هـ وصل عمر إلى فلسطين ، لم يدخل عمر إلى القدس مباشرة، وإنما ذهب إلى منطقة الجابية وكان المسلمون هناك مستعدين لاستقباله، مع أبي عبيدة بن الجراح، وخالد، ويزيد، فرحبوا به ترحيبًا عظيمًا، وقام في الجابية يخطب : " أيها الناسُ أصلحوا سرائركم تَصلُحْ علانيتكم، واعملوا لآخرتكم تُكْفَوْا أَمْرَ دنياكم" .
ودخل عمر القدس فاتحا ترفرف فوقه الأعلام الإسلامية ظافرة إلى بيت المقدس، بعد أن خيمت عليها أعلام النسر الروماني نحو ثلاثة قرون من الزمن ، وكان ما كان من العهدة العمرية ، ورفض عمر لطلب البطريرك الصلاة في الكنيسة ، وعندما ودع عمر البطريرك ، استوقفه عمر وسأله عن سر إصراره على تسليم المدينة للحليفة شخصيا ، فأجاب البطريرك :
ـ لقد أحببت أن أرى بعيني الرجل الذي يحكم العالم ، فمن يحكم بيت المقدس يحكم العالم .
