Sementara Ansar masih di Saqifah Banu Sa'idah bertukar pikiran antara sesama mereka yang ingin memegang kekuasaan di kawasan Arab itu, Umar bin Khattab, Abu Ubaidah bin Jarrah dan beberapa kalangan terkemuka Muslimin lainnya dan yang awam, sedang sibuk membicarakan kematian Rasulullah.
Ketika itu Abu Bakr, Ali bin Abi Talib dan keluarga Nabi yang lain sedang berada di sekeliling jenazah, menyiapkan segala sesuatunya untuk pemakaman. Umar, setelah yakin benar bahwa Nabi memang sudah wafat, mulai berpikir apa yang akan terjadi sesudah itu. Tak terlintas dalam pikirannya bahwa pihak Ansar sudah lebih dulu berpikir ke arah itu, atau mereka ingin menguasai keadaan di luar yang lain. Dalam at-Tabaqat Ibn Sa'd mengatakan:
"Umar mendatangi Abu Ubaidah bin Jarrah dengan mengatakan:
'Bentangkan tanganmu akan kubaiat engkau. Engkaulah orang kepercayaan umat ini atas dasar ucapan Rasulullah. Abu Ubaidah segera menjawab:
"Sejak engkau masuk Islam tak pernah kau tergelincir. Engkau akan memberikan sumpah setia kepadaku padahal masih ada Abu Bakr?'"
Sementara mereka sedang berdialog demikian itu, berita tentang Ansar serta pertemuan mereka di Saqifah Banu Sa'idah sampai kepada Umar dan kawan-kawan. Umar mengutus orang menyusul Abu Bakr di rumah Aisyah dan memintanya segera datang. Abu Bakr mengatakan kepada utusan itu: Saya sedang sibuk. Tetapi Umar menyuruh kembali lagi utusan itu dengan pesan kepada Abu Bakr: "Ada suatu kejadian penting memerlukan kedatanganmu."
Dengan penuh keheranan Abu Bakr datang menemui Umar. Ada persoalan apa meminta ia datang sampai harus meninggalkan persiapan jenazah Rasulullah.
"Engkau tidak tahu," kata Umar kemudian, "bahwa Ansar sudah berkumpul di Saqifah Banu Sa'idah. Mereka ingin menyerahkan pimpinan ini ke tangan Sa'd bin Ubadah. Ucapan yang paling baik ketika ada yang mengatakan: Dari kami seorang amir dan dari Kuraisy seorang amir."
Mendengar itu, tanpa ragu lagi Abu Bakr bersama Umar berangkat cepat-cepat ke Saqifah disertai juga oleh Abu Ubaidah bin Jarrah. Bagaimana ia akan ragu sedang masalah yang dihadapinya kini masalah Muslimin dan hari depannya, bahkan masalah agama yang telah diwahyukan kepada Muhammad serta masa depannya juga. Dalam- mengurus jenazah Rasulullah sudah ada keluarganya, mereka yang akan mempersiapkan pemakaman. Maka sebaliknya ia dan kedua sahabatnya itu pergi ke Saqifah. Ini sudah menjadi kewajiban; suatu hal yang tak dapat dipikulkan kepada orang lain. Tak boleh sehari pun dibiarkan tanpa suatu tanggung jawab serta memikul beban yang betapapun beratnya, meskipun harus dengan pengorbanan harta dan nyawa.
Dalam perjalanan ketiga orang itu bertemu dengan Asim bin Adi dan Uwaim bin Sa'idah yang lalu berkata kepada mereka:
"Kembalilah, tak akan tercapai apa yang kamu inginkan."
Dan setelah mereka berkata: "Jangan mendatangi mereka, selesaikan saja urusanmu."
"Tidak! Akan kami datangi mereka!" jawab Umar.
