Dalam masa transisi yang sangat kritis ini Abu Bakr dihadapkan pada kesulitan-kcsulitan yang begitu besar sehingga pada saat-saat permulaan itu timbul kekhawatiran yang dirasakan oleh seluruh umat Muslimin. Setelah semua itu dapat diatasi berkat kekuatan imannya, dan untuk waktu berikutnya Allah telah memberikan sukses dan kemenangan, datang Umar memegang tampuk pimpinan umat Islam. Ia memimpin mereka dengan berpegang pada keadilan yang sangat ketat serta memperkuat pemerintahannya sehingga negara-negara lain tunduk setia kepada kekuasaannya.
Memang, telah timbul kekhawatiran di kalangan umat melihat kesulitan yang dihadapi Abu Bakr itu. Sebabnya ialah wilayah Arab yang pada masa Rasulullah sudah tuntas kesatuannya, tiba-tiba jadi goncang begitu Rasulullah wafat. Bahkan gejala-gejala kegoncangan itu memang sudah mulai mengancam sebelum RasuluUah berpulang.
Musailimah bin Habib di Yamamah mendakwakan diri nabi dan mengirim delegasi kepada Nabi di Medinah dengan menyatakan bahwa Musailimah juga nabi seperti Muhammad dan bahwa "Bumi ini separuh buat kami dan separuh buat Kuraisy; tetapi Kuraisy adalah golongan yang tidak suka berlaku adil." Juga Aswad Ansi di Yaman mendakwakan diri nabi dan tukang sihir, mengajak orang dengan sembunyi-sembunyi.
Setelah merasa dirinya kuat ia pergi ke dacrah selatan lalu mengusir wakil-wakil Muhammad, lalu terus ke Najran. Ia hendak menyebarkan pengaruhnya di kawasan ini. Muhammad mengutus orang kepada wakilnya di Yaman dengan perintah supaya mengepung Aswad atau membunuhnya. Soalnya karena orang Arab yang sudah beriman dengan ajaran tauhid dan sudah meninggalkan penyembahan berhala, tak pernah membayangkan bahwa kesatuan agama mereka telah disusul oleh kesatuan politik. Malah banyak di antara mereka yang masih rindu ingin kembali kepada kepercayaan lamanya.
Itu sebabnya, begitu mereka mendengar RasuluUah wafat mereka menjadi murtad, dan banyak di antara kabilah itu yang menyatakan tidak lagi tunduk pada kekuasaan Medinah. Mereka menganggap membayar zakat itu sama dengan keharusan pajak. Oleh karena itu mereka menolak.
