Semua pasukan ini sudah menghadapi perlawanan dan kekuatan pihak Rumawi, sehingga memaksa mereka bersepakat akan berkumpul di tepi Sungai Yarmuk. Mereka tidak diberi kesempatan maju oleh pasukan Heraklius, tetapi berhenti hanya sampai di seberang pantai. Merasa kesal melihat pasukannya yang dingin, tidak bergerak, Abu Bakr menulis surat kepada Khalid bin Walid di Irak agar berangkat ke Syam memimpin semua pasukan itu. Sesampainya di Syam, ia tinggal selama sebulan lagi di pantai Yarmuk tanpa berhadapan dengan pasukan Rumawi. Sesudah Abu Bakr wafat dan Umar naik sebagai Amirulmukminin keadaan tetap dingin. Langkah pertama yang dilakukannya dalam pemerintahannya ia mengutus Mahmiyat bin Zanim dan Syaddad bin Aus mengantarkan surat kepada Abu Ubaidah mengenai pemecatan Khalid dari pimpinan angkatan bersenjata dan menyerahkannya kepada Abu Ubaidah seperti sebelum keberangkatannya dari Irak ke Syam.
Khalid dipecat dari pimpinan militer
Sementara Mahmiyat bin Zanim dan Syaddad bin Aus sedang dalam perjalanan ke Syam membawa surat Umar mengenai pemecatan Khalid, Khalid sendiri sedang mengatur strategi untuk menghadapi dan menghancurkan pasukan Rumawi. Dia sudah tahu bahwa pihak Rumawi sedang bersiap-siap hendak menghadapinya. Maka disusunnya pasukannya ke dalam beberapa "batalion" seperti yang biasa dilakukan orang Arab sebelum itu, sebab yang terlihat tak ada yang lebih besar dari itu. Keesokan harinya ia bergerak dan bertemu dengan pasukan Rumawi. Pasukan Rumawi dapat dihancurkan dan segala impiannya ingin bertahan terus di Syam berakhir sudah.
Ada pula sumber yang menyebutkan bahwa kedua utusan Umar yang membawa surat tentang pemecatan Khalid itu sampai di Syam pagi hari ketika sedang terjadi pertempuran yang menentukan itu, dan mereka menyampaikan surat Amirulmukminin itu kepada Abu Ubaidah tanpa mengumumkan isinya sebelum pertempuran selesai. Sesudah jelas kemenangan ada di pihak pasukan Muslimin Khalid diberi tahu dan disiarkan kepada semua pasukan. Barulah ia memegang pimpinan menggantikan posisi Khalid. Sumber-sumber lain menyebutkan bahwa selepas pertempuran pun Abu Ubaidah tidak mengumumkan isi itu. Ia berangkat ke Damsyik di bawah pimpinan Khalid. Baru setelah selesai semua dan diadakan perdamaian dengan yang bersangkutan, surat Amirulmukminin tersebut diumumkan. Ada juga beberapa sumber yang tidak sama dalam melangsir peristiwa-peristiwa ini, dengan menyebutkan bahwa Umar memerintahkan pemecatan Khalid dari segala jabatan dalam militer serta diadilinya ia mengenai hal-hal yang dialamatkan kepadanya dan dimintai pertanggung jawabannya.
Yang lebih dapat diterima menurut hemat saya, begitu Abu Ubaidah menerima berita ia tidak segera mengumumkan pemecatan Khalid, baik waktu pagi sedang dalam pertempuran di Yarmuk atau sesudah Khalid mendapat kemenangan. Ia merahasiakan berita itu selama beberapa hari sementara ia sedang mencari jalan apa yang harus dilakukannya dan bagaimana cara mengumumkan. Dalam pada itu orang sudah tahu bahwa Abu Bakr sudah wafat dan Umar yang kini menggantikan kedudukannya. Mereka saling berbeda pendapat, ada yang tidak senang dengan kepemimpinan Umar, ada juga yang dari kalangan Medinah sendiri. Setelah itu mereka tenang kembali dan menerima kenyataan, setelah diketahui bahwa hal itu sesuai dengan pesan Abu Bakr. Khalid memang sudah memperkirakan bahwa Umar tidak senang ia menjadi panglima pasukan di Syam, dan dia pasti dipecat. Hal ini dikatakannya kepada stafnya yang terdekat, atau barangkali juga kepada Abu Ubaidah sendiri. Saat itulah ia diberi tahu oleh Abu Ubaidah. Tetapi dia tidak marah. Bahwa pimpinan angkatan perang itu akan dipegang oleh Abu Ubaidah diterimanya dengan patuh. Begitu juga dulu, Abu Ubaidah dengan patuh menerima penunjukan Abu Bakr agar ia berada di bawah pimpinan Khalid ketika Abu Bakr memerintahkan Khalid berangkat dari Irak ke Syam.1 Orang pun tidak marah kepada Umar serta tindakannya memecat Khalid, karena mereka sudah tahu tentang posisi kedua orang itu sejak terjadinya peristiwa Malik bin Nuwairah dulu. Demikianlah perombakan dalam pimpinan militer itu selesai sesudah pertempuran yang dimenangkan oleh Khalid secara gemilang. Tidak ada pengaruh apa pun dalam kesatuan umat Islam dan pasukannya yang mungkin akan membawa akibat yang patut dikhawatirkan.
Inilah yang lebih dapat saya terima, yang saya simpulkan dari pelbagai sumber. Abu Ubaidah sudah menulis surat kepada Umar memberitahukan kemenangan di Yarmuk dalam menghadapi pasjukan Rumawi, dengan mengirimkan seperlima hasil rampasan perang, dan menyebutkan bahwa dia telah mengangkat Basyir bin Sa'd bin Ubai al-Himyari untuk Yarmuk, dan dia sendiri berangkat ke Marj as-Suffar hendak mengejar sisa-sisa tentara musuh yang kalah yang masih berserakan dan berkumpul di Fihl (Pella). Dia mendapat berita bahwa Heraklius dari Hims tempat kediamannya mengirimkan bala bantuan angkatan perangnya ke Damsyik. Tidak tahu dia, akan memulai dengan Damsyik atau dengan Fihl di Yordania.
Begitu menerima dan membaca surat Abu Ubaidah, Umar segera membalasnya: "Mulailah dengan Damsyik dan perjuangkanlah, karena kota ini benteng Syam dan jantung kerajaannya. Alihkanlah perhatian Fihl dari Anda dengan pasukan berkuda di hadapan mereka. Jika Allah memberi kemenangan sebelum Damsyik, itulah yang kita harapkan, kalau kemenangan di sana tertunda sampai Allah memberi kemenangan di Damsyik, biarlah yang merebut Damsyik turun ke sana. Anda sendiri serta para perwira meneruskan perjalanan hingga dapat menyerang Fihl. Jika Allah memberi kemenangan kepada kalian, berangkatlah bersama Khalid ke Hims (Emessa atau Horns) dan tempatkanlah Syurahbil dan Amr di Yordan dan Palestina."
Begitu surat Umar diterima, Abu Ubaidah mengirim sepuluh perwira ke Fihl dipimpin oleh Abu al-A'war as-Sulami. Dia sendiri dan Khalid bin Walid dengan kekuatan pasukan yang besar berangkat menuju Damsyik. Pihak Rumawi yang berlindung di Fihl sementara pengaruh Yarmuk serta bekas ketakutan yang masih membayang di wajah mereka, terasa sekali mencekam melihat pasukan Muslimin sedang menuju ke daerah mereka, cepat-cepat mereka melepaskan air danau Tabariah (Tiberias) dan Sungai Yordania ke tanah sekitarnya. Dengan tanah yang menjadi lumpur tak akan mungkin dapat dilalui pihak lawan.
Pasukan Muslimin marah atas perbuatan musuhnya itu, terkepung berhenti di hadapan mereka, tak dapat maju di daratan berlumpur. Sementara mereka masih dalam keadaan demikian, saudara-saudara mereka sudah berhasil membebaskan Damsyik. Dengan demikian mereka dapat memberikan bala bantuan kepada mereka dengan kekuatan pasukan. Pasukan Muslimin sekarang bertambah kuat dan tambah berani.
