Sesudah masa mudanya mencapai kematangan, Umar terdorong ingin menikah. Kecenderungan banyak kawin ini sudah diwarisi dari masyarakatnya dengan harapan mendapat banyak anak. Dalam hidup-nya itu ia mengawini sembilan perempuan yang kemudian memberikan keturunan dua belas anak, delapan laki-laki dan empat perempuan.
Dari perkawinannya dengan Zainab putri Maz'un lahir Abdur-Rahman dan Hafsah;
dengan Umm Kulsum putri Ali bin Abi Talib lahir Zaid yang lebih tua (senior) dan Ruqayyah;
dengan Umm Kulsum binti Jarul bin Malik lahir Zaid yang lebih muda (junior) dan Ubaidillah.
Islam telah memisahkan Umar dengan Umm Kulsum putri Jarul. Ia kawin dengan Jamilah binti Sabit bin Abi al-Aflah maka lahir Asim. Nama Jamilah yang tadinya Asiyah2, oleh Nabi diganti: Sebenarnya engkau Jamilah, kata Nabi. Perkawinannya dengan Umm Hakam putri al-Haris bin Hisyam bin al-Mugirah melahirkan Fatimah.
Dari perkawinannya dengan Atikah binti Zaid bin Amr lahir Iyad.
Luhayyah, hamba sahaya ibu Abdur-Rahman anaknya yang menengah.
Dari Fukaihah yang juga hamba sahaya yang telah melahirkan Zaid, anaknya yang bungsu.
Kalangan sejarawan masih berbeda pendapat mengenai nama ibu Abdur-Rahman junior, ibunya seorang juga seorang hamba sahaya. Kalangan sejarawan masih berbeda pendapat mengenai nama ibunya itu.
Kalangan sejarawan masih berbeda pendapat mengenai nama ibu Abdur-Rahman junior, ibunya seorang juga seorang hamba sahaya. Kalangan sejarawan masih berbeda pendapat mengenai nama ibunya itu.
Umar kawin dengan empat perempuan di Mekah, dan yang perempuan kclima setelah hijrah ke Medinah. Tetapi ia tidak sampai mengumpulkan mereka di rumahnya. Kita sudah melihat Islam yang telah memisahkannya dari Umm Kulsum binti Jarul, dan perempuan-perempuan yang lain diceraikannya. Mereka yang diceraikan itu Umm Hakam binti al-Haris bin Hisyam dan Jamilah yang telah melahirkan Asim.
Kalau ia masih akan berumur panjang niscaya ia masih akan kawin lagi selain kesembilan perempuan itu. Ia melamar Umm Kulsum putri Abu Bakr sewaktu masih gadis kecil, sementara ia sudah memegang pimpinan umat. Ia memintanya kepada Aisyah saudaranya, Aisyah Ummulmukminin menanyakan adiknya itu tetapi ia menolak dengan mengatakan bahwa Umar hidupnya kasar dan sangat keras terhadap perempuan. Juga ia pernah melamar Umm Aban binti Utbah bin Rabi'ah, yang juga menolak dengan mengatakan bahwa dia kikir, keluar masuk rumah dengan muka merengut.
Apa yang dikatakan Umm Kulsum binti Abu Bakr tentang wataknya yang keras dan kasar, dan apa yang dikatakan Umm Aban bahwa ia selalu bermuka masam dan hidupnya yang serba keras, merupakan sebagian dari wataknya yang sejak masa mudanya, dan kemudian tetap begitu dalam perjalanan hidup selanjutnya. Sesudah menjadi khalifah, maka dalam doa pertamanya ia berkata: "Allahumma ya Allah, aku sungguh tegar, maka lunakkanlah hatiku. Ya Allah, aku ini lemah, berilah aku kekuatan. Ya Allah aku sungguh kikir jadikanlah aku orang pemurah." Sejak mudanya ia sudah mewarisi sikap keras dan kasar itu dari ayahnya, kemudian didukung pula oleh tubuhnya yang tetap kekar dan kuat. Mengenai apa yang disebutnya kebakhilan, karena ia memang tak pernah kaya, dan ayahnya juga tak pernah menjadi orang kaya.
Sepanjang hidupnya ia dalam keadaan sederhana. padahal, seperti kebanyakan penduduk Mekah ia juga berdagang. Barangkali wataknya yang keras itu yang membuatnya tak pernah beruntung dalam perdagangan, seperti rekan-rekannya yang lain. Dengan watak kerasnya dalam perdagangan ia tak pernah dapat mengeluarkan air dari batu, tak pernah ia dapat mengubah tanah menjadi emas, demikian ungkapan masyarakatnya sendiri, Kuraisy. Di samping itu. dalam perdagangan pun ia tak terbatas hanya pada perjalanan musim panas dan musim dingin ke Yaman dan ke Syam saja, bahkan ia pergi sampai ke Persia dan Rumawi. Tetapi dalam perjalanan itu ia mengutamakan untuk mencerdaskan pikirannya daripada untuk mengembangkan perdagangannya.
Dalam Muruj az-Zahab al-Mas'udi menyebutkan bahwa selama dalam pelbagai perjalanan di masa jahiliah itu Umar banyak menemui pemuka-pemuka Arab dan bertukar pikiran dengan mereka. Kemungkinan besar segala yang sudah dilakukannya dalam kapasitasnya sebagai utusan dari pihak Kuraisy, dan luasnya pengetahuannya mengenai silsilah orang-orang Arab dan cerita-cerita rakyat masyarakat Arab serta apa yang diketahuinya dari buku-buku yang dibacanya masa itu, itulah membuatnya lebih banyak untuk menambah ilmu daripada untuk memperoleh kekayaan.
