Abu Bakar menjadi Khalifah di tahun 632 M, tetapi dua tahun kemudian meninggal dunia. Masanya yang singkat itu banyak dipergunakan untuk menyelesaikan perang riddah , yang ditimbulkan oleh suku-suku bangsa Arab yang tidak mau tunduk lagi kepada Madinah.
Mereka menganggap bahwa perjanjian yang mereka buat dengan Nabi Muhammad, dengan sendirinya tidak mengikat lagi setelah beliau wafat. Mereka selanjutnya mengambil sikap menentang terhadap Abu Bakar. Khalid Ibn Al-Walid adalah Jenderal yang banyak jasanya dalam mengatasi perang riddah ini.
Mereka menganggap bahwa perjanjian yang mereka buat dengan Nabi Muhammad, dengan sendirinya tidak mengikat lagi setelah beliau wafat. Mereka selanjutnya mengambil sikap menentang terhadap Abu Bakar. Khalid Ibn Al-Walid adalah Jenderal yang banyak jasanya dalam mengatasi perang riddah ini.
Setelah selesai perang dalam negeri tersebut, barulah Abu Bakar mulai mengirim kekuatan-kekuatan ke luar Arabia. Khalid Ibn Al-Walid dikirim ke Irak dan dapat menguasai al-Hirah di tahun 634 M. ke Syiria dikirim tentara di bawah pimpinan tiga jendral Amr Ibn Al-Aas, Yazid Ibn Abi Sufyan dan Syurahbil Ibn Hasanah. Untuk memperkuat tentara ini, Khalid Ibn Al-Walid kemudian diperintahkan supaya meninggalkan Irak, dan melalui gurun pasir yang jarang dijalani, ia delapan belas hari kemudian sampai di Suria.
Usaha-usaha yang telah dimulai Abu Bakar ini dilanjutkan oleh Khalifah kedua, Umar Ibn Al-Khattab (634-644M). Di zamannya-lah gelombang ekspansi pertama terjadi, kota Damaskus jatuh di tahun 635 M. dan pada tahun 636 M, setelah tentara Bizantium kalah di pertempuran Yarmuk, daerah Syiria jatuh ke bawah kekuasaan Islam.
Dengan memakai Syiria sebagai basis, ekspansi diteruskan ke Mesir di bawah pimpinan Amr Ibn Al-Aas dan ke Irak di bawah pimpinan Sa’d Ibn Abi Waqqas. Babilon di Mesir dikepung di tahun 640 M. sementara itu tentara Bizantium di Heliopolis dikalahkan dan Alexandria kemudian menyerah di tahun 641 M. dengan demikian Mesir jatuh pula ke tangan Islam. Tempat perkemahan Amr Ibn Al-Aas yang terletak di luar tembok Babilon, menjadi ibu kota dengan nama Al-Fustat.
Al-Qadisiyah, suatu kota dekat Al-Hirah, di Irak jatuh di tahun 637 M dan dari sana serangan dilanjutkan ke Al-Madain (Ctesiphon), ibu kota Persia, yang dapat dikuasai pada tahun itu juga. Ibu kota baru bagi daerah ini ialah Al-Kufah, yang pada mulanya merupakan perkemahan militer Islam di daerah Al-Hirah. Setelah jatuhnya Al-Madain, Raja Sasania Yazdargid III, lari ke sebelah utara. Pada tahun 641 M, Mosul (di dekat Niniveh) dapat pula dikuasai.
Dengan adanya gelombang ekspansi pertama ini, kekuasaan Islam di bawah Khalifah Umar, telah meliputi selain Semenanjung Arabia, juga Palestina, Syiria, Irak, Persia dan Mesir.
Pada zaman Usman Ibn Affan (644-656M) Tripoli, Ciprus dan beberapa daerah lain dikuasai, tetapi gelombang ekspansi pertama berhenti sampai disini. Di kalangan umat Islam mulai terjadi perpecahan karena soal pemerintahan dan dalam kekacauan yang timbul Usman mati terbunuh.
Sebagai pengganti Usman, Ali Ibn Abi Thalib menjadi Khalifah ke-empat (656-661 M) tetapi mendapat tantangan dari pihak pendukung Usman, terutama Mu’awiah, Gubernur Damaskus, dari golongan Talhah dan Zubeir di Mekkah dan dari kaum Khawarij. Ali, sebagaimana Usman, mati terbunuh, dan Mu’awiyah menjadi khalifah kelima. Mu’awiyah selanjutnya membentuk Dinasti Bani Umayyah (661-750M) dan ekspansi gelombang kedua terjadi di zaman Dinasti ini.