Setelah Islam berhasil membebaskan Palestina dari kekuasaan pemerintahan Romawi pada tahun 638 M, yakni pada masa kekhalifahan Umar bin Khaththab, wilayah itu mulai berubah menjadi berkarakter Islami. Selain karena pemerintahannya Islami, masyarakatnya juga banyak yang memeluk Islam.
Para sahabat Rasulullah ﷺ banyak yang datang dan menetap di Palestina untuk berdakwah. Di antara mereka, menurut Dr Muhsin Muhammad Shaleh, dalam bukunya Palestina, Sejarah, Perkembangan, dan Konspirasi adalah Ubadah bin Shamit, Syadad bin Us, Usama bin Zaid bin Haritsah, Watsilah ibnul Asqa’, Fairus ad-Dailami, Dahiyyah al Kalbi, Abdurrahman bin Ghanan al Asyari, dan ‘Alqamah bin Majzar al-Kanani. Mereka semua menetap bahkan dimakamkan di Palestina.
Namun, Palestina tetaplah sebuah wilayah yang multikultur. Pemerintahan Islam tidak memaksa penduduk Palestina memeluk Islam.
Di Palestina saat itu tetap ada pemeluk Yahudi dan Kristen. Mereka bisa hidup berdampingan secara damai dengan kaum Muslim. Bahasa yang digunakan adalah bahasa Arab.
Setelah masa Khulafahur Rasyidin berakhir, Palestina berada di bawah pemerintahan Bani Umayyah. Pusat pemerintahan dipindahkan dari Madinah ke Damaskus.
Saat itulah Palestina menjadi salah satu wilayah yang diperebutkan di antara para keturunan Umayyah, yakni keluarga Harb bin Umayyah dengan keluarga Abu al-Ash bin Umayyah.
Keturunan terakhir dari Harb bin Umayyah yang menjadi khalifah adalah Muawiyah II. Ia berkuasa hanya sebentar, yakni tahun 683 sampai 684. Setelah itu, naiklah Marwan bin Hakam — atau lebih dikenal dengan Marwan I — menjadi khalifah. Marwan I adalah keturunan dari garis Abi al-As.
Selanjutnya, Marwan I digantikan oleh putranya bernama Abdul Malik bin Marwan. Pada masa pemerintahan Abdul Malik, Masjid Kubah Batu atau Kubah Shakhrah dibangun, tepatnya pada tahun 691.
Masjid ini terletak di tengah-tengah kompleks al-Aqsha. Pembangunan kompleks al-Aqsha juga dilakukan pada masa Khalifah Walid bin Abdul Malik, atau al-Walid I, putra dari Abdul Malik bin Marwan. Dinasti Umayyah menguasai Palestina dalam kurun waktu 661 hingga 750 Masehi.
Setelah itu, kekhilafahan Bani Umayyah digantikan oleh Bani Abbasyiah yang mulai berkuasa tahun 750 Masehi. Otomatis, penguasa bumi Palestina juga beralih dari Bani Umayyah ke Bani Abbasyiah. Pusat pemerintahan kembali dipindah, kali ini ke Baghdad, Irak.
Tak banyak catatan perkembangan Palestina pada masa Bani Abbasiyah. Hanya pada masa kekhalifahan al-Mutawakkil, ia menunjuk putranya sendiri, al-Muayyad, sebagai gubernur wilayah Palestina dan Suriah.
Pada tahun 969 M, wilayah Palestina lepas dari kekuasaan Bani Abbasiyah setelah direbut oleh Dinasti Fathimiyah yang berkuasa di Afrika Utara, Mesir, dan Suriah. Dinasti Fathimiyah yang Syiah ini secara resmi mengumumkan bahwa mereka adalah khalifah tandingan Dinasti Abbasiyah yang mulai melemah.
Pada saat bersamaan, muncullah Dinasti Seljuk yang mengontrol kekhalifahan Abbasiyah. Dalam sebuah pertempuran bernama Manzikart tahun 1071, pasukan Alp Arslan, sultan ketiga Dinasti Seljuk, berhasil mengalahkan tentara Romawi yang didukung Prancis dan Armenia.
Kekalahan ini membuat pasukan Romawi murka dan ingin membalas dendam kepada Seljuk. Terlebih, pada tahun 1973 (beberapa catatan menyebut tahun 1076), Dinasti Seljuk berhasil merebut sebagian besar wilayah Palestina, termasuk al-Quds atau Yerusalem, kecuali wilayah Askalon, dari tangan Dinasti Fathimiyah yang kala itu dipimpin Khalifah Al-Musta’li. Untuk membalaskan dendamnya ini, tentara Romawi mengajak Paus Urbanus II menyeru kepada umat Kristen di Eropa untuk melakukan perang suci yang dikenal dengan Perang Salib
Pada tahun 1099 meletuslah Perang Salib 1. Tentara Salib berhasil mengambil alih Palestina dari tangah Dinasti Seljuk dan mendirikan kerajaan Yerusalem lewat pembantaian yang berdarah-darah. Ini sangat berbeda dengan saat Palestina diambil alih oleh tentara Islam di bawah Khalifah Umar bin Khaththab pada 638 M yang penuh damai.
Kekuasaan pasukan Salib atas Palestina tak berlangsung lama, hanya 88 tahun saja, yakni dari tahun 1099 hingga 1187. Setelah itu, Palestina berhasil dibebaskan kembali oleh Dinasti Ayyubiyah lewat sebuah pertempuran yang heroik di Hittin, dipimpin oleh Shalahuddin al Ayyubi.
Masa kegemilangan Dinasti Ayyubiyah juga tak lama. Pada 1200, Shalahuddin wafat dan digantikan adiknya yang bernama al-Adil dan berkedudukan di Mesir. Setelah itu, Dinasti Ayyubiyah mulai melemah.
Penguasa-penguasa kecil di Syam di bawah pimpinan an-Nasir Yusuf, pada dawarsa 1230-an, mulai berani memisahkan diri dari Dinasti Ayyubiyyah. Kesultanan Ayyubiyah sempat terpecah, namun berhasil disatukan kembali oleh Sultan Malik as-Salih pada tahun 1247, kecuali Aleppo. An-Nasir sendiri, ketika itu, berkedudukan di Aleppo.
Setelah Sultan Malik as-Salih tutup usia pada tahun 1249, al-Mu’azzam Turansyah menggantikannya sebagai sultan di Mesir. Ia adalah keturunan terakhir dari Dinasti Ayyubiyah.
Dinasti Mamluk yang ketika itu sudah mulai membesar di Mesir merasa terancam oleh Turansyah yang lebih dekat kepada tentara asal Kurdi dari pada Mamluk. Pada 1250, Turansyah dibunuh oleh Aybak dan Baybars dari Mamluk. Aybak kemudian naik tahta. Inilah awal pemerintahan Mamluk di Mesir.
Pada tahun 1260, pasukan Mongol datang menyerbu Kota Aleppo dan menaklukkan sebagian besar wilayah lain yang masih berada dibawah kendali Dinasti Ayyubiyah.
Namun, pada tahun 1341, pasukan Mamluk berhasil mengusir tentara Mongol dari semua wilayah pendudukan Dinasti Ayyubiah. Dengan demikian, seluruh wilayah kekuasaan Dinasti Ayyubiyah pada tahun ini diambil alih Mamluk, termasuk Palestina.
Kesultanan Mamluk mencapai kejayaannya pada masa pemerintahan Sultan al-Nasir Muhammad. Pada masa ini, Mamluk pernah didatangi Paus John XXII pada tahun 1327, meminta kepada Sultan al-Nasir untuk memberikan al-Quds dan kawasan Pantai Levantine. Tentu saja permintaan ini ditolak. Delegasi berjumlah 120 orang itu kemudian diusir oleh Sultan al-Nasir.
Setelah tiba musim kemarau panjang dan mewabahnya berbagai penyakit, Dinasti Mamluk mulai mengalami kemunduran. Pada saat ini, muncul kekuatan politik baru, yaitu Dinasti Utsmaniyah yang awalnya berasal dari Asia Kecil.
Dinasti Utsmaniyah terus melakukan ekspansi ke berbagai wilayah lain, termasuk mengambil alih Mesir dari tangan Dinasti Mamluk pada tahun 1517. Seluruh wilayah kekuasaan Mamluk, termasuk Palestina, pada tahun ini, berada dibawah kendali Sultan Selim dari Dinasti Usmaniyah.
Pemerintahan Islam Dinasti Utsmaniyyah bertahan di Palestina cukup lama, lebih dari 400 tahun, sebelum akhirnya mereka melemah dan tercabik-cabik oleh gerakan nasionalisme yang dihembuskan Barat. Pada tahun 1917, Palestina dikuasai oleh Inggris sebagai pemenang Perang Dunia I.