Pendirian lembaga pendidikan tinggi Islam sudah dirintis sejak zaman pemerintahan Hindia Belanda, di mana Dr. Satiman Wirjosandjoyo pernah mengemukakan pentingnya keberadaan lembaga pendidikan tinggi Islam untuk mengangkat harga diri kaum muslim di Hindia Belanda yang terjajah itu.
Masa revolusi kemerdekaan
Gagasan tersebut akhirnya terwujud pada tanggal 8 Juli1945, ketika Sekolah Tinggi Islam (STI) berdiri di Jakarta di bawah pimpinan Prof. Abdul Kahar Muzakkir, sebagai realisasi kerja yayasan Badan Pengurus Sekolah Tinggi Islam yang dipimpin oleh Drs. Mohammad Hatta sebagai ketua dan M. Natsir sebagai sekretaris. Ketika masa revolusi kemerdekaan, STI ikut Pemerintah Pusat Republik Indonesia hijrah ke Yogyakarta dan pada tanggal 10 April1946 dapat dibuka kembali di kota itu.
Setelah pengakuan kedaulatan Indonesia secara internasional, Pemerintah mendirikan Perguruan Tinggi Agama Islam Negeri (PTAIN), yang diambil dari Fakultas Agama UII (Yogyakarta) berdasarkan Peraturan Pemerintah Nomor 34 Tahun 1950. Penetapan PTAIN sebagai perguruan tinggi negeri diresmikan pada tanggal 26 September1951 dengan jurusan Da'wah (kelak Ushuluddin), Qodlo (kelak menjadi Syari'ah) dan Pendidikan (Tarbiyah).
Diawali dari penegerian Fakultas Agama Universitas Islam Indonesia (UII) menjadi Perguruan Tinggi Agama Islam (PTAIN) diatur dengan Peraturan Presiden Nomor 34 Tahun 1950 Tanggal 14 Agustus 1950 dan Peresmian PTAIN pada tanggal 26 September 1951. Berdasarkan Peraturan Presiden Nomor 34 Tahun 1950 dan ADIA (didirikan berdasarkan Penetapan Menteri Agama Nomor 1 Tahun 1957).
Dengan dikeluarkannya Peraturan Presiden Nomor 11 Tahun 1960 tentang pembentukan Institut Agama Islam Negeri (IAIN), maka PTAIN Yogyakarta dan ADIA Jakarta menjadi IAIN "Al-Jami'ah al-Islamiah al-Hukumiyah" dengan pusat di Yogyakarta. IAIN ini diresmikan tanggal 24 Agustus1960 di Yogyakarta oleh Menteri Agama K. H. Wahib Wahab. Sejak tanggal 1 Juli1965 nama "IAIN Al-Jami'ah" di Yogyakarta diganti menjadi "IAIN Sunan Kalijaga", nama salah seorang tokoh terkenal penyebar agama Islam di Indonesia.
Dalam perkembangan selanjutnya, berdirilah cabang-cabang IAIN yang terpisah dari pusat; Hal ini didukung oleh Peraturan Presiden Nomor 27 Tahun 1963. Hingga akhir abad ke-20, telah ada 14 IAIN, di mana pendirian IAIN terakhir di Sumatera Utara pada tahun 1973 oleh Menteri Agama waktu itu, Prof. Dr. H. A. Mukti Ali.
Sekolah Tinggi Agama Islam Negeri
Seperti telah diketahui, dalam perkembangannya telah berdiri cabang-cabang IAIN untuk memberikan pelayanan pendidikan tinggi yang lebih luas terhadap masyarakat.
Untuk mengatasi masalah manajerial IAIN, dilakukan rasionalisasi organisasi. Pada tahun 1997 sebanyak 40 fakultas cabang IAIN dilepas menjadi 36 Sekolah Tinggi Agama Islam Negeri (STAIN) yang berdiri sendiri, di luar 14 IAIN yang ada, berdasarkan Keputusan Presiden Nomor 11 Tahun 1997.