Sejarah berdirinya Program Studi PGMI tidak bisa dilepaskan dari sejarah institusional STAIN Salatiga yang bermula dari Fakultas Tarbiyah. Pilihan sebagai “tarbiyah” sejak awal berdiri menunjukkan keunikan lembaga ini dibandingkan dengan beberapa STAIN lain di Jawa Tengah. Berkaitan dengan PGMI maka ada tiga periode sejarah yang dilewatinya. Pertama, periode awal berdiri tahun 1969 sampai tahun 1990, Fakultas Tarbiyah Salatiga adalah bagian dari IAIN Walisongo Semarang yang spesifik terfokus menyiapkan guru agama Islam di madrasah dan sekolah. Jenjang pendidikan yang ditempuh adalah Sarjana Muda dan Strata satu (S1) Pendidikan Agama Islam, dan Pendidikan Bahasa Arab saja. PGMI, belum menjadi pilihan sasaran program di masa itu.
Periode kedua merupakan akar kelahiran PGMI yang berawal ketika pada tahun 1990 mulai dibuka program Diploma II (D II)sebagai program penyiapan guru kelas untuk Madrasah Ibtidaiyah dan Program guru agama Islam untuk SD/MI. Kelahiran jenjang pendidikan D II tersebut dimaksudkan sebagai jawaban atas Undang-Undang Nomor 2 Tahun 1989 tentang Sistem Pendidikan Nasional. Keberadaan PGKMI/SD di Fakultas Tarbiyah IAIN Walisongo Salatiga terus berlanjut hingga saat ada perubahan status Fakultas Tarbiyah menjadi STAIN Salatiga pada tahun 1997. Pada saat itu, PGKMI/SD merupakan bagian Program Studi D II dari jurusan Tarbiyah STAIN Salatiga.
Periode ketiga dimulai ketika tahun 2005 yang secara yuridis adalah masa peralihan dari benih yang telah disemai sejak bulan Juli tahun 2003, yaitu dalam Undang-Undang Republik Indonesia Nomor 20 tentang Sistem Pendidikan Nasional. Kehadiran Peraturan Pemerintah Republik Indonesia Nomor 19 Tahun 2005 tentang Standar Nasional Pendidikan memberi sinyal kuat bagi semua Lembaga Pendidikan Tenaga Kependidikan (LPTK) untuk mengubah sistem. Sinyal tersebut semakin kuat di penghujung tahun 2005 dengan kelahiran Undang-Undang Republik Indonesia Nomor 14 tentang Guru dan Dosen. Titik penting undang-undang ini adalah adanya keharusan semua guru adalah lulusan Strata 1. Imbasnya adalah adanya keputusan pemerintah untuk menghentikan pengadaan program Diploma II bidang kependidikan. STAIN Salatiga yang sejak awal berdiri berkomitmen terhadap persoalan keguruan tentu secara fitrah tergerak menjawab sinyal yuridis tersebut. Naskah akademik ini adalah representasi artikulasinya. Hal ini menjadikan pijakan untuk memulai kerja keras para pengelola dan senat STAIN Salatiga yang menghasilkan usulan pengajuan pendirian Program Studi PGMI Strata 1 pada tahun 2006. Dan akhirnya, turunlah surat izin penyelenggaraan Program Studi PGMI yang memulai aktivitasnya pada tahun 2007. Pada masa kepemimpinan pertama Program Studi PGMI Strata 1 dipimpin oleh Kajur Drs. Ahmad Sultoni, M.Pd. dan Sekjur Ari Setiawan, M.M. (2007 s.d. 2010). Selanjutnya, pada periode tahun 2010 s.d. 2014 dipimpin oleh Drs. Sumarno Widjadipa sebagai Kajur dan Miftachur Rif’ah, M.Ag sebagai Sekjur. Pada tahun 2014 s.d. 2015 Program Studi PGMI dipimpin oleh Peni Susapti, M.Si sebagai Kajur dan Sari Famularsih, M.A. sebagai Sekjur. Selanjutnya, pada tahun 2015 terjadi perubahan status STAIN Salatiga menjadi IAIN Salatiga. Nama Jurusan diganti Prodi sehingga Ketua Jurusan PGMI diganti Ketua Prodi. Ketua Prodi PGMI tetap dipimpin oleh Peni Susapti, M.Si. dan Sekretaris Prodi dijabat oleh Sari Famularsih, M.A dari tahun 2015 s.d. 2019. Selanjutnya, Kaprodi PGMI dijabat oleh Dr. Peni Susapti, M.Si. dan Sekprodi oleh Dra. Nur Hasanah, M.Pd. dari tahun 2019 sd 2023. Namun, ketika IAIN Salatiga berubah status menjadi UIN Salatiga pada tahun 2022, kepemimpinan PGMI hanya dipegang oleh Kaprodi yang dijabat oleh Dr. Peni Susapti, M.Si. tanpa bantuan dari Sekprodi. Prodi PGMI berada dibawah jurusan guru kelas. Pada tahun 2024, PGMI mulai dipimpin oleh Wulan Izzatul Himmah, M.Pd.