Sebagai wujud ruhul jihad (Jiwa berjuang dijalan Allah SWT) dan rasa tanggung jawab terhadap pendidikan generasi islam, setelah berdiri dan berkembangnya MWB (sekarang MI Raudlatut Tholabah) di Desa Kranding Kec. Mojo Kab. Kediri, maka timbul ide untuk mendirikan lembaga pendidikan formal untuk mendidik tamatan MWB tersebut.

Bermula dari ide cemerlang Gus Mahrus Yunus yang bertempat tinggal di Desa Ringinanom Kota Kediri, yang kemudian direstui oleh Pengasuh Pondok Pesantren Al-Ishlahiyyah (KH. Abdulloh Mun’im Isma’il dan Ibu Nyai Hj. Qomariyah serta Ulama’ dan tokoh masyarakat setempat diantaranya : KH. Abdul Basyir, K. Abu Darda’, K. Mustaji, K. Ishomuddin, K. Sanusi, KH. Zainudin Basyari, maka pada tanggal 9 September 1968 berdirilah lembaga pendidikan MTs. Sunan Kalijogo.

Nama MTs. Sunan Kalijogo sendiri diambil dari nama salah satu Wali Songo yang merupakan tokoh penyebar agama Islam ditanah Jawa, alasan pemilihan nama Sunan Kalijogo pada awalnya adalah diambilkan dari nama wali songo yang memiliki nama dengan jumlah huruf sembilan, saat itu penulisan “KALIJOGO” masih menggunakan “KALIDJOGO”, hal ini dimaksudkan untuk menandai bahwa MTs. Sunan Kalijogo merupakan lembaga pendidikan yang berciri khas Nahdlatul Ulama’ dimana pada lambang NU berjajar bintang yang berjumlah sembilan yang merupakan simbol perjuangan para wali songo.