Didorong oleh kurangnya jumlah guru di Kabupaten Jombang, maka pada tanggal 1 Juli 1953 atas kesepakatan Pimpinan Cabang Muhammadiyah Kabupaten Jombang maka didirikanlah SGB ( Sekolah Guru Bantu ). Yang ditunjuk sebagai Kepala Sekolah yaitu Bapak Smail Dwijoharsono. Lokasi SGB berada di Jl. Tugu Gang I Jombang. Siswa SGB pertama kurang 15 anak.
SGB tersebut tidak bertahan lama karena dianggap tidak dapat mencapai tujuan yang diinginkan dan tidak adanya kemajuan, maka pada tahun 1955 namanya diubah menjadi SMP Muhammadiyah Jombang, dengan Kepala Sekolah Bapak Rahmanto. Beliau berasal dari klaten Solo Jawa Tengah. Dengan adanya perubahan nama tersebut rupanya mampu meningkatkan kemajuan terutama kuantitas karena animo masyarakat sangat besar, sehingga banyak siswa yang bersekolah di SMP Muhammadiyah. Ketika itu adanya Peraturan Pemerintah yang mengharuskan penjurusan di sekolah tingkat SMP, yaitu jurusan Matematika (A), dan Bahasa (B). Masa jabatan Bapak Rahmanto hingga tahun 1965.
Setelah Bapak Rahmanto, Kepala SMP Muhammadiyah dijabat oleh Bapak Sjamnudi Ach. Sekitar tahun 1965 – 1970, hingga beberapa tahun lamanya, kamudian Bapak Sjamnudi Ach. mutasi ke Kantor Departemen Agama dan digantikan Bapak Fauzan.
Saat Bapak Fauzan (1970) memimpin SMP Muhammadiyah mengalami perkembangan yang sangat pesat baik dari segi kualitas maupun kuantitas. Nilai yang diperoleh siswa bidang akademik maupun non akademik sangat membanggakan pada umumnya, bahkan pernah meraih juara I olah raga Badminton tingkat kabupaten.
Hal-hal yang diterapkan oleh Bapak Fauzan dalam usaha memajukan sekolah adalah promosi langsung pada masyarakat, diantaranya
- Diadakannya pengajian anjangsana setiap mingggu ke rumah-rumah wali murid yang dipimpin sendiri oleh Bapak Fauzan.
- Peningkatan kegiatan sosial di lingkungan keluarga SMP Muhammadiyah.
- Motto “Siswa SMP Muhammadiyah harus mampu berprestasi”
Selama menjabat Bapak Fauzan tetap melaksanakan tugasnya di Kantor Departemen Agama Kabupaten Jombang dan tahun 1973 di tarik kembali ke Kantor tersebut, namun tetap sebagai pengajar di SMP Muhammadiyah selanjutnya digantikan oleh Bapak Jaskur Soepranoto.
Pada masa kepemimpinan Bapak Jasykur Soepranoto perkembangannya juga sangat mengagumkan hingga lokasi SMP Muhammadiyah yang berada di Jl. Tugu Jombang tidak mencukupi untuk kegiatan belajar mengajar. Untuk memenuhi kebutuhan tersebut sebagian siswanya harus menempati gedung Panti Asuhan Yatim Muhammadiyah yang beralamat di Jl. Dr. Sutomo 13 Jombang. Karena dirasa mencukupi, maka pada tahun 1985 semua siswa SMP Muhammadiyah dipindahkan ke gedung yang baru yaitu di Jl. Ir. H. Juanda 70 Jombang hingga sekarang. Pada tahun 1986 Bapak Jasykur Soepranoto meninggal dunia karena sakit.
Selanjutnya Kepemimpinan SMP Muhammadiyah di jabat oleh Bapak A. Miftah Latif yang saat itu juga menjabat sebagai Ketua Majlis Pendidikan Dasar dan Menengah Pimpinan Daerah Muhammadiyah Kabupaten Jombang. Pada tahun 1999 beliau digantikan Bapak Yoyok Utomo hingga bulan Juli 2003, dan selanjutnya dijabat oleh Bapak Drs. Hadi Nur Rochmat, M.Pd.I.
Pada saat dijabat oleh bapak Drs. Hadi Nur Rochmat, jumlah siswa mengalami perkembangan. Pada tahun 2003/2004 jumlah rombongan belajarnya sejumlah 6 kelas, pada tahun 2006/2007 berjumlah 11 kelas dan sejak tahun pelajaran 2007/2008 sampai 2009/2010 jumlah rombel 12 kelas.