Madrasah Aliyah Negeri (MAN) 3 Padang Panjang terletak di jalan Rasuna Said No. 14 RT. 13. Kelurahan Kampung Manggis, Kecamatan Padang Panjang Barat, Kota Padang Panjang. Berada pada lokasi yang masih asri dengan suasana perbukitan dan jauh dari keramaian kota, karena berada di tepi jalan antara pasar kota Padang Panjang dengan komplek Minang Village atau yang dikenal sekarang dengan Mifan Padang Panjang.

Madrasah Aliyah Negeri (MAN) 3 Padang Panjang diresmikan sejak keluarnya Surat Keputusan Menteri Agama Republik Indonesia nomor 515.A 1 1995, tanggal 25 November tentang pendirian beberapa Madrasah. Berdasarkan SK Menteri Agama RI tersebut Madrasah Aliyah yang ada di Balai Balai berubah status menjadi MAN. 

Sejarah awal tahun 70-an gedung IAIN Imam Bonjol yang terletak di Kelurahan Pasar Usang berdiri sekolah persiapan IAIN yang kemudian hari menjadi MAN Balai Balai yang berjalan sampai tahun 1981.

Pada tahun 1981 Marasah Aliyah Negeri Balai Balai (MAN 3 Padang Panjang) ke air bangis kabupaten Pasaman sebagai pengganti karena banyak permintaan dari masyarakat, maka diadakan filial dari Madrasah Aliyah Negeri Gunung Padang Panjang (MAN 2 Padang Panjang). Namun tidak berapa lama dipindahkan lagi ke kelurahan Balai Balai Padang Panjang yang dilaporkan kepada Kementerian Agama RI sebagai Filial Madrasah Aliyah Negeri Gunung Kelurahan Balai Balai. Oleh sebab itu, Menteri Agama RI menerbitkan SK Pendirian MAN Balai Balai Kota Padang Panjang yang kemudian atas kesepakatan antara MAN Koto Baru, MAN Gunung dan MAN Balai Balai serta KANDEPAG Kota Padang Panjang saat itu menjadi :

• Madrasah Aliyah Negeri (MAN) Koto Baru menjadi MAN 1
• Madrasah Aliyah Negeri (MAN) Gunung menjadi MAN 2
• Madrasah Aliyah Negeri (MAN) Balai Balai menjadi MAN 3

Sejarah singkat MAN 3 Padang Panjang berasal dari Filial Lokal Jauh MAN Gunung, yaitu berlokasi di Madrasah Ibtidaiyah Negeri (MIN) Balai Balai Kota Padang Panjang dan kemudian diberi nama MAN Balai Balai Padang Panjang yang diterbitkan SK pendiriannya menjadi MAN 3 Padang Panjang. Pada waktu itu, lokasi di MIN tidak memungkinkan untuk di tempati, maka dengan persetujuan pak wali kota Padang Panjang dipinjamkan lokal SDN Tanah Palambiak sebanyak tiga lokal dan sebagai Kepala Madrasah adalah Bapak Drs. H. Nasrul.

Pada tahun pertama yang mendaftar di Madrasah ini sebanyak 18 Siswa dengan 3 orang guru negeri dan 6 orang guru honor. Tahun kedua, yang mendaftar sebanyak 24 siswa, berhubung karena lokal tidak memadai dengan jumlah siswa yang semakin bertambah, maka pada tahun 1998 diusahakan meminjam lokal lagi yaitu di gedung bekas fakultas Ushuluddin IAIN Imam Bonjol di Pasar Usang Kota Padang Panjang dan pada tahun 1999 barulah pindah ke lokasi bekas Fakultas Ushuluddin.

Tahun ketiga jumlah siswa meningkat menjadi 48 siswa dan pada tahun ke empat MAN 3 mendapat bantuan dari DEPAG untuk menambah lokal sebanyak 2 lokal, sehingga sudah ada 7 lokal yang dapat dipakai. Memasuki tahun berikutnya jumlah siswa terus meningkat, maka tahun 2001 PEMDA membangun gedung Madrasah yang berlokasi di Jalan Rasuna Said Kampung Teleng Padang Panjang. Di lokasi ini dibangun 6 lokal, 1 Perpustakaan dan 1 Laboratorium dan tahun 2005 dilanjutkan dengan pembangunan kantor guru dan Mushalla, yang diberi nama Mushalla Nurul ‘Ilmi. Selanjutnya pada tahun 2006 mendapat bantuan lagi dari PEMDA Padang Panjang yang kemudian digunakan untuk membangun pagar.  

Adapun Kepala Madrasah yang pernah bertugas di MAN Balai Balai sekarang MAN 3 Padang Panjang dari awal berdiri sampai sekarang adalah :

1. Drs. H. Nasrul Periode tahun 1996 s/d 2007.
2. Dra. Roslindawati RS, S.Pd Periode tahun 2007 s/d 2013.
3. Siril Firdaus, M.Ag Periode tahun 2013 s/d 2014.
4. Drs. Dariman Periode 2015 s/d 2023.
5. Julpiadi Hutabarat, S.Ag., M.S.I Periode 2023 Sampai Sekarang.