Mehmet Ali Şahin, 16 Eylül 1950'de Karabük ili Ovacık ilçesi Ekincik köyünde doğdu. Babasının adı Abdullah, annesinin adı Ünzüle'dir.
Avukat; İstanbul Üniversitesi Hukuk Fakültesini bitirdi.
Serbest avukat olarak çalıştı. İstanbul Fatih Belediye Başkanı olarak görev yaptı. Adalet ve Kalkınma Partisi Kurucu Üyesi oldu.
20, 21 ve 22. Dönemde İstanbul, 23. Dönem Antalya Milletvekili seçildi. 58 ve 59. Hükümetlerde Devlet Bakanı ve Başbakan Yardımcısı olarak görev yaptı. 60. Hükümette Adalet Bakanlığı görevinde bulundu. 23. Dönemde Türkiye Büyük Millet Meclisi Başkanlığı görevine seçildi.
Orta düzeyde Almanca bilen Şahin, evli ve 4 çocuk babasıdır.