1959 yılında Sivas'ta dünyaya geldi. Anadolu Üniversitesi Sosyal Bilimler Bölümü'nden mezun oldu. 1977 yılında MSP Kadıköy baş müşahidi olarak siyasete atıldı. 1984 yılından itibaren Refah Partisi Kadıköy ilçe teşkilatında, ilçe yönetiminde 2 dönem seçim işleri, 2 dönem teşkilat başkanlığı yaptı. 1991 Genel Seçimlerinde, Refah Partisi'nden İstanbul Milletvekili adayı oldu. Erdem, 1995 - 2001 yılları arasında Refah ve Fazilet Partisi’nde İlçe Başkanlığı görevlerini yürüttü. 1999 Yerel Seçimlerinde 1. Bölge Seçim Koordinasyon Merkezi Başkanı olarak yer aldı. 1999 yılında İl Genel Meclisi Üyesi seçildi.
AK Parti’nin kuruluşuyla birlikte, İl Genel Meclis Grubu'nu kurdu ve Grup Başkanı seçilen İsmail Erdem, 2001 - 2004 yılları arasında AK Parti Kurucu İl Yönetim Kurulu Üyeliği ve Yerel Yönetimlerden Sorumlu İl Başkan Yardımcılığı görevlerini yürüttü. 3 Kasım 2002 Genel Seçimlerinde 1. Bölge SKM Başkanlığı yaptı.
2004 - 2009 yılları arasında İBB Meclis Üyeliği, 2005 - 2009 yılları arasında Encümen Üyeliği görevlerini yürüten Erdem, 2009 ve 2014 yerel seçimlerinde, iki dönem üst üste Sancaktepe Belediye Başkanı seçildi ve halen başkanlık görevini sürdürüyor.
Sancaktepe Belediyesi Spor Kulübü'nün Onursal Başkanı ve Galatasaray Spor Kulübü Kongre Üyesidir. Onursal Başkanı olduğu Sancaktepe Belediyesi Spor Kulübü aynı zamanda, 20.675 sporcu ile Türkiye'nin en fazla lisanslı sporcuya sahip ikinci spor kulübüdür. Erdem, Ensar Vakfı Genel Merkez 1. dönem yönetim kurulu üyesi İstanbul Dostluk Vakfı Mütevelli Heyeti üyesi, kurucusu olduğu Medeniyet Yolcuları Vakfı'nın Mütevelli Heyeti Başkanı olmasının yanı sıra, Sivas Platformu Başkanlığı ve İstanbul Sivas Konfederasyonu Genel Başkanlığı görevini yürütüyor.
"Yerel Siyaset ve Belediyecilik" isimli bir kitabı bulunuyor. İsmail Erdem, evli ve dört çocuk babasıdır.
İsmail Erdem, 31 Mart 2019 Yerel Seçimlerinde AK Parti’den İstanbul İli, Ataşehir İlçesi Belediye Başkan adayı oldu.
