1970 yılında Rize'de doğan Şaban Yılmaz, 1993 yılında İstanbul Üniversitesi Hukuk Fakültesinden mezun oldu.
Yılmaz, Cumhuriyet Savcısı ve Cumhuriyet Başsavcısı olarak çeşitli il ve ilçelerde görev yaptı.
Adalet Bakanlığı Müsteşar Yardımcılığı ve Ceza ve Tevkifevleri Genel Müdürlüğü görevlerinde bulunan Yılmaz, 08.07.2019 tarihinde Adalet Bakanlığı Bakan Yardımcısı olarak atandı.
Şaban Yılmaz, evli ve iki çocuk babasıdır.