Muharrem Akkaya, İstanbul Üniversitesi Hukuk Fakültesi'nden mezun olduktan sonra mesleğe Karabük'te başladı. Çeşitli ilçelerde hakimlik, Kocaeli'nde savcılık yaptı.
Akkaya, Adalet Bakanlığı'nda, Bakanlık İdari ve Mali İşler Daire Başkanlığı tetkik hakimliğinden sonra Ceza İşleri Genel Müdür Yardımcısı oldu. 24 Şubat 2011'de Yargıtay Savcılığına, üyeliğine seçilen Akkaya, Eylül 2016'da YSK üyeliğine atandı.
İLKHA