Bursa Askeri Lisesini bitirdikten sonra, İstanbul’da Harbiye’ye devam etti. Buradan 1861’de kurmay yüzbaşı olarak orduya katıldı. Hersek isyanının bastırılmasında ve Karadağ savaşlarında bulundu. Ostrok muharebesinde yaralandı. 1864’te Kozan’daki isyanı bastırmakla görevlendirildi. Bu görevden döndükten kısa bir süre sonra Sultan Abdülaziz Hanın oğlu Yusuf İzzeddin Efendinin öğretmenliğine memur edildi. Sultan Abdülaziz’in Avrupa seyahati sırasında Yusuf İzzeddin Efendi ile beraber Padişahın maiyyetinde bulundu.
1870’te Yemen’in merkeze bağlanması için gönderilen ordunun başına geçirildi. Yemen’deki başarılarından dolayı mareşalliğe yükseltildi ve Yemen valiliği verildi. 1873’de kısa bir süre Nafia nazırlığı yapan Ahmed Muhtar Paşa, meşhur 93 Harbi başladığı sırada Erzurum’daki 4.Ordu Kumandanlığı vazifesinde bulunuyordu.
93 Harbi esnasında Zivin, Gedikler ve Yahniler muharebelerinde Rusları yendi. Kazandığı bu zaferler sebebiyle Sultan İkinci Abdülhamid tarafından “Gazi”lik ünvanı ve Murassa Osmani Nişanı verildi. Bu arada çok kıymetli altın bir kılıç da hediye edildi. Ahmed Muhtar Paşa, Yahniler Savaşından on bir gün sonra vuku bulan Alacadağ Muharebesinde kısmi başarılar elde ettiyse de, neticenin aleyhte olacağını düşünerek orduyu geri çekmiştir. Aynı harbin devamı esnasında Tuna cephesinde tehlikenin artması üzerine İstanbul’a davet edilerek, Çatalca hattı kumandanlığına getirildi. Bu görevden sonra Erkan-ı Harbiyye-i Umumiyye Reisliğine (Genelkurmay Başkanlığına) tayin edildi ve 1892’de Mısır fevkalade komiserliğine getirildi.
1908’de Meşrutiyetin ilanıyla Ayan Meclisi üyeliğine getirildi. Bu görevindeki ilk icraatı Mebuslar Meclisi toplantısında Sultan Abdülhamid Hanın hal’ edilmesini teklif etmek oldu. Nitekim bu teklifin neticesinde Sultan tahtından indirildi. 1911’de Ayan Meclisi reisliğine tayin olan Ahmed Muhtar Paşa, 22 Temmuz 1912’de sadrazam oldu. Kurduğu kabinede, üç eski sadrazam nazır olarak bulunduğu için, “Büyük kabine” olarak zikredilir. Bu kabinede bulunan eski sadrazamlar; Kamil Paşa, Avlonyalı Ferid Paşa ve Hüseyin Hilmi Paşadır. Aynı zamanda kabinede, oğlu Mahmud Muhtar Paşanın bulunmasından dolayı “Baba-oğul kabinesi” olarak da anılır. Sadareti sırasında Balkan Savaşı başladı. Başarısızlıkları yüzünden sadaretten çekilmek zorunda kaldı.
1919 yılında İstanbul’da vefat eden Ahmed Muhtar Paşa, Fatih Camii avlusunda medfundur. Matematik, takvim ve astronomi alanlarında çalışmalar yapan Ahmed Muhtar Paşanın yazdığı eserlerden bazıları şunlardır:
Riyaz-ül-Muhtar ve Mirat-ül-Mikat ve’l- Edvar ve bu eserin zeyli Mecmuay-ı Eşkali, Islahü’t-Takvim, Takvimü’s-Sinin, Takvim-i Mali, Sergüzeşt-i Hayatım’ın cildi sanisi, 1294-Anadolu’da Rus Muharebesi.