Üçüncü Ahmed Han bir “Askeri Müze” kurulması gerektiği düşüncesinden hareketle; 1726 senesinde, Cebehane’deki silah ve gereçlere düzen vermek için “Dar-ül-Esliha”yı kurdurdu. Bu tarih Askeri Müzenin, müze anlamına uygun kuruluş tarihi olarak kabul edilmiştir. Dar-ül-Esliha, Üçüncü Selim Han ve İkinci Mahmud Han zamanlarındaki yeniçeri ayaklanmaları sırasında yağmalandı. Özellikle 1826’da yeniçeriliğin kaldırılması sırasında buradaki eşyaların da yeniçerilere aid olduğu düşünülerek bir çok kıymetli eşya tahrib edildi. İkinci Abdülmecid Han zamanında “Harbiye Ambarı” adını aldı. Tophane- i Amire müşiri Fethi Ahmed Paşanın gayretiyle “Müze-i Askeri” adıyla yeniden kuruldu ve daha sonra adı “Asar-ı Atika-i Müze-i Hümayun” olarak değiştirildi.
Müze; harp silah ve gereçlerini ihtiva eden “Mecmua-i Asar-ı Esliha-i Atika” ve arkeolojik eserleri ihtiva eden “Mecmua-i Asar-i Atika” adlı iki bölümden meydana gelmişti. Mecmua-i Asar-ı Atika bölümü daha sonra Osman Hamdi Bey tarafından Çinili Köşke taşınarak bugünkü “Arkeoloji Müzesi”nin temeli atılmıştır. Abdülaziz Han zamanında önemini kaybeden müze, tekrar Harbiye Ambarı haline gelmiş ve Kıyafethane bölümü buradan alınarak Sultanahmed’deki Elbise Ambarı denilen yere götürülüp “Yeniçeri Müzesi” adı altında sergilenmiştir.
İkinci Abdülhamid zamanında Ahmed Muhtar Paşanın başkanlığında kurulan heyetin hazırladığı projeler Sultan’a arz edilmiş ve İkinci Abdülhamid Hanın emriyle, Yıldız Sarayı bahçesinde büyük bir silah müzesi kurulması kararlaştırılmıştır. Fakat bu çalışmalar da neticesiz kalmış ve İkinci Meşrutiyetin ilanından sonra Tophane Müşiri Ali Rıza Paşa aynı projeyi uygulamak için Padişah'tan izin aldıktan sonra Ahmed Muhtar Paşanın başkanlığında bir kurucu Müze Komisyonu teşkil edilmiştir. Bu komisyon İstanbul içinden ve dışından çeşitli silahların toplanmasını sağlamış, fakat bina seçimi yapılmadığından bunlar Aya İrini Kilisesinde toplanmıştır. Daha sonra Harbiye Nazırı Mahmud Şevket Paşa, Ahmed Muhtar Paşayı “Esliha-i Askeriye Müzesi”ni kurmakla görevlendirmiş ve kendisini ilk Askeri Müze müdürü olarak tayin etmiştir. 1908-1923 yılları arasında müdürlük yapan Ahmed Muhtar Paşa, müzenin adını “Müze-i Askeri-i Hümayun” olarak değiştirmiş, kütüphane, atış poligonu kurmuş ve Yeniçeri Mehterhanesini aslına uygun olarak “Mehterhane-i Hakani” adıyla faaliyete geçirmiştir. Bu arada yayın hayatına da giren Askeri Müze, Ahmed Muhtar Paşa’nın oğlu Sermet Muhtar (Aluş) Bey tarafından Fransızca ve Türkçe olarak hazırlanan üç ciltlik Müze Rehberi’ni ve Mehter müziği notalarını “Mehterhane-i Hakani Notaları” adıyla yayınlamıştır. Müzenin adı daha sonra “Askeri Müze” olarak değiştirildi.
Bugünkü Askeri müze
Harbiyedeki askeri müze türünün ikinci en zengin örneğidir. Askeri Müze ve Kültür Merkezi 1993 yılında şimdiki yerinde, çok başarılı, modern bir sergileme düzeninde tekrar açılmıştır.İkinci Dünya Harbi sırasında savaşın Türkiye’ye sıçrayabileceği düşünülerek kıymetli eşyanın bir kısmı Ankara’ya ve diğer kısmı 1944’de Niğde’ye gönderilmiş, 1948’de müze olarak Maçka Kışlası verilmiş, 1949’da bütün eşyalar İstanbul’a geri getirilmiş, 1949-1955 yılları arasında bütün eşyanın sayımı, devir ve teslimi yapılmış ve envanter kayıtları yenilenmiştir. 1955 yılında Maçka Kışlası, Teknik Üniversiteye devredilmiş ve buradaki eşyalar eski Harbiye Jimnastikhanesine taşınmıştır. Daha sonra Harbiye Yedek Subay Okulundaki modern binasına taşınan “Askeri Müze”, muhteşem tarihimizin silah, araç-gereç ve kıyafetlerini modern müzecilik anlayışına uygun olarak sergilemektedir.
Müzede çok çeşitli silahlar bulunmaktadır. Bunlar arasında kılıçlar, topuzlar, tüfekler, zırhlar, kalkanlar, toplar, oklar ve her türlü ateşli silahlar en fazla olanlardır. Ayrıca birçok ünlü kişinin silahı, çeşitli askeri giyim eşyaları, sancak ve kıymetli ganimetler müzeyi süslemektedir. Bunların yanında, güzel bir kütüphanesi de olan Askeri Müzede, haftanın belirli günlerinde mehter marşları halka açık olarak mehter bölüğü tarafından icra edilmektedir.
Mustafa Kemal Atatürk’ünde yetiştiği eski Harp Okulu binası tadil ve eklentiler ile müzenin elli bin parçadan oluşan koleksiyonunun dokuz bin eserine, 22 salonda mekan olmuştur. Müzenin doğu kanadı sergi, toplantı ve benzeri sosyal faaliyetler için kullanılmaktadır. Ok, yay salonunu takiben süvari araç ve silahları, kesici silahlar, Yavuz Sultan Selim, Fatih Sultan Mehmed ve İstanbul'un fethi bölümü, erken İslam, İran, Kafkas, Avrupa ve Türk silahları, eşsiz miğfer ve zırh bölümü,ateşli silahlar, otağ ve çadırlar alt kat salonları eserleridir. Üst katta Dünya savaşları, Çanakkale Savaşı ve Kurtuluş Savaşı hatıraları, yakın tarih üniformalar ve Atatürk salonları bulunmaktadır. Müzede Mehter Bandosu konserleri verilmektedir.