1870 yılında İstanbula€˜da doğmuştur. Babası Mühürdar Mehmed Emin Paşa`dır. Şehzade Rüşdiyesi`ni bitirdikten sonra bir süre Mülkiye ve Hukuk Mekteblerine devam etmiş, rahatsızlığı sebebiyle buraları bitiremeden ayrılmış, özel hocalar ile medrese derslerine devam ederek kendini yetiştirmiştir. Vilayat-ı Mümtaze Kalemi`nde başladığı memuriyet hayatında daha sonra Sadaret Mektubi Kalemi müdürü olmuştur. 1909 senesinde Sultan II. Abdülhamit`in hallinden sonra resmi jurnalleri kontrol edecek komisyona seçilmiş, Yıldız evrakının tasnifinde bulunmuştur. Birinci Dünya Savaşı sırasında Eyalat-ı Mümtaze Müdürlüğü kaldırılınca Müdevvenat-ı Kanuniyye Müdürlüğü`ne getirilmiştir. 1921 yılında Takvim-i Vekayia€˜in idaresi kendisine verilmiş, 1922`de Divan-ı Hümayun Beylikçiliği`ne yükselmiştir. Ancak İstanbul Hükümeti yıkılınca Bab-ı í‚li`deki görevi sona ermiştir. 1923`de Tarih-i Osmani Encümeni azalığına seçilmiş, Mayıs 1924`de Vesa`ik-i Tarihiyye Tasnif Encümeni`nin başına getirilmiştir. İbnülemin Mahmud Kemal İnal`ın başmemur unvanıyla başkanlığında tasnıf başlamış ve Mayıs 1926 senesine kadar devam etmiştir. Bugün Osmanlı Arşivi`nde İbnülemin`in kendi adıyla zikredilen katalog 29 ciltten oluşmaktadır ve orijinal haliyle araştırmaya açıktır. Hazine-i Evrak 1927`de Başvekalet Osmanlı Arşivi`ne devredilince Vesa`ik-i Tarihiyye Tasnif Heyeti lağvedilmiş, İbnülemin`in buradaki görevi de sona ermiştir. Aynı yıl kurucularından olduğu Evkaf-ı İslamiyye Müzesi Müdürlüğü`ne tayin edilmiş, 1935`de emekli oluncaya kadar bu görevde kalmıştır. İbnülemin Mahmud Kemal İnal, bu görevlerin yanı sıra Kütüphaneler Tasnif İşleri İlmi Müşavirliği ile İslam Ansiklopedisi Müşavirliklerinde de bulunmuştur. 1934`de Londra`da yapılan Milletlerarası Antropoloji ve Etnoloji Kongresi`ne 1937`de New York`ta bir ilmi cemiyete ve 1938 yılında Kopenhag`da toplanan bir kongreye aza seçilmiştir.
İbnülemin hayatı boyunca birçok nişan almıştır. Bunlardan bazıları şunlardır Alman İmparatoru II. Wilhelm`den 2. rütbe "Aigle rouge", Avusturya İmparatoru Karl`dan 2. rütbe Franz Josef, İran Şahı Ahmed Şah`tan 2. rütbe Şir ü Hurşid.
1953 yılında, hayatı boyunca topladığı kitap, yazı ve levha koleksiyonunu ve yirmi dosya kadar tutan vesikalarını İstanbul Üniversitesi`ne bağışlamıştır. 1957`de İstanbul`da ölen İbnülemin Mahmud Kemal İnal, Merkez Efendi Mezarlığı`na gömülmüştür.