Aile Özbekistan'ın Andican bölgesine sürgün edildi. Çocukluğu burada bir köyde geçen Kırımoğlu, 1955 yılında Taşkent yakınlarında bir kasabaya yerleştiler. 1959 yılında Rus dilinde orta öğretimini tamamladı ve Taşkent üniversitesi Arap Dili ve Edebiyatı Bölümüne girmek için müracaat etti. Ancak "Kırım Tatarlarını, yani Sovyetlere sadık olmayan bir milletin mensuplarını bu fakülteye almıyoruz" diyerek reddedilmesi üzerine bir fabrikaya işçi olarak girdi.
1961 yılında arkadaşlarıyla birlikte "Kırım Tatar Milli Gençlik Teşkilatı"nı kurdular. Bir kaç hafta sonra teşkilatın liderleri tutuklandı, Kırımoğlu işten çıkarıldı. 1962 yılında Taşkent Ziraat Mekanizasyon ve Sulama Enstitüsü'ne yazıldı. Ama üç yıl sonra KGB'nin isteği üzerine "Milliyetçi, Komünist Parti ve Sovyet Devleti aleyhine propaganda yapmak ve yazdığı, Kırım'da XIII-XVII. Yüzyıllarda Türk Medeniyeti adlı makalesini enstitü talebeleri arasında dağıtmakla" suçlanarak okuldan atıldı.
Enstitüden atıldıktan sonra askere çağırıldı. "Benim milletimi yok sayan, tanımayan bir devlete askerlik yapmam" diyerek Kızıl Ordu'da askerlik yapmayı reddedince tutuklandı ve 1,5 yıl hapse mahkum edildi.
1968 yılında Sovyetler Birliği'nin Çekoslavakya'yı işgalini protesto eden Moskova'daki bir grup aydın arasında o da vardı. Bunun üzerine Sovyet Devleti aleyhine faaliyette bulunmak, Kırım Tatarlarının vaziyeti ve onların hakları hakkında mektuplar ve makaleler yazarak Sovyetler Birliği'nin milli siyasetini lekelemekle suçlanarak 1969 yılında yakalandı ve tutuklandı. Aynı suçlamalarla, Moskova'da yaşayan yahudi şairi İlya Gabay ve II. Dünya Savaşı'nın ünlü generallerinden Piyotr Grigorenko da tutuklanarak Taşkent'e getirildi. Ancak Grigorenko'nun davası onlarınkinden ayrıldı ve akıl hastanesine kapatıldı. Böylelikle bu Kızıl Ordu'nun ünlü generali, yalnızca Kırım Tatarlarının haklarını savunduğu için 5 yılını tımarhanede geçirdi. Kırımoğlu ve İlya Gabay 3'er yıl hapis cezasına mahkum edildiler.
Mustafa Abdülcemil Kırımoğlu 1974 yılında üçüncü defa tutuklandı ve 1 yıl müddetle Sibirya'da ağır şartlı çalışma kampına sürgün edildi.
Cezasının bitimine üç gün kala kamp arkadaşlarına ve akrabalarına yazdığı mektuplarla Sovyet Devleti'ne karşı propaganda yapmak ve iftira etmek gibi suçlamalar ile hakkında yeni bir dava açıldı. Bunun üzerine açlık grevine başladı. Açlık grevi 303 gün sürdü. Açlık grevi boyunca zorla ve darp altında beslendi. Ünlü fizikçi Andrey Saharov, General Piyotr Grigorenko gibi Sovyet aydınları ve insan hakları savunucuları onun serbest bırakılmasını talep etmeleri ve bu maksatla Birleşmiş Milletler'e, Dünya Kamuoyu'na İslam Dünyası'na, İnsan Hakları kuruluşlarına yazdıkları müracaatlar, mektuplar ile Kırımoğlu'nun adı ve Kırım Tatarlarının meselesi Dünya Kamuoyuna, bu meyanda Türkiye Kamuoyuna duyuruldu. O yıllarda Türkiye'de Mustafa Cemiloğlu olarak tanınan ve halkı tarafında verdiği mücadele dolayısıyla Kırımoğlu olarak anılan bu ünlü insan hakları savunucusunun hapishanede öldüğüne dair haberler çıkınca, Türkiye'de pek çok yürüyüşler, toplantılar, protestolar ve açlık grevleri yapılmıştı.
Sovyet Makamları onun yaptığı açlık grevine ve Dünya Kamuoyunun tepkisine aldırmadan onu Sibirya'daki Omsk şehrinde yargıladılar ve 2,5 yıl ağır şartlı çalışma kampı cezasına mahkum ettiler. Muhakemesine ne akrabalarını ne de onu savunmak üzere Omsk şehrine gelen Andrey Saharov ve eşi Yelena Bonner'i almadılar. "Halka açık" yargılamada dinleyiciler sırasını KGB ve İçişleri Bakanlığı mensupları doldurmuştu. Kırımoğlu cezasını çekmek üzere Çin sınırındaki Primoraki Çalışma Kampına gönderildi.
Ceza müddetini tamamladıktan sonra Taşkent şehrine getirildi. Şehri terketmesi, Akşam 20.00 sabah 06.00 saatleri arasında evden çıkması, halkla toplu bulunabileceği yerlere (kahvehaneler, çay salonları, tiyatro, pazar yerleri vb.) gitmesi yasaklandı ve her hafta karakola gitme mecburiyeti getirilerek açık nezaret altına alındı.
Bir yıl sonra açık nezaret şartlarını ihlal ettiği gerekçesiyle beşinci defa tutuklandı.. Taşkent'deki muhakemesine, Andrey Saharov'u, diğer arkadaşlarını ve akrabalarını almadılar. Kapalı yargılama sonucunda 4 yıl Yakutistan'daki Zıryanka Kasabasına sürgün edildi. Yakutistan'dan döndükten sonra, ailesiyle birlikte yerleşmek maksadıyla Kırım'a geldi. Üç gün sonra cebren Özbekistan'a götürüldü. Yangiyul kasabasında yaşamaya başladı.
1983 yılı kasım ayında altıncı defa tutuklandı. Taşkent'deki yargılama sonucunda üç yıl ağır şartlı çalışma kampına gönderildi. Artık geleneksel olan öncekilerle benzer suçlamalarla, yani Sovyet Devleti'nin iç ve dış siyasetine iftira etmek, antisovyet olmak, Kızılordu'nun Afganistan'ı işgalini kınayan bir bildiriyi, Andrey Saharov ve bir kaç aydınla birlikte neşretmekle suçlandı. Ayrıca 1983 yılında Krasnodar bölgesinde vefat eden babasının naaşını yasak olmasına rağmen Kırım'a gömmeye teşebbüs etmek; bu esnada polisle ve askerle çıkan çatışmalara önderlik etmek gibi ek suçları vardı.
Magadan şehri yakınlarındaki kampta ceza müddetinin tamamlanmasına az bir zaman kala Kırımoğlu aleyhine yeni bir dava açıldı. 1986 yılı sonunda Magadan'da yargılandı ve üç yıl hapse mahkum edildi. Ancak yargılandığı haberinin alınmasıyla, Türkiye'de ve ABD'inde serbest bırakılmasına yönelik başlatılan yoğun kampanyalar ve Rejkyavik şehrinde yapılan ilk Gorbaçov-Reagan zirvesinde, Reagan'ın ön şart olarak aralarında Kırımoğlu'nun da bulunduğu hapisteki 5 insan hakları savunucusunun serbest bırakılmasını talep etmesi sonucunda şartlı olarak serbest bırakıldı. Siyasi faliyetlerde bulunduğu takdirde, 3 yıllık hapis cezasını tamamlamak üzere tutuklanacaktı.
Kırımoğlu hapisten çıkınca, Kırım Tatar Milli Hareketi'nin Teşebbüs grupları mensuplarıyla görüşerek milli faaliyetlerini sürdürdü. Arkadaşlarıyla birlikte, 1987 yılında Kızıl Meydan'da Sovyet tarihinde benzeri hiç görülmemiş Kırım Tatar gösterilerini organize etti. Bu gösteriler, gerek Sovyetler Birliği'nde gerekse Hür Dünya'da büyük yankı yarattı ve dikkatleri Kırım Tatar meselesine çevirdi. Kırım Türklerine Kırım'ın yolunu açtı.
Kırımoğlu 1989 yılı Mayıs ayında Taşkent'te toplanan Kırım Tatar Milli Hareketi Teşebbüs Grupları Genel toplantısında kurulan Kırım Tatar Milli Hareketi Teşkilatı başkanlığına seçildi. Bu Teşkilatın öncülüğünde 1991 yılında, SSCB'nin Kırım Tatarlarının yaşadığı her yerinde yaptıkları seçimler sonucunda II.Kırım Tatar Milli Kurultayı 26 Haziran 1991'de Akmescit'de toplandı. Bu Kurultay'ın seçtiği ve Kırım Türklerini temsile yetkili en üst organ olan Kırım Tatar Milli Meclisi Başkanlığına seçildi. Kasım 2001'de toplanan IV. Milli Kurultay'da seçilen Meclis'in başkanlığına yeniden seçilen Mustafa Abdülcemil Kırımoğlu, evli ve üç çocuk babasıdır. Bahçesaray'da yaşamaktadır.