Yüzbaşılığı sırasında Trakya, Anadolu ve Suriye’de görevlerde bulunduktan sonra binbaşı, alay emini, kaymakam ve 1839’da miralay (albay) oldu. Redif kuvvetlerinin kuruluşu ile görevlendirildiği zaman ferik (tümgeneral) rütbesindeydi.
Yükselmesine devam eden Rüşdi Paşa, 1851’de seraskerliğe, çeşitli zamanlarda beş defa seraskerlik, beş defa sadrazamlık makamına getirildi. Sultan Abdülaziz Hanın şehit edilmesi sırasında, sadrazam olarak bulunuyordu. Hayatı boyunca zor ve sorumluluk isteyen görevlerden devamlı kaçması, hal' olayında zorla bulunduğu düşüncesini akla getirmektedir. Sultan Murad Han ve Sultan İkinci Abdülhamid Hanın ilk yıllarında sadarette kaldıktan sonra 1876’da görevinden istifa ederek ayrıldı. Ali Suavi olayından sonra istifa eden Sadık Paşanın yerine beşinci defa sadarete getirildi. Fakat kabine kurarken bazı şüpheli şahısların durumlarında ısrar etmesi ve Ali Suavi taraftarlarını affettirmek için uğraşması sonucunda bir hafta sonra görevden alındı.
Manisa’da yerleşen Rüşdi Paşa, Sultan Abdülaziz’in şehit edilmesiyle ilgili olarak, İzmir’e götürülerek sorguya çekildi. Manisa’ya tekrar dönüp, 1882 yılında öldü. Hatuniye Camii bahçesine defnedildi.
Çalışkan, tedbirli, dürüst olduğu bildirilen Rüşdi Paşa, zor görevden kaçması, tehlikeli gelişmelerde hemen istifa etmesiyle tanınır. Bu sebepten kısa sürelerle görevde kaldığı sadaret makamında, devlet ve millet yararına faydalı işler yapamadı.