Gürcü Halil Rifat Paşa’nın oğludur. 1853 senesinde İstanbul’da doğdu. Küçük yaşta babasının kaybetti. Sadaret mektubi kalemi, amedi kaleminde görev yaptı. Şuray-ı devlet azası iken 16 Mart 1877 tarihinde vezirlik rütbesi aldı. 18 Nisan 1878’de Sadık Paşa kabinesinde Adliye Nazırı (Adalet Bakanı) oldu. 2.Abdülhamit7i tahtan indirmek isteyen komite ile ilişkisi olduğu gerekçesi ile görevden alındı ise de bu komite ile bağlantısı olmadığı ortaya çıktıktan sonra atandığı Şuray-ı Devlet Azalığı ve Evkaf Nazırlığı görevini kabul etmedi.

1899 senesinde oğulları ile birlikte Avrupa’ya geçti. Jön türk hareketine katılarak 2.Abdülhamit’in muhalifleri arasında yer aldı. 1903’te Brüksel’de vefat etti. Naşı 1908 senesinde  İstanbul’a getirilerek, babasının Eyüp Sultan’da bulunan Türbesine defn edildi. Mahmut Celaleddin Paşa, Abdülmecit’in kızı ve 2.Abdülhamit’in kızkardeşi olan Seniha Sultan ile evli idi. Bu evliliğinden ünlü yazar, mütefekkir Prens Sabahattin ve Lütfullah Bey doğmuştur.

Siyasi kişiliği dışında ünlü bir şair ve yazar olan Damat Mahmut Celaladdin Paşa’nın dönemin muhtelif dergi ve mecmualarında yayınlanmış şiirleri vardır. Basılmış bir Divanı ile, Tezkir-i Ulema, Ulemay-ı Arabın Hilafet Hakkında Şer-i Mübin ve Ahbar-ı Sahiha, Damat Mahmut Paşa’dan Sultan Abdülhamit Han-ı Saniye Mektuplar adıl basılmış risaleleri vardır.

İki defa evlenmiş olan Paşa’nın ilk hanımı Mahmut Asım ve Halil Rifat Bey adında da iki oğlu vardı.

Şiirlerinden;

Lüftundan anın teselli ettim
Allaha şükür tekemmül ettim
Ey bülbül hu şiyar dinle
Ahengime bakta sende inle
Bir gülşeni nevzemin açtım
Bin türlü çiçek bu yolda saçtım

Kaynak: Murat Kasap, Osmanlı Gürcüleri, İstanbul 2010, s.79-81