Osmanlı Devletinin kuruluşunda büyük hizmetleri geçen mücahid kumandan, fethi dillere destan olan Aydos Kalesinin fatihi. Doğum tarihi ve yeri bilinmemektedir. Ertuğrul Gazi zamanında başlayan devlet hizmetini Osman Gazi ve oğlu Orhan Gazi devirlerinde de devam ettirdi. Osman Gazi ve Orhan Gazinin gözü pek kumandanlarından ve silah arkadaşlarındandı. Abdurrahman Gazi ve diğer mücahid gaziler, sonradan üç kıt’a ve yedi iklime hükmeden Osmanlı Devletinin kuruluşunda en önemli rolü oynadılar. Akça Koca, Samsa Çavuş ve Konur Alp, Akyazı, İznik ve İzmit ile meşgul olurken, Abdurrahman Gazi de İstanbul tarafındaki hisarlara akınlar düzenledi. Bursa fethedilinceye kadar, Bizans sınırında uç beyi olarak hizmetlerde bulundu.
1328 senesinde Orhan Gazi, Abdurrahman Gazi ile Konur Alp’i Aydos Kalesinin fethi ile görevlendirdi. Bu kalenin istihkamları çok sağlam olduğundan, kalenin fethi uzadı. Bu arada kale tekfurunun kızının gördüğü rüyadan sonra yazdığı mektup üzerine yapılan hareket neticesinde kale fethedildi. Orhan Gazi kale tekfurunun Müslüman olan kızını Abdurrahman Gazi ile evlendirdi. Abdurrahman Gazi bundan sonra İznik üzerine akınlarda bulundu.
Tarihe altın harflerle geçen bir çok kale fethine ve meydan muharebelerine iştirak eden Abdurrahman Gazi, 1329 senesinde vefat etti. Kabrinin Eskişehir yakınında kendi adı ile anılan köyde olduğu rivayet edilmektedir.