Peygamberimiz (a.s.m.), Veda Haccı’ndan sonra da Hz. Cerir’i Zülkelâ ve Zû Amr’ı İslamiyet’e davet etmek üzere Yemen’e gönderdi. Hz. Cerir buna da muvaffak oldu. İkisinin de Müslüman olmasına vesile oldu. Fakat bu arada Resulullah’ın vefat haberini aldı. Çok üzüldü.
Hz. Cerir, Dört Halife devrinde de tebliğ ve irşat vazifesine devam etti. Hz. Ömer onu takdir eder, simasının güzelliği sebebiyle “Cerir bin Abdullah bu ümmetin Yusuf’udur.” diye iltifatta bulunurdu. Bir gün Hz. Ömer, Hz. Cerir’in de içinde bulunduğu bir grup Müslüman’la birlikte oturuyordu. Hoşlanmadığı bir koku duydu. “Koku kimden geliyorsa gitsin, abdest alsın!” dedi. Hz. Cerir, bir Müslüman’ın arkadaşları içerisinde mahcup duruma düşmesini istemezdi. Bunun için de, “Ey müminlerin emîri, hepsi abdest alabilir mi?” diye sordu. Her nasılsa Hz. Ömer bunu düşünememişti. Teklif hoşuna gitti, “Hay sen çok yaşa! Müslüman olmadan önce de ariftin, şimdi de öylesin.” diyerek Hz. Cerir’e iltifatta bulundu.
Cerir (r.a.), bilhassa idarecilere tavsiyede bulunmaktan geri durmazdı. Hakkın hatırını her şeyden yüce tutar, hak bildiğini söylemekten çekinmezdi. Bir defasında Muâviye’ye (r.a.) bir mektup yazdı. Peygamberimizin, “İnsanlara merhamet etmeyene Allah da merhamet etmez.” hadisini hatırlattı.[5]