Pada zaman dahulu, Mu'adz pernah ditanya Rasulullah saw saat ia hendak berangkat ke Yaman:
"Bagaimana caramu nanti jika harus memutuskan suatu perkara?"
"Aku akan memutuskan berdasarkan ketentuan Allah,"jawabnya singkat.
"Lalu jika kamu tidak mendapatinya dalam kitabullah?"tanya Nabi saw.
"Aku akan memutuskan dengan sunnah rasulNya,"jawab Mu'adz.
"Jika kamu juga tidak mendapatinya dalam sunnah rasul?"
"Maka aku akan berusaha berijtihad dengan pikiranku, aku tidak akan membiarkan suatu perkara pun tanpa keputusan."
Rasulullah saw langsung menepuk dadanya seraya bersabda : "_Segala puji bagi Allah yang telah memberikan taufiq kepada utusanku untuk hal yang melegakan."