湖北省武漢人，回族。由於他在家中排行第四，所以後世穆斯林尊稱他為“馬四巴巴”。
他出身於一個地方顯貴的家族，從小就跟隨父親學習漢文和伊斯蘭教經文。後來他到中國西北的寧夏同心城，向幾位著名的伊斯蘭教學者學習經典，為時6年。回到家鄉后開始感到以前的經典存在許多問題，於是就潛心研究。這時有一位來自中亞的伊斯蘭教大師抵達湖北，他就拜他為師，請教經典研究的秘訣。
由於他謙虛好學，刻苦鑽研，能夠採納各種學派的長處，終於成為當時學識淵博、精通教義真諦的伊斯蘭教經學大師，在當時就有很高的名聲。即使在伊斯蘭教各國，也享有很高的威望，被稱為是“東土學者四鎮”之一。以後他長期在湖北從事伊斯蘭教教育。由於他極力主張伊斯蘭教與儒家倫理的調和，得到了政府的多次表彰和獎勵。