江蘇常州人。1955年畢業於蘇南工業專科學校。歷任山西柴油機廠及大同綜合機床廠技術員、技術科副科長，大同市文聯秘書長，大同市文教辦公室、文化局創作組組長，大同市文聯副主席，山西省作家協會副主席及黨組副書記、主席、黨組書記，專業作家，文學創作一級。全國第八、九屆政協委員，中共山西省委第五屆候補委員、第六屆委員，中共十三大代表，中國趙樹理研究會副會長，中國作家協會全國委員會委員、主席團委員。1957年開始發表作品。1979年加入中國作家協會。
著有長篇小說《總工程師和他的女兒》、《跋涉者》，中篇小說集《魔棒》，中短篇小說集《古壘西邊》，短篇小說集《故事發生在雙溝河邊》、《春天在榆樹堡》、《在陽光下》、《光的追求》、《復甦集》，報告文學集《五十年滄桑》、《火·犁·人間和明天》、《黃河落天走山西》、《大運亨通》、《直掛雲帆》等。《跋涉者》獲首屆《人民文學》獎、全國長篇小說烏金獎、第三屆《當代》文學獎、趙樹理文學獎一等獎，短篇小說《復甦》、報告文學《心兒向著明天》分別獲第一、二屆《當代》文學獎，中篇小說《歸去》獲《人民文學》富豪杯優秀小說獎等。
焦祖堯是山西作家中五十年代開始文學創作並在文壇產生影響的代表人物之一。
