林牧師生於基督教家庭，祖父已信主，父親更是傳道人。可惜12歲那年父親辭世，哥哥和幼弟妹又相繼夭折，剩下他與寡母相依為命。林牧師本身也是自少體弱多病，有幾次幾乎死去。幸好後來遇上一位
美籍德裔人狄文先生，願意栽培他成才，及為他禱告，作育他成才。狄文先先原籍德國，卻沒有在老家聽過福音，反而到了中國才信主。他很想報答中國人，栽培一位能在中國傳福音的年青人，代替他在中國還福音的債。於是收留林牧師，並資助他讀書。讀完小學、中學后，又送他到建道神學院念神學。1929年，林牧師回應翟輔民牧師的呼籲，加入“
中華國外佈道團”，也就是中國第一家
差會，遠赴
印尼拓荒佈道，成為華人海外傳道的先鋒。
林證耶牧師最初在荷印時代西里伯斯島南端大商埠孟加錫（華僑簡稱
錫江）從事華僑福音工作。三年後，進到內地，向那些半開化的
達雅民族傳福音。“達雅人”是印尼原住民的統稱。經過15年的辛勞，帶領了3,000多個山族居民信主，建立了十多間教會。直到日本戰敗，他才放下那些工場，轉到
爪哇，來到印尼首都耶加達，開辦全印尼第一家
粵語教會“粵僑基督教會”。