黃灝玄於1982年在香港中文大學畢業后即加入政府政務職系,2001年1月晉陞至首長級甲級政務官,2006年9月晉陞至首長級甲一級政務官。
2014年11月,黃灝玄接替退休的區璟智,出任財經事務及庫務局常任秘書長(財經事務)。
黃灝玄曾在多個決策局及部門工作,曾任香港駐日內瓦經濟貿易辦事處副代表。並於1994年4月至1997年11月出任布政司政務助理(后改稱政務司司長政務助理)。
2005年8月至2006年1月出任行政長官辦公室常任秘書長,2006年2月至2010年12月出任公務員事務局常任秘書長,2011年1月出任商務及經濟發展局常任秘書長(工商及旅遊)。