1962年5月1日,以三明市人民武裝部為基礎,並從福建省軍區機關、陸軍第28、第31軍和守備第8師抽調部分人員,成立三明軍分區,歸福建省軍區建制領導。司令員阮文炳(當時任副司令員,1964年12月升任),政治委員張維滋(地委書記兼,1964年7月任職),第二政治委員程華民(當時任副政治委員,1964年7月升任)。機關編製90人。負責內衛治安、民兵及兵役工作。
三明軍分區成立時,轄
永安、
清流、
寧化、
三明縣和三明市城區人民武裝部。1963年4月,大田縣人民武裝部劃歸三明軍分區建制;三明縣、三明市城區人民武裝部依次改稱為
明溪縣、三明市人民武裝部。1970年7月,
建寧、
泰寧、
將樂、
尤溪、
沙縣等5個縣
人民武裝部劃歸三明軍分區建制領導。1983年7月,撤銷三明市人民武裝部,增編
梅列區、三元區人民武裝部。1984年11月,永安縣人民武裝部改為永安市人民武裝部。1986年6月改歸地方建制時,三明軍分區轄
永安市,
大田、清流、
明溪、寧化、建寧、將樂、尤溪、沙縣、
泰寧縣和三明市梅列區、三元區人民武裝部。