東晉元帝大興二年(319)，郡地屬前趙。東晉成帝咸和三年(328)，後趙因之。東晉安帝隆安四年(400)，後秦因之。
曹魏廣魏郡，
西晉泰始（265年-274年）中改名略陽郡，以屬縣名命名。治臨渭縣（今甘肅秦安縣東南），領臨渭、
平襄（甘肅通渭縣治）、
略陽（甘肅秦安縣五營鄉蔡河村）、
清水（甘肅清水縣永清鎮李崖村）4縣。屬
秦州。
東晉元帝大興二年(319)，郡地屬前趙。前趙仍治臨渭縣，領臨渭、略陽、清水、
綿諸（甘肅清水縣西南賈川鄉林河村）4縣。仍屬秦州。東晉成帝咸和三年(328)，後趙因之。穆帝永和七年(351)，
前秦因之。
孝武帝
太元十年(385)，西秦略陽郡治臨渭、略陽、清水、綿諸、隴城（今甘肅張家川回族自治縣）5縣。東晉安帝隆安四年(400)，後秦因之。
東晉安帝
義熙十三年(417)，
劉裕滅秦，郡地歸東晉。東晉治所在略陽（甘肅秦安縣五營鄉蔡河村），領略陽、臨漢、
上邽（天水市秦州區）3縣。
北魏太武帝
太延五年(439)，北魏統一北方，郡地屬
北魏。北魏治安戎縣(今張家川回族自治縣龍山鎮)，領清水、綿諸、隴城（略陽改名，今甘肅秦安縣五營鄉蔡河村）、阿陽（甘肅靜寧縣南）5縣。