漢高祖從齊郡分置平原郡，晉朝改為平原國。宋、後魏、後周複名為平原郡，隋初廢平原郡，置德州，
煬帝又複名為平原郡。唐朝再置德州，其後或為平原郡。管轄地區即山東省德州市陵縣（今德州市陵城區）。
東晉永和七年（351）置，治龍鄉縣（(今廣東羅定市羅鏡、太平一帶)。領龍鄉縣、平原縣。屬廣州。梁天監六年（507）領龍鄉縣、永業縣。屬瀧州。陳廢。
劉宋武帝於梁鄒縣舊城（治所在今山東鄒平縣韓店鎮舊口村）僑立平原郡，屬僑置冀州。北魏皇興三年（469年），改平原郡為東平原郡，屬
齊州。開皇三年（583年），東平原郡廢除。