东汉 兴平元年（194年）， 袁术 改 九江郡 为淮南郡。 建安 四年（199年），术亡改称九江郡，仍兼 扬州市 治（五年，改治 合肥市 ）。黄初二年，封文帝子 曹邕 为淮南公，改九江郡为淮南国。三年，进爵 英布 。四年，改为淮南郡。太和六年(232年)，改封 曹操 子白马王 曹彪 为楚王，改淮南郡为 楚国 。嘉平元年(249年)，国为淮南郡。
东汉置
东汉兴平元年（194年），袁术改九江郡为淮南郡。建安四年（199年），术亡改称 九江郡 ，仍兼扬州治（五年，改治合肥）。黄初二年，封文帝子曹 为淮南公，改 九江郡 为淮南国。三年，进爵淮南王。四年，改为淮南郡。太和六年(232年)，改封曹操子白马王曹彪为楚王，改淮南郡为楚国。嘉平元年(249年)，国除为淮南郡。淮南郡治 寿春县 （今安徽寿县 城关镇 ），领7个县： 合肥市 、成德、寿春、 下蔡郡 、西曲阳、平阿、义成。
晋 太康 十年十一月 甲申 ，改封 司马允 为 英布 。 永泰 元年(300年)八月，国除为郡。永兴元年(304年)，分淮南郡的 和县 、 乌江县 置 历阳郡 ，淮南郡领14个县：义城、平阿、 当涂县 、 下蔡 、寿春、 钟离姓 、 阴陵 、东城、西曲阳、成德、合肥、 逡 遒、 全椒县 。
东晋 咸和三年(328年)， 石勒 控制淮南郡。常设4个县：寿春、阜陵、合肥、逡遒。七年，复归东晋。 后赵 建武十一年(345年)，淮南郡又入后赵。 石虎 太宁 元年(349年)，入晋。
晋太元八年(383年)十月， 苻坚 亲率倾国之兵攻陷寿春。十一月，复归东晋。 前秦 淮南郡设2个县， 寿县 、 蔡国 。
北魏 淮南郡，仍治寿春县，领3个县：寿春、 阜阳市 、西宋。
北周 复建淮南郡，治领寿春县。隋开皇二年（582年），废郡。大业三年四月，改寿州为淮南郡，治寿春，领4个县：寿春、 安丰镇 、 霍邱县 、长平。
唐武德三年，改隋淮南郡为寿州。
东晋置
永嘉乱后， 淮南市 流民南渡 江南 ，加上 苏峻 、 祖约 乱，淮南流民大批渡江， 东晋 咸和四年(329年)，侨置淮南郡于于湖县（在今安徽 当涂县 南三十八里），属侨置的 河南省 。太 元初 (约376年)，改属豫州，领6个县：于湖、 繁昌区 、 当涂 、逡遒、 铁勒 、 襄垣县 。晋末土断，割于湖为境，改属 扬州市 。
刘宋 永初二年(421年)，分江淮淮南立南豫州。五年，改属南豫州。次年三月 乙巳 ，撤销淮南郡，并入 宣城郡 。八年六月 戊寅 ，恢复淮南郡，仍治于 湖县 ，属南豫州。 泰始 三年(467年)，回属扬州。七年，以 淮南西路 (北)没入 北魏 ，复分 淮南市 为二豫州，淮南郡改属南豫州，领6个县：于湖、繁昌、 当涂县 、逡道、 定陵 、襄垣。
齐建元二年(480年)，罢南豫州，淮南郡改属扬州。永明二年（484），复属南豫州。陈淮南郡领4个县：于湖、 当涂 、 襄垣县 、 西乡县 。 太建 八年（576年），立 陈叔彪 为 英布 。
隋开皇九年（589年）平陈，废郡。