济阴，因在济水之南而得名。汉高祖五年（公元前198年）封彭越于梁国，都城定陶。汉景帝中元六年(公元前144年)从梁国分出，始为国，为郡，治定陶（今山东菏泽市定陶区）。东汉时期，济阴郡属兖州八郡国之一。隋又建济阴县（定陶西南），为济阴郡附郭。唐武德四年改为曹州（治今山东曹县西北），济阴郡从汉至明存在1500多年，是中原地区的政治、经济、军事重镇。《史记·货殖列传》：“夫自鸿沟以东，芒、砀以北，属巨野，此梁、宋也。陶、睢阳亦一都会也。昔尧作游成阳（菏泽东北），舜渔雷泽（鄄城东南），汤止于亳（曹县东南）。其俗犹有先王遗风，重厚多君子，好稼穑，虽无山川之饶，能恶衣食，致其蓄藏。”（司马迁把帝尧发祥于成阳，虞舜渔于雷泽，商汤兴起于亳，定位在今菏泽市境内。