菏泽原为古济水所汇天然古泽，作为行政区划名称始自清代。清朝雍正十三年，即公元1735年，曹州升为曹州府，而原曹州直辖区域需要设为附郭县，雍正赐名菏泽县，菏泽因此作为县、地区、市名称至今。
菏泽地区自古就是华夏腹地，是中华民族的重要发祥地，先秦时就古国众多，今境分属兖州、徐州及豫州，现在所辖曹县、单县、成武、东明、巨野、郓城、鄄城等七县均为历史悠久的古县，其中曹县、单县、巨野、郓城、鄄城及成武这六个县更是曾为州治所在。
曹县县域尽管自古就有建制，但曹县作为政区却出现较晚，明朝洪武二年（1369年）曹州因水患迁到盘石镇（今曹县城），洪武四年曹州降为曹县，曹县自此而始，后又于今菏泽设曹州，曹县、曹州并立。
单县原称单父县，于唐末成为辉州治，五代时辉州改为单州，明初先省（省略）单父入单州，又降单州为单县。鄄城县设于西汉，隋朝时于鄄城设濮州，明朝时因黄河水患迁于黄河以北今范县濮城，民国时今鄄城又与濮县分设，此外鄄城也曾于东汉末短暂为兖州治。
郓城历史颇为悠久，秦汉时今境就有建制，今郓城建制始自北周所设清泽县，隋朝改清泽县为万安县，后又于万安县设郓州，不久又改万安县为郓城县，到唐朝时郓州移治须昌（今东平西），郓城又改为万安，到五代时才又恢复郓城之名，但不再复为州治。
成武秦时就已置县，历史上曾于隋朝及唐初数次短暂为戴州治。巨野西汉置县，因大野泽得名，唐初曾短暂于巨野设麟州，但巨野最辉煌时期要数北宋至元朝。五代时，巨野县设济州，金代时因水患济州迁于任城，元朝时巨野又曾为济州、济宁府、济宁路等治所，到1348年黄河又决口，济宁路又移治任城，巨野自此不复辉煌。
