1948年12月1日徐州解放。那么解放后为什么徐州属于山东省领导呢？这是和革命形势的发展分不开的。徐州是苏鲁豫皖四省接壤地区的中心城市，也是山东的南大门，因此，在抗日战争和解放战争时期，虽然淮北区党委（解放战争后期为豫皖苏中央分局、江淮区党委）、冀鲁豫区党委、鲁南区党委都在抓徐州的革命斗争，都有徐州市的地下党，但始终以鲁南为主，当时的徐州市委，以鲁南为依托，主要驻赵镈（今苍山）、峄县一带，领导市内的地下工作和徐州东北地区农村的革命斗争。
刚解放时市委的椭圆形印章，上面就是“中共鲁中南区党委徐州市委”12个正楷字。到1949年上半年，因为已经属中共中央山东分局直接领导，才改为圆形的、全称仿宋体的“中国共产党徐州市委员会”印章。再从进城接管的干部来看，也全部是在山东配备成套的，进城后又陆续吸收了一部分青年知识分子参加革命工作。
关于徐州的级别，当时确定为区党委一级。徐州解放后，徐州属华东局领导。当时华东局驻山东青州，主要领导山东的工作（江淮、苏北、苏南区党委的工作由中共中央华中工委领导），直辖单位有胶东、渤海、滨海、鲁中、鲁南五个区党委，济南、徐州两个特别市。徐州领导干部的配备，也是省军级或副省军级，如军管会主任傅秋涛，是鲁南区党委书记，后调任总参人武部长，1955年授上将军街；警备司令员袁也烈，是华野渤海纵队司令员，1955年授中将军街；市委书记兼市长周林，南下后任中共贵州省委书记。1949年3月下旬，华东局南下，山东分局重新成立，徐州属分局直接领导。中共中央山东分局的直辖单位有胶东、渤海，鲁中南三个区党委（原五个区党委合并为三个，每个区党委下辖五个地委），济南、青岛（此时已解放）、徐州三个特别市市委。
从建国至1952年底，徐州仍由山东省管辖。在这期间，鲁中南、胶东、渤海三个区党委已相继撤销，中共中央山东分局直接领导地委（地委作了调整和合并）和省辖市的市委。但济、青、徐三市和一般省辖市不同，在规格上比地委高半级（即副省级）。当时任徐州市人事处副处长的张仲堂等老同志回忆说，我们记得很清楚，那时候市委部长、市府局长相当于地委书记、专员，科长相当于县委书记、县长。
比如莱阳专署专员柳林调任徐州市委工业部部长，曾任副专员的孙子权、牛子春分别调任市府副秘书长、民政局副局长，铜山县县长王铁英调任市房管局科长；同时，从干部管理权限上来看，当时中共中央华东局管到地师级，山东分局管到县团级，文非任市委秘书长、牛子春提为民政局局长都是1952年1月经华东局批准的，铜山县委副书记沙振乾调任市委组织部干部科科长是1952年1月经山东分局批准的；再从生活待遇上来看，建国初期，国家机关工作人员，仍实行战时供给制，吃饭分大、中、小三等类别，中央规定地师级以上干部吃小灶，县团级干部吃中灶，区营级以下吃大灶。
徐州市的部局长以上干部吃小灶，科级干部吃中灶，科员级以下人员吃大灶。1952年初评定级别时，山东分局组织部发来的职务等级线表，其中济、青、徐三市的正副部局长为11一14级，与地委正副书记、正副专员相同，正副科长为14一17级，与县委正副书记、正副县长相同，科员股长为17-20级，与县的科长相同。
1952年11月11日，中央人民政府委员会第十九次会议通过决议：撤销苏南、苏北两个行署区，恢复江苏省；华东行政区直辖的南京市，改由江苏省领导；成立徐州专员公署，山东、安徽皖北行署区管辖的原江苏省的市、县，一律归回原建制。
1953年徐州划回江苏省，并同时成立徐州专区。专署驻徐州市。1958年，原由江苏省辖的徐州市划归徐州专区领导。1962年，徐州市改为省辖市。1970年，徐州专区改称徐州地区。
在“特殊时期”中，因驻徐州部队属济南军区，1968年上半年，当时的山东省主要领导人王效禹（兼军区第一政委）曾提出，把徐海地区（包括徐州专区及徐州、连云港二市）划归山东省，也确实造了一阵子舆论，比如1968年3月成立第二个徐州市革命委员会时，山东《大众日报》以第一版的整版篇幅作了报导；报导山东全省重大活动时，又将济（南）、青（岛）、徐（州）等市并列；山东省革委会向徐州市革委会发文件，等等。此事报告国务院，周恩来总理征求了南京军区司令员、江苏省革命委员会主任许世友的意见，许世友同志表示不同意，国务院也认为处理行攻区划问题时，要有历史的观点，不能只考虑现状，要尊重历史长期形成的事实和大民群众的感情、习惯生活水平，所以没有批准省界的改变。后来，中央又采取了另一种方式，徐海地区的驻军，调换成南京军区的部队。
