县级市是我国与县平级的县级行政区，也是《宪法》中所指的“不设（市辖）区的市”，县级市没有地方立法权。理论上，除了由自治州、地区、盟管辖的县级市外，县级市应由省级行政区直接管辖。但实际上，现时各省、自治区的县级市除省直辖县级市外，通常由省级人民政府委托地级市代管。新疆维吾尔自治区直辖的县级市也就是新疆生产建设兵团的城市，与新疆生产建设兵团的师实行独有的“师市合一”行政体制，由兵团直接管理，行使行政职能。自从1980年以来，我国大多数县级市都以“撤县设市”方式建立。自1983年起，县级市被作为行政区划术语被正式确立下来，截至2021年3月，中国共计394个县级市。很多人都知道我国的第一座建制市是民国时期设立的广州市，但几乎没有人能说得清我国第一个县级市是那一座城市。有人说是常熟市，特别是网络自媒体文章算都说是常熟市，但在常熟市之前我国就存在了市管市的情况；有人说是旅顺市，因为旅顺市是旅大市管辖的市，但是县级市这个概念是从改革开放以后才有的。因此众说纷纭，大体有以下几种说法:
第一种说法是辽宁省旅大市所辖的旅顺市。1954年辽宁省旅大市辖旅顺市，是我国最早出现的市（地级） 管市（县级）的市。中国大陆自1980年代以来，随着工业化的发展，城市化的步伐较快，大多数“市”都以撤县设市的方式建立。截至1999年底全国有营口、泰州、常州、无锡、苏州、青岛、枣庄、威海、广州、江门、佛山等11个地级市实现地级市管全部县级市，约占全国地级市 的5%。
第二个说法是秦皇岛市、汉沽市和宣化市。这种说法认为，我国第一批真正意义上的县级市出现在1960年的河北省，有秦皇岛市和汉沽市，受地级唐山市代管。由于河北省的行政区划长期以来存在很多问题，故而河北自上世纪就开始谋求在行政区划上进行调整，特别是五十年代末开始探索地级市和大县制双重改革，在1960年达到顶峰：激进地全面废除地区，实行全省地市大合并。而被唐山地区包围的秦皇岛由省辖市（级别等同与地级市）变更为唐山市下辖，成了市辖市（级别等同于县级市）。当然这次改革太冒进，虽然一举改变了全省小县林立，以邻为壑的局面，但同样因为步子迈的太大，没过多久就恢复原状了。故而今天没有多少河北人，甚至可以说的绝对一点——百分之九十以上的河北人都不知晓不清楚不了解这次改革。然而这次探索并不是徒劳无功，他为改革开放后全国范围内的地市合并、地改市提供了宝贵的范例。所以说，中国第一批地级市是天津市和河北省的张家口市、承德市、唐山市、保定市、石家庄市、邯郸市。其中最符合当今地级市定义和职权的，则是唐山市和张家口市，因为唐山市除管理原唐山地区各县外，还代管了秦皇岛市和汉沽市两个市，而张家口市代管了宣化市。而中国第一个县级市是哪个市？这种说法认为是河北省秦皇岛市，或者说秦皇岛市是中国第一个‘市辖市’。至于同样为唐山代管过的县级市汉沽市，如今已经变为天津滨海新区下的一个街道，已经不再是独立的城市了。而宣化市今天已经是张家口市辖宣化区，也不是独立的城市了。
第三种说法常熟市。1983年3月常熟县撤县设市，设立县级市。因为我国自从改革开放以后才有了县级市的概念和行政区划术语。那么改革开放之前只有“X辖市”的概念 ，市的系统是单列的。并没有专门的“县级市”的叫法，而“专区辖市”和“省辖市”都不能算县级市。1982年，中共中央第51号文发出了“改革地区体制、实行市领导县体制”的通知，首先在江苏试点，1983年在全国试行。随后中央又发出《关于地市州党政机关机构改革若干问题的通知》，要求“积极试行地、市合并”，并把此作为1983年地方政府改革的一项重要内容。至此市管县、市代管市体制开始在全国范围内推行，并将原地辖市根据其行政地位改称县级市。在“地改市”中未能和地区行政公署合体的“市”逐步被定性为县级，在徽州地区地改市时和黄山市闹矛盾后，这些县级市与地级市的关系由“名副其实的被代管”变成了“名义上代管实际上管辖”。
