原始社会逐渐解体以后，青岛也进入了奴隶制时代。这时的青岛地区属于东夷族生活的地区，后来建为夷国。商周时期，属国中有齐、周等国，青岛一带属齐国。炎帝族四岳的后裔吕尚即姜子牙，被周文王尊为师，后来又被周成王封为齐侯，都临淄，是齐国的缔造者。齐国史上最兴盛的时期，是齐桓公、管仲时代。桓公吞并了许多小国，成为历史上著名霸主。自春秋战国始，齐国一直不失为大国。齐富渔盐之利，可见滨海的青岛地区早因盐、渔猎而富庶。
秦始皇一统天下，施行郡县制，分天下为36郡。今青岛胶南和胶县大部属琅琊郡；今平度、即墨、莱阳和崂山县属齐郡。当时的即墨为滨海大邑，辖境包括今平度、即墨、崂山各县、莱西一部分和今青岛市区，城址在今天的平度县境内的大朱毛，后称朱毛城。齐威王元年（公元前356年），威王曾召见即墨大夫，《史记·田敬仲完世家》记威王语：“自子之居即墨也…田野阔，民人给，官无留事，东方以宁”，对即墨大夫给以很高评价。
秦末，在农民起义中，六国贵族也纷纷起义。刘邦破楚以后，逐一降灭战斗在青岛一带的齐国贵族田横，不愿降汉，自刎身死，其部下500壮士均皆自杀，实为古代壮烈之举，至今为人称颂。田横据守之海岛，后人称为“田横岛”。
汉高祖刘邦建立了西汉王朝，承袭郡县制，但同时也分封了一些诸侯王。青岛地区分属琅琊郡和胶东国。建有即墨、皋虞、长广、平度、壮武、徐乡、郁秩、不其、黔陬、计斤、柜、姑幕诸等县。
三国时期，青岛地区属魏，即墨隶北海国，不其属东莱国。西晋统一后，不其县属长广郡并为长广郡治。
西晋以后，中国出现南北对峙的南北朝时期。北魏时，即墨和不其均属光州长广郡，今平度属胶东县。北魏孝庄帝永安二年（公元529年），在胶州湾西部建立了胶州。胶州名取之于胶河，河之名取之于河水似胶，史谓以胶名州始此。胶州辖东武、高密、三昌三郡，州治东武（今诸城）。北齐时废不其县，前后历700年之久。
被隋代重新统一了中国，隋文帝开皇十六年（公元596年）重建了即墨县，其辖境大大小于齐国始建的即墨邑，仅包括汉代的壮武、不其、皋虞3县，隶于东莱郡，这一辖境直至清末大体没有变化。新设置的即墨，在今城址建了新的即墨城，城周4里，高1丈6尺，有3个城门，东为朝海，西为涌济，南为环秀。在胶州湾西岸的旧黔陬县址建了胶西县，旧城俗称土城口。在原长广县一带建立了胶水县，到明代改 置平度州唐代武德六年（公元623年），并胶西入高密县，以其地为板桥镇，成为胶州湾的重要海港。至北宋，由于宋金对峙的形势，登州（今蓬莱）、莱州（今掖县）封海闭港，青岛一带的地位突出，在国内外交通贸易中发挥了显著的作用。
宋元祐三年（公元1088年），宋朝政府在密州板桥镇设立了市舶司。市舶司为管理港口、船舶、外商、贸易和税收的政府机构。密州设市舶司后，成为全国设司的五大海港之一也是北方唯一的对外贸易港。同时，以板桥镇复升格为胶西县，并兼临海军。宋制，府、州、军、监并重，板桥镇的地位可谓重极一时。
宋南渡以后，江北尽为金有。金代，青岛地区的建置如宋。但胶西县已为军港，成为金海军根据地。同时，宋金之间从各自利益出发，在胶西开设场，以利互市。这是宋金之间唯一的海上交通往来港口
元代，蒙古太祖二十二年（公元1227年），于胶西县设胶州，其辖境小于隋代，仅领三县即胶西、即墨、高密，隶属益都路。元世祖至元二年一度废即墨，分置掖县、胶水，旋复。元定都大都（今北京）后，京师供应，仰赖江南，为此开放了南北海上运输。为了缩短运程，减少海难，节省航时，提高海舶的周转能力，开凿了胶莱运河，沟通胶州湾和莱州湾，从黄海直接进入渤海，这在中外海运史上堪称伟大的壮举。
明洪武初省胶西县入胶州，上属青州府，9年改属莱州府，下领高密、即墨县。洪武二年初建胶城，8年改建为砖城，周4里，高8.33米，有迎阳、镇海、用城3门。
明初“革元旧制，自京师达于郡县，皆立卫所，外统之都司，内统于五军都督府，…一郡者设所，连郡者设卫，大率5600人为卫，千一百二十人为千户所，百十有二人为百户所”
现在的青岛地区，当时设有鳖山、灵山二卫。山卫，下辖浮山所、雄崖所；灵山卫下辖夏河所等。鳌山卫在即墨县境，卫城建于明洪武二十一年，周5里，高11.67米，有城门个，即镇海、迎恩、安远、维山，其规模大于胶、即二县城。
灵山卫在胶州境内，明洪武五年建城，周3里，高8.33米，永乐二年扩建，约增一倍，周达5公里，均包以城砖，弘治元年又重修过。
清代，州县建置大体依明代，但各卫、所裁撤，如浮山所改为浮山寨，仍有马、步军及运仓。
青岛地区以濒海的地理形势，既有400多公里的海岸线，又拥有400多平方公里的胶州湾，沿海几乎到处可以泊船，有众多的海湾。在清代，塔埠头、金家口、女姑口、青岛口均已成名，有相当规模。塔埠头，已有通盛京、上海、宁波福建、香港的5条航线；青岛口则“旅客商人云集”，“宏舸连轴，巨航接舻”，女姑口“百物鳞集，千艘云屯”；金家口“南通浏河，北通营口，东通仁川（今朝鲜境），西南通海州”甚至被誉为“沿海城市之冠”。这些港口的发展，对青岛地区经济产生了举足轻重的影响，也为现代青岛城市的发展打下了基础。
