曹操招安到黄巾军二十几万人，挑选其中的精锐编成“青州兵”，成为他手下最能打仗的一支队伍。朝廷因为曹操镇压起义有功，加封他为镇东将军。
曹操势力强大，威震山东，就派泰山太守应劭去接取他的父亲曹嵩到驻地兖州来。曹嵩带着弟弟曹德与一家老小四十余人、仆从一百多人，装了一百多车金银财物，浩浩荡荡往兖州而去。路上经过徐州，徐州太守陶谦热情接待曹嵩一家人，一连摆了两天酒。曹嵩上路时，陶谦亲自送出城门，还派都尉张闾带了五百兵护送。
张闿见曹嵩一家带了那么多金银财宝，起了贼心，就与部下商议，在半路上将曹嵩一家全部杀尽，抢了一百多车金银财物，与五百人一起逃奔到淮南去了。
曹操得知这一消息以后，哭得天昏地黑。他率领大军杀奔徐州，下令打下这座城池，将城中百姓全部杀光，一个不留。兵临徐州城下，陶谦只得在阵前向曹操解释：自己原是一番好意，不料张闿起了贼心，做出这种伤天害理的事来。但是，曹操根本听不进去，乱骂陶谦老贼匹夫，发誓要报杀父之仇。
两军正要交战，天上忽然起了一阵狂风，飞沙走石，双方只得各自收兵。
陶谦眼见全城军民都要遭殃，只得派人去向北海孔融、青州田楷求救。孔融又请刘备出兵支援，刘备说自己兵微力薄，请孔融带兵先走一步，自己必须到公孙瓒那里借兵。于是，孔融、田楷的人马先到徐州，但惧怕曹兵凶猛，只敢远远地扎下营寨。曹操看见来了两路人马，也不敢轻举妄动。
刘备向公孙瓒借了两千人马，又借到了公孙瓒的部将赵云。于是，刘、关、张率领三千人马为前部，赵云率二千人马随后，来到徐州。
刘备去见孔融，孔融说：“曹兵势大，曹操又善于用兵，目前还是先观察一下再说。”
刘备说：“恐怕城中缺粮，不能长久支持下去。我派关羽、赵云率领四千人马在你帐下听令，我与张飞杀奔曹营，冲进徐州城去与陶谦太守商量一下，看下一步应当怎样办。”
孔融听从刘备的主张，坚守阵地。刘备、张飞带领一千人马，冲破曹兵的包围圈，进了徐州城。陶谦将刘备接进府衙，见刘备仪表轩昂，性格豁达，见解深刻，的确是个难得的人才，便有意把徐州让给刘备，他派人取来徐州太守的牌印恭恭敬敬的送到刘备的面前。
刘备吓了一跳，说：“这是什么意思？”
陶谦说：“当今天下大乱，你是汉室宗亲，应当努力扶保朝廷。老夫年迈无能，情愿将徐州相让。”
刘备不肯接受，说自己是为了大义而来相助的，如此这般，岂不让人怀疑有吞并徐州的野心？陶谦再三相让，刘备坚决不肯接受。陶谦手下的谋士糜竺建议：“眼前兵临城下，还是先商议退兵之策要紧，等到局势平定以后，再来谈这件事吧。”陶谦只好将徐州太守的牌印暂时收了起来。
刘备说：“我先写封信给曹操，劝他和解。如果曹操不肯听，再和他厮杀也不迟。”
曹操在军中接到刘备的信，看了以后，拍案大骂：“刘备算是老几？竟敢写信来劝我！字里行间还嵌着骨头讥讽我！”他下令斩掉来使，加紧攻城，但是还没有来得及这样做，忽然有流星探马来飞报，说是吕布乘虚而入，攻破兖州，进据濮阳，形势十分危急。曹操见老窝被吕布占领了，十分惊慌。谋士郭嘉劝他不如向刘备卖个顺水人情，答应退兵，先去收复兖州，免得前后受敌。
曹操想想也只能这样做了，就同意了刘备的要求。陶谦见曹操退兵了，十分高兴，连忙设宴庆贺，孔融、田楷、刘、关、张、赵等人都参加了这一盛会。宴会结束时，陶谦把刘备请到上座，拱手对大家说：“老夫年迈昏庸，两个儿子又不成器，担负不起国家的重任。刘使君是皇室的同宗，德广才高，可以管领徐州。老夫卸了责任，也好安心养病。”
刘备听了，连忙摇手说；“我为了大义才来救援徐州，现在如果把徐州占为己有，岂不要被天下人所耻笑？”
这时糜竺劝刘备说：“当今天下大乱，正是建功立业之时。徐州户口百万，物产富庶，刘使君不必推辞。”
刘备说：“这件事我绝对不敢答应。”大家都劝刘备接受徐州，刘备就是不肯。
关羽说：“既然陶公诚心诚意让徐州，大哥不如先暂且将徐州管起来再说。”
张飞更是按捺不住性子，叫嚷起来：“又不是咱大哥强要他的徐州，他好意相让，大哥又何必苦苦推辞？”
刘备仍是咬紧牙关，始终不肯答应。陶谦再三推让，最后还是让不成徐州。他只得请求刘备暂时驻兵小沛，保护徐州。大家都劝刘备留在小沛驻军，刘备方才答应。
刘备与关羽、张飞来到小沛以后，修理城墙，安抚百姓，深得民心。陶谦六十三岁了，过了不久，忽然得了重病，眼看就快不行了。于是，他召集糜竺、陈登来病床前商议后事。
糜竺说：“曹兵虽然退走，明年春天必定会卷土重来。府君两次让徐州给刘备，刘备不肯接受，这是因为府君的身体还算健康。现在府君病重，这次再将徐州让给刘备，刘备就不该推辞了。”陶谦认为这话很有道理，就派人去小沛请刘备来徐州商议军务。
刘、关、张来到了陶谦的病床前面。陶谦躺在床上，有气无力地对刘备说：“老夫病情严重，眼看是朝不保夕了。希望明公以汉家城池为重，接受徐州的牌印。这样，老夫就是死去也安心了。”
刘备说：“您为什么不传给两个儿子呢？”
陶谦说：“我两个儿子都不成器。老夫死后，还望明公对他俩加强教育。”
刘备仍是推托，陶谦以手指心而死。徐州上下为陶谦举办丧事，结束后，众头领捧着徐州牌印送交刘备。刘备仍然推辞。
第二天，徐州百姓挤在府衙前一致要求刘备来接管徐州，刘备才接下了徐州的牌印。他委托孙乾、糜竺为从事，陈登为幕官，将原来驻扎在小沛的兵马全部调进徐州城内，出榜安民，当上了徐州牧。
,
