一、狱中之谋
李世民在太原结交的友人中，有一个人不能不提，他就是刘文静。可以说，正是刘文静让李世民下定了起兵的决心。
当时，李渊到太原出任留守，晋阳令是刘文静。刘文静身材魁梧，相貌不凡，颇有才干谋略。他预感到隋朝灭亡是指日可待的，因而非常留心天下大势，准备择有雄才伟略的“真命天子”去投靠。李渊父子到太原不久，他就注意到李渊心怀四方之志，将来一定会有所作为，于是刻意与李渊交往，慢慢建立起了密切的关系。
也正是在这个过程中，刘文静结识了年仅20岁的李世民，发现李世民的才能和见识在同龄人中实属罕有。他曾对晋阳宫副监裴寂评价过李世民：英明神武等同于曹操，宽容大度可以和汉高祖相提并论，年纪虽然轻，却有天纵之才，将来肯定不是平常人。经过仔细观察和分析，刘文静认定李世民就是自己一直苦苦寻找的真命天子。
而李世民通过对刘文静的了解，发现刘文静是一位可以共谋大事的奇才，两人惺惺相惜，非常投缘。然而天有不测风云，刘文静很快便遇到了人生中的一个转折点。当时的瓦岗寨义军首领李密与刘文静是儿女亲家，瓦岗军打败隋军之后，隋炀帝祸及李密的亲人，连刘文静也被以勾结乱党的罪名投入太原监狱。
出于私交，李世民去狱中探望了刘文静。刘文静此时身为囚徒，要想保命只有造反一途，李世民的到来让他看到了希望，于是他试探性地问道：“眼下天下大乱，狼烟四起，生灵涂炭，何时才能天下太平？”
李世民回答道：“必须有胸怀拯救天下百姓大志的能人出世，才能天下太平！”
刘文静叹了口气，惆怅地说：“国家遭遇大乱，百姓的处境令人痛心，但要想有汉高祖刘邦、光武帝刘秀那样的能人再次出现，比登天还难呀！”
李世民看了刘文静一眼，说：“像汉高祖、光武帝那样的能人现在肯定有，只可惜千里马常有，而伯乐不常有，当世即使有这种人也很难被人发现。”
刘文静抑制住内心的兴奋，坚定地说：“我常以伯乐自居，我来相相你是不是一匹千里马，你愿意吗？”
两人经过一番交谈之后，开始敞开心扉，秘密商议起来。李世民表示，他来探视刘文静不仅仅是表达对朋友遭难的同情，主要是想与之商议一件大事，不知道刘文静有何见解。
李世民口中所谓的大事，刘文静自然心照不宣，他沉思片刻之后说：“现在天下造反起义的人无可计数，义军领袖李密已经包围了东都洛阳，然而荒淫无道的昏君却还在南方游山玩水，隋亡已是天命所归，如果能抓住这个大好时机，夺取天下并非难事。我做晋阳令已经好几年了，对这里的情况非常了解，而且认识很多确有真才实学的人。目前的太原，百姓为了逃避战乱，能逃进城的都来了。如果方法得当，召集10万人马也只是几日之事。况且你父亲唐国公手握几万兵马，到时候振臂一呼，谁不响应？有了这支十几万人的军队，趁天时地利攻入关中，只要能安抚人心，半年之内定能成就帝业！”
刘文静的一席话可以说正中李世民的下怀，李世民听后，兴奋地说：“真是英雄所见略同啊！”
汉朝未成立之时，张良苦读《太公兵法》10年，却无法施展自己的才能，直到偶然碰到了刘邦，才学抱负才得以施展，最后协助刘邦成就帝业；刘备带领关羽、张飞、赵云东奔西走，始终无立锥之地，最后三顾茅庐请得诸葛亮出山相助，诸葛亮屡出奇兵助刘备建立蜀国。刘文静的话让李世民产生了一种刘备遇到诸葛亮、刘邦遇到张良的感觉。尽管刘文静的才能不及张良、诸葛亮，但是他的确给了年轻的李世民足够的信心。
这是一次载入史册的谈话，它改变了两个人一生的命运轨迹。从此，李世民与刘文静结为密友。唐朝建立之初，李渊拜刘文静为司马，地位仅次于裴寂。在后来残酷的储君之争中，刘文静坚定地与陈叔达、萧瑀、宇文士及等人一起支持李世民，而裴寂则站到了太子李建成的队伍中。
二、劝父兴兵
李世民下定谋反的决心以后，又与刘文静制定了周密的行动方案，方案的第一步就是去游说李渊谋反。
一天夜里，在太原守备衙门内，李世民忧心忡忡地对李渊说：“父亲对皇上的忠诚皇天可鉴，但父亲也不能只顾忠于皇上而忘记了天下百姓呀！父亲非常清楚当...
李渊一向谨慎善忍，加上在朝中贵为国公，地位尊崇，轻易不愿冒险，听了李世民的话，他不置可否，反问道：“你觉得怎么办才好呢？”
李世民往前走近一步，悄声说道：“依我看，现在是上天赐予我们的最佳机会，只要我们顺应天下形势，迎合百姓心意，举义旗，发义兵，然后再直捣关中，传檄天下。不但我们父子可以转危为安，变祸为福，而且天下太平之日，即父亲您成就帝业之时。”
做了多年顺臣的李渊，对于谋反的话非常敏感，现在听到儿子如此直率的话语，他不由勃然大怒，大声骂道：“大胆小儿居然说出如此大逆不道之语，你可知道就凭这些话，我们父子就犯下了诛戮九族的大罪，是谁这么大胆指使你的？此话在我面前说说也就算了，如果再和别人说，当心会有性命之忧。”李世民非常了解李渊患得患失的矛盾心理，面对李渊的色厉内荏，他一言不发，主动退了出去，适时给了父亲一个缓冲的台阶。
第二天下午，李世民把其他人都支出去，拉住李渊来到卧室，再一次劝说李渊。他说：“父亲大人，如今盗贼四起，哀鸿遍野，我实在不忍看到这种惨状。您受命讨伐的这些盗贼，其实只是一些愤怒的百姓，百姓何其多，您难道能够把他们全部杀尽？即使我们有幸能平定叛乱，在无道昏君的统治下，难道会有安宁之日吗？事实是您无论怎么尽心平贼，都不能确保平安无事，更不能永保荣华富贵。我不忍看着生灵涂炭，更不忍看到我们全家任人宰割。我想父亲也不忍看到这种惨状吧。为今之计，只有顺天意，兴义兵，才能让天下苍生免遭杀戮，也让我们全家永保富贵呀！”
这次李渊没有发怒，只是双目微闭，静静地坐着，既不肯定也不否定。李世民知道父亲已经动了心思，于是也不急不躁，静等李渊的回答。
忽然，李渊长叹一声，说道：“你的话确实有些道理，从昨天起我就开始思考，天下安定、家中富贵是我一直追求的，既然二者在目前都不能保全，我们何不自己努力呢？但事以密成，谋以泄败，等我看准机会再和你商量这件事吧！切记此事关系重大，事急则缓，绝不能鲁莽行事！”
李世民听了，知道再纠缠下去也不会有什么结果，只得退下去再想办法。
刘文静在了解到李世民劝说李渊不太顺利后，想起了李渊的知己老友裴寂。李渊与裴寂交往密切，有时还通宵达旦喝酒聊天，关系非同一般。于是，刘文静让李世民去找裴寂来劝说李渊起兵反隋。
李世民与裴寂的关系非常一般，为了跟裴寂交好，李世民把私房钱交给自己信得过的龙山令高斌廉，让他天天与裴寂赌钱，并且只准输不准赢。裴寂每次都赢钱，开始非常纳闷，经过暗中调查才知道是李世民派高斌廉来陪自己，由此认定李世民是个仗义之人，于是他也开始刻意与李世民结交起来。两人经常一起游山玩水或拜访朋友，随着时间的推移，他们的感情越来越深，很快到了无话不谈的地步。在一次谈话中，李世民把自己想劝父亲起兵反隋的想法告诉裴寂，请他帮忙劝说李渊，裴寂满口答应。
事情的转变往往需要一个合适的契机，就在李渊犹豫不决之时，他管辖的地盘上发生了一件对他很不利的事情。大业十二年（616年）十二月，东突厥又派兵来马邑抢夺，李渊命太原副留守高君雅和马邑太守王仁恭率兵抗击。但王仁恭、高君雅作战失利，李渊担心此事连累自己，整天忧心忡忡。李世民感到这是天赐良机，就劝李渊说：“父亲不要再一味地因害怕获罪而担忧了，流寇盗贼横行，谁也不能百战百胜，如今皇上昏庸无道，不能明辨是非，您因战败获罪是早晚的事。与其整日忧愁，不如顺应民心，兴起义兵，一旦自己成就帝业，还怕谁会治您的罪吗？”
不久，隋炀帝得知马邑战败的消息，果然派出使者准备以“抵御突厥不力”之罪免去李渊和王仁恭的职位，并诏令把他们押往江都。李渊害怕去了江都会性命不保，内心非常恐惧，主动征求李世民与裴寂的意见，他们又乘机劝说李渊：“本来是手下将领出战失利，却牵连到您，可见当今皇上多么昏聩，再为隋朝尽忠还有什么好处呢？如今事情已经迫在眉睫，如果再犹豫将会悔之莫及。目前此处积蓄的军资财物众多，况且晋阳军队兵强马壮，以此起兵，定能一举成功。”李渊不放心地问道：“如果众人不服怎么办？”二人一看李渊心动，当即分析道：“关中豪杰虽然纷纷起事造反，但却没有一个能让众人信服的首领，就像一盘散沙。如今代王年幼，如果我们起兵后立他为王，招抚各路义军归附，是非常容易的。天时、地利、人和同时具备，不起兵谋反而非要坐等杀戮，这根本不是一位英雄人物的作为呀！”听了这些入情入理的劝说，李渊当即表示同意二人之言，然后开始秘密准备。
李渊真的没想过要起兵反隋吗？非也，其实他起兵的念头早就产生了。
大业七年（611年），隋末农民起义拉开序幕，统治阶级内部分崩离析。李渊目睹天下动荡的局面，开始产生了叛隋的想法。《资治通鉴》记载，大业九年（613年）正月，“诏征天下兵集涿郡。始募民为骁果，修辽东古城以贮军粮”。当时，李渊任卫尉少卿，督运于怀远镇，路过涿郡，与宇文士及有过密谈。他们密谈之事便是起兵反隋。这可由李渊称帝后与裴寂的一次对话证明：“此人（宇文士及）与我言天下事，至今已六七年矣，公辈皆在其后。”与此同时，李渊根据窦氏生前的建议，特地向隋炀帝进献“鹰犬”，作为自安之计，用投其所好之计来掩饰自己叛隋夺取天下的意图。后来杨玄感公然起兵谋反，李渊善察时变，没有贸然行动，反而因密告有功，被隋炀帝任命为弘化郡留守。不仅如此，他意识到天下大乱之时，炀帝多以猜忌杀戮大臣，于是“纵酒纳赂以自晦”，装糊涂以求自保。据说杨玄感谋反时，李渊的妻兄窦抗曾跑去劝他：“玄感抑为发踪耳！李氏有名图箓，可乘其便，天之所启也。”但李渊认为时机还不成熟，叫窦抗不要乱说。因为杨玄感起兵仅两月便被平定，此时闯这种“祸”，很可能被满门抄斩。
到大业十一年（615年）四月，李渊又任山西、河东黜陟讨捕大使，奉命前去镇压农民起义军。这时，他的好友夏侯端又劝他说：“金玉床摇动，此帝座不安……天下方乱，能安之者，其在明公。但主上晓察，情多猜忍，切忌诸李，强者先诛，金才（指李浑）既死，明公岂非其次？若早为计，则应天福，不然者，则诛矣。”夏侯端之言既应天象，又精辟地分析了当时的形势及李渊的处境，所以李渊“深然其言”，完全赞同夏侯端的见解。至此，李渊起兵的决心昭然若揭。
在太原留守任上，李渊依仗太原仓的粮草和各路豪杰早已暗中结交，并以自己力量不足以平贼寇为名招兵买马。这些足以说明他早就预料到隋帝国大厦将倾。只不过他善于隐忍待时，为了积蓄自己的力量，暂时压抑而已。试想，如果李渊自己没有起兵之心，纵使李世民及诸幕僚再怎么劝说，也不可能成功。
三、晋阳起事
在李世民及内部众多将士的劝说下，李渊终于开始图谋起兵，但他深知乱世中安身立命尚且不易，一旦真正谋反，想以河东之地夺取天下更是难上加难。正所谓天时不如地利，地利不如人和，为了起兵后成功夺取天下，李渊开始了推财养士、广纳天下豪杰的计划。
这时，李世民在太原的广泛结交起了很大作用。李世民天性豪爽，而且没有官职，既不会被公务缠身，又没有公职人员的避讳，一来二去，他结交了许多死士和豪杰，组成了一个效命李渊的组织体系。这个体系中不仅包括刘文静、刘弘基、长孙顺德等人，还包括陆续前来投奔李渊的刘世龙、唐俭、殷开山、赵文恪、刘政会、徐世绪、李思行等人。大批豪杰和隋朝旧部的依附，成了李渊起兵的重要力量，后来这些人也成为建立唐朝的首批有功之臣。
准备工作有条不紊地秘密开展着，大业十三年（617年）二月，形势又出现重大变化，马邑豪帅刘武周起兵反隋，并杀死太守王仁恭，史称马邑兵变。这年三月，刘武周勾结突厥大军直逼太原。非常形势为李渊自行大规模募兵提供了借口。李渊上任之初，隋炀帝派王威、高君雅任副留守，负责监视李渊，以防生变。为了能够顺利募兵，李渊特意邀请王威、高君雅前来商讨，目的就是为了稳住他们，防止他们暗中向隋炀帝汇报。王威与高君雅面对太原当时的情况，觉得李渊提出的募兵计划也合情合理，但出于职责，他们仍对李渊说：“本来私自募兵有违圣命，但你手握兵权而且是皇上的亲戚，况且情况紧迫，如果再按照正常程序，定会耽误大事，因此募兵之事可行，不过所募之兵一定做到平贼专用呀！”此言显然是在提醒李渊，违反军制不奏报朝廷募兵本来是不对的，但在危急形势下为社稷着想，也只能做出这种选择，但募兵之后绝对不能有其他图谋。
李渊见王威与高君雅暂时不会泄露秘密，当即命令李世民、刘文静等各自招募兵马。太原附近的百姓早对隋炀帝的暴政恨之入骨，募兵消息公布仅10天左右，就召集士兵近万人。这支队伍在李渊、李世民父子的安排下，直接由他们控制和指挥，成为晋阳起兵的主力军。
晋阳城是太原郡的中枢神经，要想让太原成为稳固的后方，李渊必须首先取得对晋阳城的绝对控制权，只有做到这一点，才能收放自如地控制河东。然而，副留守王威、高君雅作为隋炀帝的亲信，对李渊的动向了如指掌，让李渊父子时刻感受着威胁。
王威和高君雅本来就认为晋阳未经上报就私自募兵不妥，只是当时迫于形势，他们实在无话可说，现在听到许多人在议论李渊谋反，又见李渊、李世民父子治下募兵云集，操练频繁，他们确定李渊已有谋反之心。于是，王、高二人策划了一场晋祠祈雨大会，想把李渊诱骗过来，除掉他。谁知天不该绝李渊，经常出入王、高两家的晋阳乡长刘世龙知道了他们的阴谋，立即将此事报告给李渊父子。李渊和众人商量后，决定先发制人，设计除掉王、高二人。这就是著名的“晋阳宫事变”。
大业十三年（617年）五月十四日夜里，根据李渊的安排，李世民率兵埋伏在晋阳宫城外面。第二天清晨，李渊照例和王威、高君雅一起处理政务，这时，开阳府司马刘政会在刘文静的带领下来到厅堂上，声称接到有人谋反的密告。李渊装出很惊讶的样子，故意叫王威先看刘政会的状纸，谁知刘政会说：“告发的是副留守的事，只有唐公才能看。”并故意不给王威。李渊佯作吃惊地说：“难道有这样的事？”他随手接过状子并大声读道：“王威、高君雅图谋不轨，暗中勾结突厥入侵。”高君雅一听急了，捋起衣袖大骂道：“这是造反的人陷害于我。”高君雅还想争辩，刘文静一声令下，埋伏在外面的长孙顺德、刘弘基等蜂拥而上，将王、高二人五花大绑投进监狱。
也该王威、高雅君二人送命，李渊刚把二人投入监狱，外边有人报告突厥数万骑兵入侵太原，其轻骑从外城北门进入，从东门出去。李渊下令将各城门打开，然后让裴寂等人率兵防备。突厥人见城门大开，不知城内虚实，竟不敢进入，最后干脆退兵。如此一来，王威、高君雅勾结突厥人入侵的罪名更是让人信服。随后，李渊顺应众意，杀掉二人。这次杀害王、高二人的事件，标志着李渊、李世民父子公开起兵反隋。
李渊长期四处征战，知道欲成大事，首先要解除后顾之忧。起兵之前，为了防止起兵之后祸及全家，李渊密令留守河东的大儿子李建成带领全家人赶赴太原，以保存宗室。同时，为了防止起兵后东突厥从背后突袭，他又派刘文静作为特使前往始毕可汗处称臣纳贡，并与始毕约定：“唐公得天下后，土地人口归唐公，财帛归突厥。”突厥答应如果李渊想自立为帝，就派兵相助，并保证不从后面袭击。为避免引狼入室，李渊没有答应突厥派兵相助的提议，但他通过这一手段稳住了突厥，从而稳定了自己的大后方。
解除了后顾之忧后，李渊确定了自己的军事策略——直取长安。长安是隋朝的首都，也是军事要地，不易攻取，但李渊了解隋炀帝的性格，知道他习惯到处巡游，长安兵力相对空虚。另外，夺取长安有着重要的政治意义，有利于争取人心。
出有名之师才能争取人心，对此，李渊没有一味蛮干，而是进行了方方面面的考虑。当时隋军还有相当的战斗力，瓦岗军的反隋口号一出，立刻招来隋军的疯狂反扑。各地义军和割据政权不计其数，但并没有出现能取代隋而坐拥天下的势力，而且彼此牵制，在这种情况下，隋名义上还是全国的统一政权。老谋深算的李渊经过再三考虑，走了一条中间路线，提出只反当今皇上、不反隋朝的口号，类似于古代提出的“清君侧”。这是一个绝妙的策略：不反隋，可以避免隋朝的同情者和忠于隋朝的军队的反击；反对皇上，又可以获得各路反隋势力的支持。不过，既然打着不反隋的大旗，必须拿出实际行动来证明自己的立场。李渊采纳裴寂的建议，立代王杨侑为皇帝，以安隋室、反对隋炀帝暴政为名，檄告各郡县。
刚刚起兵的李渊，知道自己的军事实力并不强，既不能得罪突厥，也不能太过引起朝廷的注意，为了两者兼顾，李渊连军队旗帜的颜色都作了周全的安排。他认为，如用突厥的白色旗帜，肯定会引起汉族人的反感与憎恨，不利于募兵，更不利于得到广大汉族人民的支持，但如果使用隋朝的红色旗帜，百姓对隋的怨恨由来已久，不亚于对突厥的仇恨，可能也会遭到百姓的仇恨和抵制。最后，他决定采用红白相间的旗帜，表示既不从属于隋朝，也不依附于突厥。这样做可以避免树敌过多，削弱自己的实力。
为了证明自己起兵是顺民意、合天理的，李渊还让汾、晋的百姓四处传唱《桃李子歌》：“桃李子，莫浪语，黄鹄绕山飞，宛转花园里。”意思很明显，李为李渊姓氏，桃是陶的谐音，指的是帝尧的姓氏陶唐氏，李渊世代袭唐国公，桃和李，不正是暗示唐公拥有天命吗？李渊目睹绦白旗幡，听着歌谣，豪情万丈地对李世民说：“看来我肯定能顺应民意，成就帝业呀！”
民心的向背决定着起兵的成败，隋朝虽然有许多大型粮仓，但在荒年的时候总是闭仓拒赈，令百姓对隋王朝大失所望，怨声载道。瓦岗军李密吸取隋朝的教训，反其道而行之，多次大规模开仓济民，引得贫民纷纷来投奔瓦岗军，李密的声势日益壮大与此不无关系。于是，李渊仿效李密，在太原打开官仓救济贫民，并发出募兵告示，一时间应募之人接踵而至，20天内就招募了几万人马，称为“义兵”，归于李渊麾下。
四、西河大捷
李渊起兵谋反的消息很快被辽山（今山西左权东北）县令高斌廉报告给朝廷。隋炀帝知道后既恼怒又恐惧，立即下令长安、洛阳两地的官员做好防御准备。了解到隋军的动向后，李渊部下认为应先攻下辽山，除掉报信的高斌廉，但李渊不这么认为，他说：“辽山只是一座小城，不会对义军构成威胁，攻占它的意义不大，而西河郡丞高德儒正好阻挡我军南下的道路，先除掉高德儒才是上策。”
确定了第一个攻打目标后，李渊决定派长子李建成、次子李世民一起率军前去进攻西河郡。这是起兵后的首次作战，李渊非常重视，再三叮嘱两个儿子要谨慎从事，奋勇杀敌，确保首战胜利，以增强人们的信心。为此，他还特地安排太原县令温大有为参谋，协助指挥战斗。
李渊之所以如此安排，还有一个重要原因——此战的对手是隋朝的正规军。这些正规军虽然名声很坏，但战斗力强大。反观自己率领的义兵，虽然士气高昂，军纪严明，上下同心，但毕竟是招募的新兵，没有经过多少训练，对战阵大都不熟悉，毫无实战经验，空有一身蛮力。而李建成、李世民都是青年将领，虽然参加过战斗，但还是第一次单独指挥一支军队。李渊知道在残酷的战争中，仅有热情和士气是远远不够的，要想战胜敌人，还得靠将领的综合素质和士兵的作战能力。
李建成、李世民兄弟二人率领大军在父亲的声声叮咛中出发了，由于他们一路上广施恩德，行军非常顺利，很快就到达了西河郡。前期的广泛宣传，让西河郡的百姓非常敬佩李渊父子的仁德，都不愿帮高德儒守城。义军攻城之日，城内的士兵根本不愿出战，有的甚至临阵倒戈。在这种情况下，战局毫无悬念，西河郡很快就被攻下，高德儒本人被抓。义军宣称“吾兴义兵，正为诛佞人耳”，然后把高德儒杀了。之后，李建成、李世民没有被胜利冲昏头脑、滥杀无辜，反而对百姓好言安抚，秋毫无犯。
攻打西河郡一战可谓干净利落，完美地实现了战略目的。李渊高兴地说：“以此行兵，虽横行天下可也。”他南下入关的决心更加坚定了。
分析这次胜利，有两个原因不容忽视：一是义军纪律严明，为收买民心而对百姓秋毫无犯，与隋军形成了强烈对比，从而得到了包括西河士兵在内的绝大多数人的敬佩；二是李世民长期生活在军营，对士兵非常熟悉，他和士卒打成一片，同甘共苦，因而士兵肯为他卖命。此战对李世民的触动很大，使他彻底明白了得道多助、失道寡助的道理，后来他在执政中一直坚持以民为本，可能与此有很大关系。
李建成、李世民从出兵到胜利返回太原，仅用了9天时间，李渊对兄弟二人的表现非常满意，而晋阳义军对在李氏父子的带领夺取天下充满了信心。李建成和李世民在此战中也建立起了自己的威望。西河首捷后，李渊又一次开仓放粮，并借机收编附近的农民起义军，大举扩充兵力。
不久，在众人的拥护下，李渊正式设立大将军府，称士卒为“义军”，建立了左右军，任命李建成为左领军大都督，封陇西公，统率左三统军；李世民为右领军大都督，封敦煌公，统率右三统军；李元吉为太原郡守，留守太原。
随后，李渊又毫不吝啬地对有功之人进行封赏。力劝谋反的好友裴寂功劳最大，被任命为大将军府长史；积极劝说谋反的刘文静为司马；文人温大雅、殷开山、唐俭等人为大将军府掾属；武将刘弘基、长孙顺德、王长阶等人为统军、副统军。其余有立功表现的文武职员，均有封赏。
军事、政治机构的正式组建，表明了李渊以实际行动和各路人马争夺天下的决心，同时也表现出他对改朝换代已经做好了前期准备。
五、霍邑之战
要想谋求天下，就不能把目光局限于太原一隅。大业十三年（617年）七月，李渊发布战争令，亲自率领李建成、李世民从太原出发，南下进军，留李元吉守太原，从而开始了他建立大唐的征程。
在中原，以李密领导的瓦岗军实力最为强大。李密曾派人向各路义军传递消息，让各路义军奉他为首领，共同反隋。李渊很早就收到了李密的书信，但一直没有回复。大军出发前，为了避免和瓦岗军发生冲突，导致腹背受敌，李渊特意给李密回信说：“我相信你是真命天子，我起兵就是为了帮助你成就帝业。”李世民知道后，满怀信心地说：“有了这封信，李密的注意力肯定都在反隋上了，我们就没有后顾之忧了。”
果然，李密收到李渊写来的书信后，非常高兴，马上回书给李渊，让他放心征战，瓦岗军保证不进犯太原。这样一来，李渊就可以放心南下征战了。
李渊起兵南下的消息传到朝廷后，隋炀帝急派虎牙郎将宋老生率2万精兵屯守霍邑（今山西霍县），又派骁卫大将军屈突通镇守河东要地，以阻止李渊大军南下的脚步。李渊大军行到离霍邑50多里的贾胡堡时，恰逢连日天降大雨，道路泥泞不堪，无法行军，李渊只好命令原地扎营，等待天晴。谁知一直等到预备的粮草即将用完，天气仍然不见好转，李渊不禁有点着急了。
屋漏偏逢连夜雨，这边大军正为粮草发愁之际，晋阳又传来紧急消息，据探报刘武周勾结突厥，趁李渊大军出征之际趁机袭击晋阳。前进受挫，后院起火，李渊的部下为了继续进军还是北还发生了争论。
裴寂认为：“目前各方面的形势都十分不利于我军，隋朝的军事实力还很强大，即使到达霍邑城下，城池也不能很快拿下，前进属于冒险。现在刘武周不讲信用，出尔反尔，唯利是图，引突厥之兵攻打晋阳。晋阳是义军的后方，关系到义军的生死存亡，而且义军的家属都在晋阳，如果晋阳失守，义军上下必定无心作战。李密虽然答应结盟，但此人老奸巨猾，没有人知道他的真正打算，如果他出兵从侧翼偷袭我们，后果不堪设想。针对目前的情况，我认为应当回去先救根本，等后方稳固之后，再想办法领军南下。”裴寂的意见基本符合实情，许多人都同意他的意见。一贯老成持重的李渊也认为，此时南下时机不成熟，现在最要紧的是部队必须立刻北还。因此，经与众人商议，他决定第二天起兵返回太原。
当时李世民正在外面率军巡逻，忽然听到士兵四处传扬明天要撤军的消息，不由大惊失色，马上赶回大营。确定此事属实后，他直接闯进中军帐向李渊询问北还原因。
李渊说：“刘武周进犯晋阳，一旦晋阳失守，我们便有家难回了。李密在旁边虎视眈眈，也是我军的心头大患。况且此处粮食快吃完了，按目前的形势，很难继续逗留。”
李世民一听，着急地说：“父亲您想一想，突厥刚与我和好，未必马上就会背盟。刘武周表面上依附突厥，实际上互相猜疑，他虽然有“惦记”太原之心，但他的根据地马邑也不太稳固，所以他出兵或许只是传闻罢了。李密只注意洛口，无暇顾及远方，更是不足为虑。现在正是庄稼成熟的时期，还怕找不到粮食吗？只要我们坚持南下，前方隋将宋老生为人轻躁，一举可擒。父亲有志救民于水火，想成就一番事业，应当意志坚定才对，现在一遇到困难就想打道回府，恐怕会让跟随首义的众人丧失信心，一旦众人各自散去，大事就彻底完了。”
李渊连连摇头道：“晋阳是义军的根本，一旦晋阳失守，我们将无家可归！我回师晋阳的决心已定，你再劝也没有用。”
李世民见劝阻不了父亲，便想让兄长李建成一起去说服父亲，谁知李建成却说：“我虽然也不同意撤军，但父亲已做了决定，我看是劝阻不了的，何必再枉费口舌呢。”
李世民无奈，只得去找裴寂等人商量，但众人都说北还是正确的。李世民眼看宏图大业毁于一旦，顿时恼恨万分，忍不住高声痛哭起来。李渊听到李世民的哭声，召他入内询问。
李世民来到李渊面前，边哭边说：“大军已经出动，有进无退，进则生，退则死，怎能不哭？”
李渊惊讶地问道：“只是退兵而已，怎么会有如此严重的后果呢？”
李世民说：“父亲长期带兵，比谁都明白军队攻守全靠锐气，退兵必然导致锐气丧尽、队伍溃散。如果敌人乘势追击，我军毫无斗志，定会四散奔逃，土崩瓦解，这岂不是束手待毙吗？”
李渊闻言顿时醒悟过来，十分后悔自己做出的退兵决定，但目前左军已经出发，一切都来不及了。
李世民见父亲回心转意，忙说：“左军刚刚出发，应该还没有走远，我马上去追回来。”
李渊立即同意，说：“成败皆在于你，你马上去把左军追回吧！”李世民立即喊上李建成连夜追回左军。
后来发生的事情证明，李世民的看法是完全正确的。从此，李渊对李世民更是刮目相看。
客观地说，晋阳确实是义军的根本，后方的供养中心。李渊、裴寂等人主张班师北还，并非出于怯懦。如果刘武周和突厥相互勾结，掩袭太原，那么，失去根本的义军南下入关是很难顺利进行的。李世民之所以敢于坚持前进，主要源于他对当时形势的正确分析：突厥与刘武周并没有完全建立起信任，根本构不成对晋阳的严重威胁。退回太原，士气大溃，就会有失败的危险。只有先入咸阳，才能号令天下。李渊本来就想西图关中，这个根本性的方针当然不会改变；他之所以同意班师，主要还是慑于突厥的威胁，同时也暴露出李渊在用兵时过于谨慎的缺点。不过，从李渊及时下令追回已经后撤的部分队伍，说明他还是一位有着清醒头脑的决策者。至于裴寂的退兵之计，除保全义军的根本外，似乎还有自保的嫌疑。
机会总是留给那些有着坚定信念的人，两天之后，天气渐渐好转，义军粮草押运官沈叔安也运来了粮草。李渊大军一扫前几日的阴霾。李渊命令士兵曝甲整械，接着，全军保持高昂的士气，避开泥泞，绕行山麓，向霍邑进发。
在攻城略地时，进攻一方最害怕的就是城内的敌人坚守不出，以至于战斗旷日持久，把军队拖得筋疲力尽。攻占霍邑之前，李渊也担心霍邑守将宋老生闭门坚守，贻误了南下的战机。对于李渊的担心，李建成、李世民认为：“宋老生没有趁我军缺粮时进攻贾胡堡，说明他是个没有大作为的人，不足为惧。”李世民和李渊商议，义军靠近城池后以轻骑挑战，诱使宋老生出战，如果他出战则可以一举把他歼灭；如果宋老生固守不出，就散布宋老生畏惧不敢出战、想要投降义军的消息，这种反间计最能动摇敌人内部的决心。为了澄清自己，宋老生不战都不行。李渊深以为然，马上命令军士先埋锅造饭，饭后攻城。
攻打霍邑的战争正式开始了。按照李世民的计划，李建成、李世民各带几十名骑兵来到霍邑城下，假装视察地形。李渊亲自率领数百名骑兵到霍邑城东五六里处布阵以待，同时下令准备攻城。他还大摇大摆地在城下走来走去，故意轻视宋老生，并且让军士辱骂宋老生，什么难听就骂什么，宋老生终于被激怒了，立即命人备马，他带好兵器，解蹬上马，命令主力兵分两路，分别从南门、东门出城迎战。李渊怕宋老生背城布阵，使自己的骑兵战术无法发挥，于是命令军队假装向后撤退，诱使宋老生来追。
宋老生曾多次与起义军交战，见敌军后退，以为这次来的义军和以往一样，也是一群乌合之众，还未交战就已经胆怯，于是指挥大军拼命追赶。李渊见宋老生中计，马上采取两面夹击的战法，一边命令李建成、李世民从左右两面直冲城下，一边命令殷开山等率领步兵从正面与敌人交战，堵死宋老生的退路。他自己则率军迎头拦杀从东门出来的隋兵。
不过，李渊低估了隋兵的作战能力，在宋老生的指挥下，隋军一拥而上，将李渊所部逼退数步。若不是李渊的女婿柴绍拼命抵挡，李渊的处境就非常危险了。
宋老生的另一支军队从南门出来后，发现城东方向的义军力量薄弱，于是往东门进发，准备合围李渊。正在南面观战的李世民发现险情后，和军头段志玄一起飞驰而来，冲击宋老生后军。宋老生连忙前军变后军，后军做先锋，回马与义军交战。杀红了眼的李世民手握双刀，左砍右劈，竟连续杀掉数十人，双刀劈得到处是缺口。段正玄等人紧随其后，奋力拼杀，以一当十。隋军没想到这股义军如此勇猛，很快便人仰马翻。
义军越战越勇，但隋军毕竟人数众多，并且是经过正规训练的军队，一批又一批地冲上来让李世民实在应接不暇，突然，他心生一计，下令高声呼喊：“宋老生已被活捉，隋朝士兵现在投降者可免一死。”
听到主将已被活捉，隋军军心大乱，再也无心恋战。就连正在城东和李渊激战的隋军也且战且退，最后退进城中，拉起吊桥，关闭城门。城南宋老生率领的这支部队知道李世民的消息是假，所以没有撤退，但却被留在了城外。李渊从城东赶过来与李世民一起痛击这支孤军。宋老生进退不得，只得苦战，但义军越来越多，他不由心惊胆战，想打马从南门进城，不料被李世民、李渊合攻无法脱身，隋军腹背受敌，溃不成军。
进不能，退无路，前后被攻，这是兵法中的绝地。宋老生也是个英雄，在走投无路之际仍不投降，下马跳进壕沟就要自杀。谁知义军没有给他自杀的机会，刘弘基正好飞马赶到，将宋老生生生腰斩。宋老生一死，部下顿时阵脚大乱，在混乱中统统被杀死，尸倒数里，血流成河。
这时天已经黑了，但李渊深知一鼓作气的道理，他命令军士吃点东西，然后立即攻城。主将被杀，霍邑城上的守军虽然不断用弓箭射击攻城义军，但斗志已大不如前，而义军则在胜利的鼓舞下奋勇登城，很快，霍邑城破。城中兵吏都跪下请降，李渊非常高兴，下令只要投降，就可以免去一死，并特意安排将士不准扰民，违者军法处置。为了安抚城内百姓，李渊连夜出榜，宣布义军的纪律，使得城中安定如旧。
霍邑之战是李渊起兵以来的第二次大战，战前他以为这将是一场持久战，但李世民正确地分析敌我双方形势，进行了精密的谋划，结果取得了速战速决的效果，为义军进军关中赢得了时间和信心。这一战充分显示出李世民高人一筹的眼光，同时也可以看出他为了成就大业，一往无前、决不后退的决心。霍邑之战后，李渊对李世民的军事才能称赞不已，从此放心地把军队的指挥权都交给了他。
六、建立新朝
霍邑大捷后，关中的义军首领孙华率众渡河前来归顺；刘文静与突厥特使康鞘利则带来了2000匹战马和500名突厥士兵，李渊的队伍迅速壮大了起来。在一番大肆封赏之后，李渊乘胜南下，接连攻克临汾郡与绛郡（今山西新绛县）。大业十三年（617年）九月，李渊父子率领大军来到河东城下。
河东城的战略地位非常重要，它是从河东进入关中的门户。由于其特殊的战略地位，隋炀帝派大隋名将屈突通坚守。屈突通熟读兵法，实战经验丰富。一到河东城，他就下令修筑高大而险峻的城防工事，用于抵抗义军的进攻。
名将镇守、城防坚固，李渊攻打河东城自然是久攻不下。从河东城附近的龙门西渡黄河后，可到达朝邑县，这里有隋朝大型储备粮仓之一的永丰仓。以前汾阳人薛大鼎曾建议李渊占领永丰仓，但未被李渊采纳。这次攻城不顺，使李渊决定去攻占永丰仓。九月中旬，李渊留部分兵力继续围困河东，亲率主力西渡黄河。很快，大军抵达朝邑县，不费吹灰之力，李渊的帅府就入驻了长春宫，关中一带的士兵纷纷前来归附。随后，李渊又命令李建成、刘文静率王长谐等将领率军数万驻守永丰仓，防备东来的敌兵攻击；同时任命窦轨等人为慰抚使，归李建成节度。最后，李渊又派李世民率刘弘基等诸军数万人从渭水北岸向西进发，慰抚使殷开山等人归李世民节度。
仍在河东城坚守的屈突通得知李渊渡河西进的战略意图后，亲自率领数万大军奔赴长安，不料途中被刘文静率军阻挡。屈突通想回师与潼关的隋军守将刘钢合兵，又得知潼关已被义军占领，刘钢已被王长谐斩杀。屈突通无奈，只得退守河东城。
义军进入关中带来了巨大的轰动。李渊的另一女婿段纶在蓝田县聚众万余人，柴绍之妻平阳公主和李渊的从弟李神通也在鄠县山林中聚众数千人。一时间，李渊在关中地区的亲朋好友纷纷起兵响应义军，与义军遥相呼应，此时李渊及其亲属领导的各路起义军实际上已经控制了关中的大部分地区。
进入关中后，李渊命李世民率军攻取渭北（指渭河水以北）。李世民率领大军攻无不克，战无不胜，一路攻泾阳，占云阳，取武功、盩庢，又和妹妹平阳公主的“娘子军”汇合，队伍空前壮大。等到攻取盩庢时，李世民的队伍竟发展到13万人之多。征战期间，李世民除了军事实力得到大大提高，还得到了后期闻名于世的谋臣房玄龄。房玄龄当时担任陧城尉，与李世民一见如故，被任命为记室参军，成为李世民的高参。
不久，刘弘基等南渡渭水，屯兵长安故城。李世民则引兵赴司竹园，收编了李仲文、何潘仁、向善志等所率徒众，驻扎在原秦阿房宫城，号称胜兵13万，军令严整。接着，李世民派人向驻扎在长春宫的李渊报告一切准备就绪，请求马上攻取长安。李渊听到李世民的胜利消息后，马上让李建成从永丰仓守卫的军士中挑选精兵，亲率大军直奔长乐宫与李世民会合，打算从北、东两面对长安城形成包围之势。
十月辛巳日，李渊到达长安城外，合兵20万，并下令将士只能宿于营中，不得进入村落侵害百姓。十月甲辰日，李渊下达了攻城令，同时警告将领不得侵犯隋朝的祖庙及隋朝宗室，违者灭其三族！十一月丙辰日，李建成的部下雷永吉首先登上长安城，标志着长安城正式被义军攻破。
随后，李渊听从裴寂的建议，拥立年仅13岁的隋代王杨侑为皇帝，即隋恭帝。出于政治上的需要，李渊尊称远在江都的炀帝为太上皇，并把这一年改为“义宁”。李渊自封唐王，为假黄钺，使持节，尚书令，大丞相并大都督内外诸军事，改武德殿为丞相府，至此，李渊算是独揽了国家大权。为了奖赏有功将士，李渊立长子李建成为唐世子；次子李世民为京兆尹，封秦公；四子李元吉为齐公；裴寂为丞相府长史；刘文静为司马。
李渊掌握了实际政权以后，经过一年多的经营，在关中地区立稳了脚跟。他发布了三条政策：第一，大举招贤纳士，宣布与百姓约法12条，并废除隋朝的各种苛捐杂税，以争取天下士民的支持；第二，奖励军功，对府兵制进行改革后继续沿用，为适应战时政权的需要，不断扩充府兵兵源；第三，为保证政权稳步过渡，对原隋朝功勋贵戚大肆封爵。这一系列的政策，为李唐王朝的建立奠定了坚实的基础。
长安的巨大变化让远在江都行宫的隋炀帝痛苦不已。义宁二年（618年）三月，发生了一件震惊全国的事件，隋朝勋臣宇文化及和禁军将领司马德勘等人密谋发动了江都兵变，缢杀隋炀帝，对隋杨宗室满门清洗，然后率领10万禁军北上，准备向西进入关中，但被占据中原的瓦岗军阻拦。李渊得知隋炀帝被害的消息以后，感到时机已经成熟，马上着手准备恭帝的禅位典礼。
同年三月，李世民改封赵公。五月，隋恭帝杨侑向天下发布退位诏书，禅位于李渊，唐朝正式建立，建都长安，改元武德，李渊即为唐高祖。至此，李渊在关中重建起了地主阶级的封建王朝。
武德元年（618年）六月，李渊任命李世民为尚书令，裴寂为右仆射，刘文静为纳言。不久，李渊又立李建成为太子，李世民为秦王，李元吉为齐王。由于李世民在起兵建唐的过程中军功赫赫，所以在新王朝中占据着重要的地位。
,
