李渊称帝后，首先便是注意如何平各地群雄的割据势力。
第一，平凉州。由于盘踞于金城方面的薛举、薛仁杲父子，曾发兵进攻李唐的心脏地区扶风。于是由李世民先联合薛氏后方凉州的李轨，孤立薛举。薛举死后，武德元年十一月，世民进军败薛仁杲于折墌城，并掳之至长安处死。于是李唐又与李轨部下及凉州豪杰安兴贵合作从内部反对李轨，结果于武德二年四月，凉州豪族安修仁，安兴贵兄弟执李轨，于是凉州的薛氏，李氏盘踞势力被消灭。
第二，平晋北。其次就是开始对付盘踞于晋北的刘武周，宋金刚等势力，刘、宋的称雄本得力突厥人之助，因此结连突厥进陷并州，挥军南下，有动摇长安之势，唐急命李世民尽发关中兵以反攻，连败刘、宋军队，武德三年，唐大军收复并州，刘、宋逃到突厥去，突厥斟酌到形势不利，遂于年底杀刘、宋二人，以讨好李唐，于是李唐关中形势更见巩固。
都城长安
第三，平河南、河北。武德三年（公元620年）七月，李唐巩固其关中形势后，旋命李世民率兵进击盘踞于洛阳的王世充，世民出关以后，关东州县闻风来降，继而屯军邙山，开始进攻洛阳。王世充向窦建德求援，建德率兵十余万，往救洛阳。世民抢先发兵握守虎牢，建德大军不能通过，而军队亦饿且疲，于是世民纵兵出击，窦建德大败被俘。武德四年，王世充知外援已绝，遂率众投降李唐。
李世民雕塑
第四，平刘黑闼。建德军败后，其旧部共推刘黑闼为首，于武德四年年底，起兵抗唐，次年正月进陷洛州，并引突厥兵进攻山东，李唐驻守山东、河北之兵将相继败亡，黑闼尽复建德旧地，称汉东王，唐又派李世民率军进击，三月，黑闼败逃突厥，世民复移兵进击盘踞于鲁南的徐图郎，将其清灭，唯黑闼又借突厥兵再起，武德六年，为唐太子李建成所败，黑闼被执杀，于是李唐在河北山东的统治力才稳固起来。为统一群雄，打下坚实基础。
李世民与重臣
第五，平定两湖。武德四年，李唐于东击王世充的同一时间内，又命赵郡王李孝恭与大将李靖由四川出击顺流而东，攻打盘踞于两湖一带的萧铣。铣迁都江陵以避其锋，并杀其部下大将董景珍。是年十月，唐兵涌至，铣兵投降。萧铣被执杀于长安，由是两湖割据势力遂平。
长安古城
第六，平定江南。武德五年（公元622年），盘踞于江淮一带的杜伏威，受唐封为吴王尚书令，至长安为李唐扣留，其部下辅公佑率领所部军队，起兵抗唐，建都丹阳，自传宋王，唐派李孝恭、李靖率军前往进攻，辅公佑部将阚棱叛变，唐军大胜。武德七年春，辅公佑被杀，江南之地尽归唐有，其他个别的割据力量都先后为唐所消灭，于是中国又再度统一起来。
江南
剪灭群雄与统一中国的分析
李渊之所以顺利消灭群雄统一中国，并非偶然，兹据各种史实加以分析如下。
李唐家世与杨坚家庭背景，同为北魏六镇军人出身，渊祖父李虎与坚父杨忠亦为关陇集团之主要人物。杨坚后独孤氏为李渊姨母，由此可见李唐与杨隋亲戚关系。李渊不仅对隋室政治得失了如指掌，其长子建成、次子世民、三女平阳公主及四子元吉在统一战争中之亦表现极佳。建成曾到河东一带潜结英俊，其麾下军队对于防止突厥之入侵有极大作用。次子世民亦于统一战争中，曾到晋阳一带密招豪右，尤其策反了许多对隋室不满之官吏与地方势力，并剪灭了割据北方之群雄。三女平阳公主与四子元吉，在吸收游勇与统一战争中，同样起了积极作用，故李渊以父子兵之精神，配以府兵之制度，对于无组织，缺乏训练而孤立之群雄，胜败自见。
唐高祖李渊
其次，在战略上，李渊亦颇能把握机会。李渊稳定关中局势后，即以为根据地，续步向外发展，清除一切阻力，更由于太原与长安都是隋朝之屯粮区，李渊既拥有此两地，军粮方面便可解决，隋末天下大乱，饥民遍野，大业九年杨玄感之叛变，即以“为天下解倒悬之急”为借口，故众皆悦，从者如归市，所谓无粮不聚兵，盖见当时拥有粮米者，对战争之胜利，起决定因素。
李渊献陵
李渊在统一战争中，对突厥之策略颇为成功。南北朝后期以至隋初，突厥之势力极大，隋初突厥数十万曾寇其边疆要地，隋末北方受突厥支持之群雄甚多，如刘武周、梁师都、郭子和等。李渊欲取得统一战争胜利，必先解决北方之突厥，以免腹背受敌，乃以刘文静向突厥报聘，约为外援，渊则自为手启，不惜畏词厚礼。虽则突厥实际助唐兵力不大，然就声望上，对军队士气之鼓舞，作用不少。这为李渊的统一大业，奠定了良好的军队士气。培育出一大批骁勇善战之将。
将士出征
李渊在政治上亦颇能收服人心，在群雄割据下之地区，推行善政者，虽略有其人（如杜伏威等），唯可惜绝大多数多未脱盗贼本色，且更承袭了隋室腐败残暴作风，在其统治地区之人民，处境与隋末并无分别。李渊称帝后，令军队所经行之处，给复三年，废隋之暴政，以解人民痛苦，因而多乐意归附，一时三秦士庶，衣冠子弟，郡县长吏，豪族兄弟老幼，相携来者如市，帝皆引见，亲劳问，仍节级授官。
,
