隋炀帝大业十三年（公元617年）七月初四日，李渊以四子元吉留守太原，初五日即亲率甲士三万向长安进军。并移檄郡县，谕以尊立代王之意。初六日又分遣张纶将兵徇离石、龙泉、文城三郡，以为主力军右侧翼之掩护。初八日渊至西河慰劳吏民，赈赡贫乏，民年七十以上皆除散官，其余豪俊，随才授任，遂即挥军南下，经雀鼠谷（今介休县西南），至十四日抵于贾胡堡。时代王侑知李渊起兵，遣屈突通屯兵河东（治今永济县），宋老生屯兵霍邑。此时唐军因雨不得进，乃遣沈叔安还太原，运一月粮。十七日张纶军已克离石，杀太守杨子崇。渊当此天候不利，强敌守险，将陷于进退维谷之时，为加强自己声势，削弱敌之阻力，乃致书李密，以结盟友。时李密攻东都，屡败王世充，兵强将勇，河南、河北、淮水诸地区皆附之，因此密得书，即欲为盟主而使祖君彦复书以示此意，约与渊面结盟约。渊得书笑曰：“密妄自矜大，非折简可致。吾方有事关中，若拒绝之，乃是更生一敌，不如卑词推奖，以骄其志，使为我塞成皋（今河南汜水县）之道，缀东都之兵，我得专意西征。俟关中平定，据险养威；徐观鹬蚌之势，以收渔人之功，未为晚也。”乃使温大雅复书，表示尊密为盟主。密得书甚喜，以示将佐曰：“唐公见推，天下不足定矣！”自是信使往来不绝。是时或传突厥将与刘武周乘虚袭太原。渊乃召诸将计议问如何对付当前形势，众将主张固守太原，对霍邑暂缓进军。渊顾问建成世民曰：“尔辈何如？”对曰：“武周位极而志满，突厥少信而贪利，外虽相附，内实相猜；突厥必欲来利太原，宁肯近忘马邑（今朔县）？武周悉其此势，未必同谋。老生、突厥奔竞来拒，进阙图南，退穷自北，还无所入，往无所之，畏溺先沈，近于斯矣。今禾菽被野，人马无忧，坐即有粮，行即得众。李密顾恋仓粟，未遑远略。老生轻躁，破之不疑。定业取威，在兹一决。”渊喜曰：“尔谋得之，吾其决矣。”时太原运粮亦至，于是决定雨霁后继续进兵。
八月初一日，天晴。初二日渊命军中曝晒铠仗装具。初三日，即由山脚小道向霍邑前进。当时所虑者为宋老生固守不战，建成世民曰：“老生勇而无谋，可以轻骑挑之。彼若仍不出战，则诬以通于我；彼恐为左右所奏，安敢不出。”渊曰：“汝言甚善。”乃亲率数百骑先至霍邑城东数里，以待步兵，使建成与世民将数十骑至城下，举鞭指麾若将围城之状，并高声诟骂之。老生果怒，引兵三万，自东门、南门分道而出。渊使殷开山召俊军，后军至，亲与建成布阵城东，使世民布阵城南。渊及建成军战小却，世民与军头段志玄自南原驰下，冲老生阵，而出其后。世民手杀数十人两刀皆缺，血流满袖，洒之复战。渊兵因而复振，传呼曰：“已获宋老生矣！”老生兵大败。渊挥兵先趋东门，以断其归路，门闭；老生下马投堑，刘宏基就斩之。此次战斗至为激烈，僵尸数里。会日暮，渊即命登城，虽无攻具，将士均肉搏而登，遂克霍邑。
城克后议功，军吏曰：“奴应募者，不得与良人同赏。”渊曰：“矢石之间不辨贵贱，论勋之际，何有等差？宜并从本勋授。”于是，计功行赏，无所差异。
（二）渡河作战
攻占霍邑后，唐军继续南下，同年八月初八日人临汾郡（山西今县），抚慰之一如霍邑，然后进军。十二日唐军宿营鼓山（绛郡北口。绛郡治正平，今新绛县），绛郡通守陈叔达拒守，翌日，攻克之，擒叔达礼而用之。十五日唐军抵龙门。
是时唐军如何选择进军路线，主张不一，汾阳人薛大鼎主张进据永丰仓（华阴县），而诸将请先攻河东。河东县户曹任瑰献策曰：“关中豪杰，皆企踵以待义兵。瑰在冯翊积年，知其豪杰，请往谕之，必从风而靡。”李渊采取二策之长，一面使任瑰为招慰大使，往说韩城，（陕西今县），一面遣王长谐、刘弘基、陈演寿、史大奈等将步骑六千自梁山渡河，并嘱长谐等曰：“阃外之事，宜与任瑰筹之！”临行又授长谐策曰：“屈突通精兵不少，相去五十里不敢来战，足明其众不为之用。然通畏罪亦不敢不出，若彼自渡河击卿等，则我进攻河东，彼不能守；彼若全军守城，则卿等绝河梁（蒲津桥，今永济平民两县间之桥），前扼其喉，后拊其背，彼不走必成擒矣。”长谐等受策而渡。至九月初七日，张纶已相继攻取龙泉、文成等郡，并擒获文成太守郑元踌（译子，译事见隋文帝代周时）。是时屈突通果遣桑显和率骁果数千人，夜袭长谐等于饮马泉（似在今韩城县西南），长谐战不利；孙华、史大奈游骑自后击显和，始大破之。显和败还河东，乃自绝河梁以拒守。初八日冯翊太守萧造亦降。初十日渊遂率诸军围河东，屈突通婴城自守。将佐复推渊领太尉，增置官属，渊从之。时三辅豪俊来附渊者，日以千数，渊遂欲引兵西趋长安，但以河东未下，犹豫未决，乃集诸将议策。裴寂曰：“屈突通拥大众凭坚城，吾舍之而去，若攻长安不见，退为河东所踵，腹背受敌，此危道也。不若先克河东，长安恃通为援，通败，长安必破矣。”世民曰：“不然，夫兵贵神速，吾挟累胜之威，抚归顺之众，鼓行而西，长安之人，望风震骇，智不及谋，勇不及断，取之若振槁叶耳。若淹留自毙于坚城之下，彼得成谋修备以待，我坐费岁月，众心离散，则大事去矣。且关中蜂起之徒，未有所属，不可不早为招怀。屈突通守虏耳，不足为虑。”渊乃并采二人之议，留诸将图河东，自引大军渡河而西。时东都方面，王世充等正会师东都，准备进击李密。（《新唐书》高祖纪、裴寂、任瓌、薛大鼎等传）
（三）围攻长安之战
河西郡县闻李渊将渡河，皆纷纷降附。朝邑法曹靳孝谟以蒲津（今平民县黄河渡口之战）、中洋（今黄河中之郭家滩）二城降，华阴（陕西今县东南）令李孝常以永丰仓降。于是河西诸军及京兆各县，亦多遣使请降。同年九月十二日，渊率诸军渡河，十六日进入朝邑（今县），舍于长春宫，关中士民归之者如市。窦轨（威兄子，威乃渊窦后之从父兄）亦聚兵千余迎谒于长春宫。十八日渊一面遣建成及刘文静帅王长谐等诸军数万进永丰仓，收其兵五千，使守潼关以备东方之兵，慰抚使窦轨等并受节度。一面遣世民帅刘弘基等诸军数万徇渭北，慰抚使殷开山等受其节度。此左右两路军皆以长安为目标，定期会攻。
时屈突通闻李渊军西向，即署尧君素领河东通守，使守河东，自引兵数万还救长安（似在今风陵渡渡河），但为刘文静所遏阻，不得进。时有隋将军刘纲戍潼关，通欲往与合兵，将至，刘纲已为王长谐袭破，被斩。通遂还据北城，与唐军对峙。
当此之时，李渊亲戚在关中起兵者，如渊女（柴绍妻）平阳昭公主，与渊从弟神通，及隋左亲卫段纶（娶渊女高密公主），皆于渊渡河时，遣使迎渊。先是柴绍于奉召赴太原时，不敢携妻李氏偕行，李氏遂潜归鄠县别墅，散家赀聚众起兵。渊乃以神通为光禄大夫，纶为金紫光禄大夫，使柴绍将数百骑迎李氏，对何潘仁、李仲文、向善志及其他关中群盗，则一一以书慰劳授官，使各率其兵，受世民节度。
同月二十二日，渊又亲赴永丰仓劳军，开仓赈饥民，然后移其大将军府进屯冯翊。此时世民徇渭北，所至吏民及群盗皆归附之，世民收其豪杰，以备僚属，至泾阳时（陕西今县）已有兵九万。渊命建成选仓上精兵，自新丰趋长安长乐宫（汉故宫，今西安市东），而使世民趋阿城（即阿房宫城，今西安市西），并命二子抵达后，候命攻城。十月初四日渊屯营于春明门（长安城东面三门之中门）西北。建成、世民等亦皆依期到达，合兵二十余万。渊命各依壁垒，毋得入村落侵暴。渊数遣使至城中谕卫文异等以欲尊隋之意，城中不报。至十月十四日，渊遂命诸军围城，十七日渊移驻于安兴坊（东面三门之南门）。是时延安（今县）、上郡（今鄜县）、雕阴（今绥德县）皆降于唐。二十七日渊命诸军攻城，攻至十一月初九日、左军军头雷永吉先登，遂克长安。渊命主符郎宋公弼收图籍，定约法十二条，杀人、劫盗、背军、叛者死。时卫文异已卒，乃执阴世师、骨仪等，数以贪婪苛酷，且拒义师，俱斩之，死者止十余人，余无所问。是月十五日，渊立代王侑为恭帝（时年十三），改元义宁，遥尊炀帝为太上皇。十八日榆林、灵武、平凉、安定诸郡（治今鄂尔多斯左翼后旗），皆遣使请附，于是关西大定。渊乃自为假黄钺、使持节、大都督内外诸军事、尚书令、大丞相，进封唐王。以建成为唐世子，世民为京兆尹、秦公，元吉为齐公。
（四）平定河东之战
屈突通在潼关，阻刘文静兵不得进，相持月余，至十二月乃遣其将桑显和夜袭文静营，诘朝大战，显和纵兵破唐二壁，唯文静一壁独完。文静与殷志玄悉力苦战，数为显和兵突人，及短兵相接，文静中流矢，军垂败；显和以士疲，乃传餐食，文静因得分兵实二壁。会游军数百骑，自南山还击其背，三壁兵大呼，奋而出击，显和遂溃，其众尽降，通势益蹙。或说之降，通曰：“吾蒙国厚恩，事二主，安可逃难，独有以死报尔。”俄闻长安不守，家尽没，乃留显和保潼关，率兵将如洛阳。既行，显和降唐，刘文静遂遣窦琮、殷志玄以精骑追之，及于稠桑（今河南灵宝县西三十里）。显和因呼其众曰：“京师陷，诸君皆家关西，去欲何之！”众乃舍兵仗而降。通知不免，遂下马东南向再拜口称至尊曰：“臣力屈至此，非敢负国！”遂被擒，送长安。渊曰：“忠臣也！”释之，授兵部尚书，蒋国公。
同月渊遣通至河东城下，招降尧君素，谓君素曰：“吁！君素，我力屈而来。”君素曰：“方今力犹未屈，何用多言！”通惭而退。君素坚守至翌年（隋恭帝侑义宁二年，恭帝侗皇泰元年，唐武德元年，公元618年），渊改以韦义节、吕绍宗攻之。至九月渊再以独孤怀恩代义节，然攻至十二月仍不能克。及怀恩攻之益急，君素乃作木鹅，系表于颈，具论事势，浮之于河，告于东都。君素亦自知不济，然志在死守。至同月初六日，君素左右薛宗、李楚客等遂叛，杀君素以降，传首长安。河东始平。（《隋书》卷七十一）
李渊已奉隋代王侑为帝，尊炀帝为太上皇，自为唐王大丞相，都督中外诸军事，总揽隋政。翌年（恭帝义宁二年，唐武德元年，公元618年）三月，又自为相国。同月炀帝亦被杀于江都。五月二十日渊遂取隋帝位而代之，是为唐高祖。以世民为尚书令，黄台公李瑗（渊之从子）为刑部侍郎，相国府长史裴寂为右仆射知政事，司马刘文静为纳言，司录窦威为内史令，李纲为礼部尚书参掌选事，府掾殷开山为吏部侍郎，府属赵慈景为兵部侍郎，韦义节为礼部侍郎，主簿陈叔达、崔民干并为黄门侍郎，唐俭为内史侍郎，录事参军裴口为尚书左丞。以隋民部尚书萧瑀为内史令，委以庶政，礼部尚书窦琎为民部尚书，蒋国公屈突通为兵部尚书，长安令独孤怀恩为工部尚书。
三、战略评论
李渊身为国戚，权重位尊，自杨玄感叛后，农民起义此起彼伏，彼亦已早有图谋，但见炀帝的政令尚能贯彻于全国，故不敢轻举妄动。后所以卒起兵太原者，实情势所迫；至其能够迅获成功，亦事态所使然。盖太原为隋北方重镇，在突厥强力压迫下，岌岌可危，彼既以战败获咎，几被执送江都。在此种情势下，为隋守太原，终必取咎，与其坐困，不如急谋自存，此为李渊起兵的主要原因。其时东都为李密所困，长安孤悬一方，空虚无援，若自太原进兵，则唾手可得，此种机遇，实千载难逢。加以彼有建成、世民、元吉三子为将，及刘文静等诸人为之辅佐，故能一举而成之。兹简论隋唐在战略上的得失。
（一）炀帝之失
炀帝三征高丽失败之后，前后逃役者纷纷起义，社会动荡，而获征天下骁果，建精锐之军，再举东征，此实逼民反叛。在与突厥主战中，已遭雁门之困，而犹轻视突厥，以为不足为虑，遂赴江都再建水军。至屈突通为李渊击破后，炀帝问方略于裴矩，矩建议曰：“太原有变，京畿不静，遥为处分，恐失事机。唯銮舆早还，方可平定。”但他迟迟不决，侍困于江都。李渊攻陷长安后，炀帝原来轻视突厥及诸叛者的心理已大变，深感大势已去，不可收拾，故不到三月，遂有迁都丹阳之议（武德元年三月）。设其时炀帝能用裴矩早还之策，改弦易辙，率欲西还之骁果以向两京，则形势必为之大变。即使不然，亦不致为急欲西归的关中骁果所杀，此实为炀帝最大失策。（《隋书》卷六十七）
（二）李渊之得失
1.政略运用。前面说过，李渊依突厥以起兵，实形势所使然。盖此时突厥强盛，东自契丹、室韦，西尽吐谷浑、高昌诸国，皆臣附之；且其时凡在北方起兵者，如刘武周、郭子和、梁师都之徒，无不依突厥以自立，由此观之，设使李渊无突厥之助，则其起兵决难成功。尤以李渊缺乏骑兵，欲与宋老生、屈突通争胜负，实为困难至极。故李渊毅然手书称臣于突厥，又许以“京师之财帛金宝人突厥”，此乃逼于事态，一时权宜之计。然此一求助的条件与代价过于高昂，致有“帝以初起，资其兵马，前后饷遗，不可胜纪”，突厥仍“恃功骑倨，每遣使者至长安，多暴横”，遂使“国用不足”。
其次，李渊起兵，仍以奉隋为号召，此亦不失为明智之举。盖其时虽各地盗贼多如牛毛，而隋各地之兵势尚强，炀帝在江都发号施令，各方留守的方面大将，犹遵奉其约束，而不敢有贰心；且李渊乃隋之国戚，地位虽尊崇，若不以尊隋为号召，则隋之官吏视其为叛逆，将失去政治上的优势。李渊深悉此理，故关中巴蜀隋之官吏皆无敌忾之心，而迅速投诚归附。
2.军略运用。
（1）渊自太原进兵时，其军略布置，筹算颇密，如其举军南下，先遣张纶向离石、龙泉、文城等郡，以掩护主力右侧的安全。抵霍邑时，又即设法与李密结盟，以除去其主力左侧的顾虑，遂使寡少之军力（三万），得以集中力量而发挥其战斗力。
（2）大军进至霍邑时遭受霖雨的阻挠，而北方又传来突厥欲袭太原的谣言，诸将皆欲还归太原，再俟后举，李渊力排众议，用其二子建成、世民之策，决意贯彻初定方针。盖起义之兵，全在一鼓作气，若稍涉迟阻，必致士气衰坠，人心瓦解，如此则虽欲还固太原，亦不可得矣。当此之时，决策最为困难，因前有强敌与霖雨之阻，中有诸将纷歧之扰，后有太原被袭之虑，设非兼具精明英勇之气质者，则甚难作出有如李渊的英明决策。
（3）渊军克绛郡之后，薛大鼎、任壤相继献策，建议不可攻河东坚城，自龙门梁山间潜渡，直据永丰仓。但诸将以屈突通数万精兵在河东，诚恐潜渡而进时腹背受敌，故请先攻河东。渊在此两大不同意见之下，乃兼采二策之长，一面先使任壤招慰西岸诸郡县，又使刘弘基等自梁山渡河，一则以诱屈突通脱离其河东坚城，一则遮断蒲津桥梁，以绝屈突通之后。及围攻河东二日不下，李渊深知急引兵渡河之利，但又以河东为忧，乃再集诸将议策，此时又有裴寂与李世民二策之歧异，渊乃再兼采二策之长，分兵围河东，而以主力渡河，一面使建成直趋永丰仓，一面使世民攻略渭北。以此二路对长安行战略机动，遂迫使长安成为孤城，此可见李渊每于诸将议论纷纭之际颇能作出明智的抉择。西方兵学家克劳塞维茨谓“综合抉择力”为统帅主要的才力，李渊可谓得之矣。及已克永丰仓，又即遣刘文静东据潼关，以断屈突通入援长安之路，此一得力措施，遂使诸军得以攻取长安，而无后顾之虑，此亦为军事上至当之举。