唐高祖在派李世民东征王世充的同时，命大将李靖领兵南下取长江中游的萧铣。萧铣这时为了控制众将夺其兵权，竟说要罢兵经营农业，和部将矛盾加深，许多将领离他而去，力量削弱之后，再面对富有军事韬略的李靖的大举进攻，萧铣只有失败的份儿了。
李靖用兵常出奇制胜，在长江水涨萧铣认为他不能用兵时，李靖偏偏说服众将趁机进军，大败萧铣军。萧铣最后听从了中书侍郎岑文本的劝告，投降了唐军。
李靖也以仁义回报，坚持不对曾经抵抗的萧铣将士治罪，认为为主力战的是忠臣，不能同叛逆者相比。因此下令军队秋毫无犯，这又加快了其他州县的归顺步伐。后来，萧铣原来的领地全部归入唐朝版图。萧铣被押往长安处斩，时年39岁，自建国至灭亡共5年。接着，唐军又击败在庭州（今江西赣州西南）称楚帝的农民领袖林士弘，使唐占据了长江中游及岭南地。
割据江淮一带的是杜伏威，他占据历阳（今安徽和县），自称总管。在唐军围攻洛阳时派人招降他，杜伏威便投降了唐朝，被李渊封为吴王。等刘黑闼因兵败被杀后，杜伏威让属将辅公祏留下统领兵将，自己请求入朝，留在了长安，等于是做了人质。几年后，辅公祏起兵反唐，称帝对抗唐朝，结果杜伏威“猝死”，李渊派大将李靖等讨伐，不久，辅公祏被当地武装抓获，送唐军营中处死，江淮地区也宣告平定。
梁师都也是隋朝末年趁农民起义的乱世割据称帝者之一。他的中心在朔方郡（今陕西靖边白城子），他存在的时间比较长，从617年（隋大业十三年）到628年（唐贞观二年），达11年之久，正好与李渊并立。梁师都的存在主要靠突厥的支持，由于李渊派兵四处征讨，无暇顾及这个虽有威胁但并不大的梁师都，所以让他苟延残喘，最后一个才平定。
当唐高祖李渊派兵即将打败梁师都时，发生了玄武门之变，被迫让位给了李世民。最后消灭梁师都统一全国的大任便落到了唐太宗李世民的肩上。
后来，梁师都所依赖的突厥发生分裂，失去支持的梁师都拒绝了唐太宗的招降，唐太宗便派重兵讨伐，先败突厥，后败梁师都，在绝境中，梁师都的从父弟弟杀了他，献城投降了唐军。至此，唐太宗最终完成了李渊未完成的统一大业，彻底结束了隋末以来的大乱局面。
玄武门之变
李渊称帝后，重用佞臣、猜忌功臣、爱好酒色，这些都使得他当皇帝后无法有更大的作为。原隋朝晋阳宫副监裴寂，在晋阳时就与李渊是酒肉朋友。他私送宫女给李渊，又常与李渊昼夜赌博饮酒，荒淫无度。晋阳起兵时，裴寂又送五百宫女给李渊，让他带着行军。李渊称帝后，认为裴寂功劳最大，授其高官厚禄，引为亲信。
原晋阳令刘文静，和李世民一起策动起兵，南征北战，是唐朝的开国功臣。刘文静对自己位在裴寂之下，甚感不平，遂与裴寂发生矛盾。公元619年的一天，刘文静酒后口出怨言，裴寂等乘机陷害，说刘文静欲反朝廷，李渊竟听信其言，杀死刘文静。李渊赏罚不明，加深了臣子内部的矛盾和斗争。
李渊统治后期，广纳妃嫔，安于后宫享乐。在有的妃子挑拨李建成和李世民之间的关系时，李渊没能及早制止，反而听信谗言，致使兄弟之间兵戎相见，发生流血事件。随着统一战争的顺利进行，李渊的思想开始松懈下来，安于享乐，对政治事务不再关心，这直接导致了皇储问题的产生。
李渊想让几个儿子和睦相处，但又在立皇太子的问题上，没有明确的主意，使得兄弟相争不已。在刘武周大举南下，攻陷太原威胁长安的时候，李渊亲自为儿子李世民送行，还许诺得胜回来后立他为太子。但李世民回来之后，李渊又反悔，听信后妃们的求情，保留了李建成的太子之位。这直接导致了兄弟之间的不和，成了激烈的太子之争的导火线。
太子李建成和秦王李世民为了争夺皇位明争暗斗，展开了你死我活的斗争。公元626年夏，突厥犯境，李建成向李渊推荐齐王李元吉为出征元帅，想借此把秦王府的精兵和骁将掌握在自己手中，然后除掉秦王。不料这一密谋被李世民得知。在这紧急关头，李世民先发制人，密告太子、齐王淫乱后宫，李渊决定次日诘问。次日，李世民在玄武门设下伏兵。当太子、齐王途经玄武门时，李世民及部下将其杀死，并让心腹尉迟敬德带甲入宫报告李渊。此时李渊正和大臣萧禹、裴寂坐在一只小龙船上，荡漾在南海池中，他见尉迟敬德全副武装立在岸边，十分惊骇。尉迟敬德说，太子和齐王造反，秦王已把他们处死，特派我前来保驾，李渊听后惊得目瞪口呆。旁边的萧禹等赶忙劝李渊把国事都托付给秦王，尉迟敬德也敦促李渊下诏，令诸军悉受秦王节制，以便制止东宫和齐王府军队的骚乱。李渊无奈，被迫写下诏书，命令所有军队悉听秦王处置，并诏立世民为太子。此时，全国局势基本上被李世民控制，李渊无奈，表示愿早些退位。
贞观九年，李渊病逝，享年七十岁。大臣们议请上谥号太武皇帝，庙号为高祖。高祖临死时让死后薄葬，但李世民要求厚葬，或许是弥补一点过失，也可能是为了表明自己的孝道。
最后按照大臣商议的结果，不按照汉长陵九丈高的先例，而是仿效光武帝刘秀的原陵，造六丈高。这就是献陵。
唐献陵为唐高祖李渊的陵寝。唐贞观九年五月，李渊卒，十月葬，唐太宗李世民依东汉光武帝原陵之规格修筑献陵。该陵座北朝南，封土为陵，呈覆斗型，平面呈长方形，陵园为夯筑城恒，四面各壁一门，门外各置石虎一对。陵墓陪葬区位于陵园东北，现存有封土67座，除襄邑李神符在三原县境内外，其余均在渭南市富平县境内。
安邦治国，加强政权建设
李渊称帝后，一面进行统一战争，一面注意加强政权建设，唐朝前期的政治、经济、军事制度，在李渊时期基本上粗具规模。
李渊建唐之初，所有制度皆随隋制，直到公元624年确定了唐代的政权组织系统。首先是在中央实行三省六部制。三省即中书省、门下省和尚书省。负责草拟有关军国大事的命令的中书省是决策机关，长官是中书令，僚属有中书侍郎、中书舍人等；负责审核中书省的决定，并有权驳回的门下省是审议机关，长官是侍中，僚属有黄门侍郎、给事中等；负责执行中书、门下二省决定的尚书省的执行机关长官是尚书令（大宗时废尚书令，另设左右仆射），僚属有左右司郎中等。这三省的长官实际都是宰相，共同商讨国家大事，共同对皇帝负责。六部即吏、户、礼、兵、刑、工六部。
吏部主掌官吏的考核与升降；户部主掌户籍及赋税；礼部主掌礼仪及科举；兵部主掌军事；刑部主掌刑法诉讼；工部主掌土木工程。各部长官都称尚书，直属于尚书省，每个部又有四司，分别执行中书、门下二省制定的政令。此外，还设立了监察机关御史台，长官是御史大夫，负责纠察百官。
唐代的地方统治机构沿用了隋朝的州县两级制。
建立了政权机构后，李渊为了发展生产，支持统一战争的用度，于公元624年颁布均田令，又在均田制的基础上，实行了租庸调制。均田令的颁布，对于唐初农业生产的恢复和发展起了积极的推动作用，而唐代的租庸调和隋朝相比，以庸代役的条件放宽了，从而使农民有更多的时间从事农业生产。
在军事制度方面，李渊实行了府兵制。府兵制建立在均田制之上，是一种兵农合一的制度。兵士平时在家生产，农闲时由兵府加以训练。府兵的经常性任务，是轮流到京师宿卫或到边境戍守；若遇到战争发生，则出征打仗。府兵在服役期间，可免除本身租调，但宿卫或戍守、出征时的兵器、衣服、粮食均需自备。这种“寓兵于农”的兵制，从均田农民中征兵，保证了兵源，资粮甲仗自备，减少了国家的经费开支。同时，练兵权与将兵权分离，防止了将帅拥兵跋扈，对于加强专制主义中央集权起了一定的作用。
李渊还继承了隋朝的科举制，并在其基础上加以完备，但同时也恢复了隋朝废除的中正官，以本州高门士人充任，不过大中正只是名誉职务，用人权仍在吏部，而吏部用人的主要途径还是科举。
唐代的科举分常举和制举两种，常举即每年举行的定期考试，考试科目一般为秀才、明经、进士、明法、明算等科，其中明经、进士两科最为重要。制举即皇帝根据需要亲自主持的考试，科目多临时设置，考试时间也不固定，录取人数较少，在科举制度中不占重要地位。
李渊称帝后，宣布废除隋朝的《大业律令》，并令裴寂、刘文静等依随《开皇律》重新修订法律，在“务在宽简，取便于时”的原则指导下，制定了新律53条。到公元624年正式颁布新律，即《武德律》。从内容上看，《武德律》较隋律用刑有所减轻，但对劳动人民的反抗制裁更严酷了。
在短短几年时间内，唐朝除了依附突厥的梁师都以外，基本上统一了全国，李渊也因此产生了骄傲自满的情绪，也不再关心政事，整天与嫔妃在后宫玩乐，此时，以李世民为首的“军功党”和以李建成为首的“大子党”为争夺皇位继承权明争暗斗，展开了你死我活的斗争。公元626年夏，李世民率心腹尉迟敬德等人在玄武门杀掉李建成和李元吉，史称“玄武门之变”。而此时的李渊，正和大臣萧禹、裴寂坐在一只龙船上，荡漾在南海池中，他见闯入宫中的尉迟敬德全身武装立在岸边，十分惊骇。尉迟敬德将李建成和李元吉已被杀死的消息告诉李渊，李渊听后惊得目瞪口呆。随后在萧禹等人的建议下，将大权完全交给了李世民，并立李世民为太子，两个月后，李渊不得不退位，开始了太上皇的生活。
误中“美人计”
唐高祖李渊出生在南北朝末期的北周，七岁就袭封唐国公。他为人倜傥豁达、任性直率、宽仁而容众。隋文帝独孤皇后是他的叔母，因此在隋朝一直做高官。当时隋炀帝荒淫无道，李渊暗中结纳了许多豪杰。
李渊虽不是很好声色，但具有讽刺意义的是，他决定起兵反隋却是中了美人计。