接着，宋太祖又以西蜀勾结北汉伐宋为名，于乾德二年(964年)十一月初二，发兵5万，分两路攻蜀：令王全斌、崔彦进为西川行管凤州路正、副都部署，王仁赡为都监，率北路步骑兵三万出风州(今陕西凤县东北)，沿嘉陵江南下；令刘光义为归州路副都部署，曹彬为都监，率东路步骑兵两万出归州(今湖北秭归)，溯江而上。两路分进合击，直指成都。赵匡胤利用蜀降将赵彦韬提供的情报，针对巴蜀有嘉陵江、长江直贯南北、东西的地形特点和蜀军防务上兵力不足的弱点，采取东、北两路沿长江、嘉陵江分进合击的部署。刘光义在夔州，针对蜀军锁江设防，水强陆弱的情况，适时舍舟登岸，先夺取两岸，然后水陆配合，一举突破蜀军利用浮梁所组织的防御要点，接着沿长江长驱直入。北路主将王全斌善于迂回、夹击，避坚击罅，迅速地攻占利州。又用奇兵出至敌后，因而能较快地突破剑阁险隘，在东路军的配合下直逼成都。乾德三年正月初七，孟昶见大势已去，出城投降，后蜀亡。
3.攻取南汉
当年南汉以广州为中心，割据岭南两广地区达六十年之久。北宋平定后蜀后，潘美等宋将就趁机攻取了南汉的郴州，形成了良好的进攻态势。
这一年，潘美等接到宋太祖灭亡南汉的指示后，很快就攻陷了贺州，随之连克昭、杜、连、韶四州，大败南汉军十余万军队于莲花峰下。至次年二月，即攻克广州，南汉灭亡。
南汉灭亡之后，南方剩下的最后三个割据政权个个自危，震恐异常。势力最强大的南唐皇帝李煜这时也不得不主动要求取消国号，放弃皇帝的称号，改称“江南国主”。另外两个割据政权吴越和漳泉早就上表称臣，接受宋朝的官职。
4.征服江南
开宝四年(971年)二月，宋灭南汉之后，从北、西、南三面对南唐形成战略包围。宋太祖志在统一江南，认为“卧榻之侧，岂容他人鼾睡”，绝不允许南唐存在下去。经过三年的准备，开宝七年(974年)十月，宋太祖令曹彬为统帅、潘美为都监，率水、步、骑兵在采石一线强行渡江，进围金陵；同时令吴越国主钱俶统率吴越军五万，由宋将丁德裕监军，从东面攻取长州，然后会师金陵；令王明为西路军，向武昌方向进击，牵制屯驻在江西的南唐军队，使其无法东下援救金陵。
十一月中旬，宋军依照樊若水的图示在采石用预先造好的战舰架设浮桥获得成功，其主力部队通过浮桥，顺利跨过了长江天堑，大败南唐水陆兵十余万于秦淮，直逼金陵城下。与此同时，钱俶率兵攻克了长州、江阴、润州，形成了对金陵的外线包围，金陵成了一座孤城。十一月二十七日，在李煜仍不投降的情况下，宋军发起总攻，金陵城破，李煜做了俘虏。
灭南唐是宋太祖统一南方的最后一仗，也是当时最大的一次江河作战。这次战争中的“浮桥渡江”“围城打援”，是宋太祖战略部署中的得意之举，也是古代战争史上的创举。
5.北征失败
宋朝南征，几乎没费什么力气就平定了。但宋太祖念念不忘的是恢复汉唐旧疆，平定北汉，收复燕云十六州。开宝二年九月，宋太祖派李继勋率兵攻北汉，因契丹军来援，无功而返。十月太祖亲征北汉。宋军筑长连城围攻太原，北汉大将杨继业（即杨业，杨老令公）出城进犯宋东西砦，败还，辽军分两路援救北汉，一路自石岭关入，为宋军败于阳曲。后来，太原城水灾，城中惊恐，大臣郭无欲谋降宋，被杀，契丹再派兵驰援北汉，太原得以保住。宋军则因屯兵太原城下，久攻不克，损兵折将，又因暑雨，士卒多病，遂班师。太祖共在开宝元年、二年、九年三次攻打北汉，均因辽军来援，屯兵太原城，久攻不克而还。
此志未酬，宋太祖把平定江南诸国所得的金帛运回汴京，建立了封桩库，准备贮满五百万之后，向契丹国赎回燕云十六州，如果契丹不肯，就用这笔钱作为军费，兵戎相见。终太祖之世，除北汉外，基本上结束了延续几十年的分裂局面，中原和南方广大地区实现了“天下一家”。扫平群雄，也应了宋太祖早年吟诵的“逐退群星与残月”的雄心壮志。宋朝统一事业的胜利，除了宋太祖个人的杰出能力之外，更重要的是统一是“分久必合”的大势所趋，人心所向。
（四）完善内政
1.强干弱枝
从唐朝中叶以来，形成了地方藩镇权势过大的局面，他们常常割据一方，乃至进行武装叛乱，给朝廷造成了严重的威胁。在宋王朝建立之后，赵匡胤依据宰相赵普提出的“削夺其权，制其钱谷，收其精兵”的十二字方针，分别从政权、财权、军队这三个方面来削弱藩镇，以达到强干弱枝、居重驭轻的目的。
在“削夺其权”方面，赵匡胤陆续派遣文官到地方州郡担任长官，以取代跋扈难制的军人；并在知州之外设立通判，令两者共掌政权，互相牵制，分散和削弱了地方长官的权力。在“制其钱谷”方面，赵匡胤设置转运使来管理地方财政，并规定，各州的赋税收入除留下正常的经费开支外，其余的一律送交京师，不得擅留。这样，既增加了中央的财政收入，又使地方无法拥有对抗中央的物质基础。在“收其精兵”方面，赵匡胤将厢军、乡兵等地方军中的精锐将士，统统抽调到中央禁军，使禁军人数扩充到几十万，而地方部队只剩下一些老弱兵员，只能充当杂役，缺乏作战能力，根本无法和中央禁军抗衡，这就摧毁了地方反抗中央的军事基础。
太祖通过对藩镇权力的剥夺，对武臣的压抑，改变了五代时期藩镇割据、朝廷寡弱、武人跋扈、文臣无权的状况，提高了中央的权威。在中央内部，太祖又着手分割宰臣的权力，为宰相设置了副相参知政事，来分散和牵掣宰相权力，宰相和参知政事统称为执政，而军政归于枢密院，其长官叫枢密使，枢密院与执政合称“二府”，财政大权另归于三司，其长官叫三司使，号称“计相”，这三者地位都差不多，都直属于皇帝。通过对相权的分割，防止了大臣专权的局面，太祖就曾直言不讳地当面对宰相赵普说：“国家大事可不是你们书生说了算的。”说明宋代君主独裁体制得到了空前的巩固和加强。这些措施结束了唐朝中叶以来的藩镇割据局面，维护了国家的统一，促进了社会经济发展，但这些措施也使得官员增多，开支增大，权力互相钳制、地方实力削弱，日后埋下了积贫积弱的种子。
2.改革制度
宋太祖是个十分有志气的皇帝，一天早晨，文武大臣都一个个汇报自己的工作，接着退到殿外。走在最后的是后周老宰相范质，他现在仍是宰相。当范质快要走出殿门时，宋太祖突然传话，范老爱卿，请稍稍留步，朕有一事与你相商。听到传话，范质转过身走回到殿上，重新坐回自己的宰相之座。
原来，在中国古代宰相的地位是很高的，可以和皇帝坐着说话。人们常说宰相是一人之下，万民之上的官儿，就是皇帝对宰相也是很尊重的，也得礼让三分。因此在上朝君臣议事的时候，宰相可以坐着跟皇帝说话，而其他官员只能够站着。
范质坐下来以后，宋太祖递给他一份大臣汇报的奏折，范爱卿，你看这事如何解决才好？范质接过奏折仔细看了起来。这时宋太祖从龙椅上站了起来，向后宫走去。宰相范质看完奏折后，心里已经想好解决的方法，可是，左等不见皇帝出来，右等也不见皇帝出来，范质实在等不住了，就起身去找皇帝。这时，宋太祖走了出来，范质连忙坐下，可是回头一看，椅子没有了。原来，趁范质起身不注意时，身边的侍卫悄悄把椅子拿走了。
范质不知道如何是好，只得站着和宋太祖说话。以后上朝时，宰相也和其他大臣一样只能站着和皇帝说话，这一制度后来为各朝所沿用。
3.加强中央集权
宋太祖在赵普等大臣的协助下，制定了一系列重文轻武的政策和加强中央集权的措施。
宋太祖把改革军事机构的原则与经验，也应用到改革政治经济制度上来。总的说就是内外相制，上下相维，最终集权于中央，集权于君主一人。
在中央，宋太祖实行政务、财务、军务分立的制度。以中书门下平章事为宰相，同时设参知政事为宰相之副，既协助宰相处理政务，又可以防止宰相专权。设三司使主持财务，号称计相。沿五代制，由枢密使负责军政。在地方实行州县二级制，州长官称知州，以朝官充任，并规定不得兼任一州以上职务，还经常调整。以文臣知州事，是为了防止武将掌握政权的局面出现，把政权从武人手里收归中央，并在知州之外又设通判，互相牵制。在州县之上，又将全国分为十五路，相当于监察区。每路设官也分权，设有帅司（安抚使）、漕司（转运使）、宪司（提点刑狱），仓司（提举常平）。
宋太祖以和平方式禅代后周，后周的官员基本上全部留任了。这在一定时期内有助于稳定政局，但这并非是长久之计，宋太祖在保留原有官名的基础上，“别为差遣。以治内外之事”。这实际上就逐渐剥夺了原来留任官员的实际权力。把原来的官名作为官员品位禄秩的标志，差遣才是实职。如中书令，侍中等是官名，而只有带同中书门下平章事、参知政事等差遣，才是实际上的宰相、副宰相。用差遣任官，给人以一种临时性质的感觉，也同样有防止官员专权的意义。
在财政上，宋太祖削夺了地方的财政权。五代以来，地方财权都掌握在节度使手中。宋太祖在乾德三年开始设置转运使来管理地方财政，要求诸州度支经费外，财政收入一律运送京师，不得擅留。这样，既保证了中央财政收入，又断绝了地方上藩镇兴起的经济基础。
为了保证新建立的各项制度的实行，赵匡胤建立了一套强有力的监察制度。御史谏官必须由皇帝亲自选拔，宰相大臣不得干预。台谏的职责，本来包括向皇帝进谏。但从宋代开始，却成了天子的法官，督察各级官员的工具。
为了扩大统治基础，宋太祖不但恢复了科举制度，还把殿试制度固定化。他亲自招试士子，禁止及第人对知举官称“恩门”，自己称为“门生”，而使他们都成为“天子门生”。除了以科举选拔人才外，宋太祖平时也留意人才，司马光曾说，宋太祖“知人善任，择用英俊，不问紫级，察内外官有一材一行可取者。密记籍记之。每一官缺，则披籍选用焉”。
宋太祖赵匡胤从个人品质上看，基本上是一个气度豁达的忠厚长者。他当了皇帝之后，赵普多次劝他报复那些过去对他不好的人。宋太祖说：“不能那样做，那时候人们哪知道谁是天子宰相！”赵匡胤这样说的，也是这样做的。宋太祖早年浪迹天涯的时候，在董宗本那里曾受过其子董遵诲的欺辱。宋太祖即位后，董遵诲十分惶恐，董遵诲的部下也乘机上诉其不法之事。宋太祖召见他，他以为必死无疑，这时宋太祖却说：“不要害怕，我怎么能念旧恶呢？”于是对他委以重任，并且还把他陷于辽朝幽州的母亲用重金赎了回来。
4.发展生产
曾经流浪的痛苦经历，使赵匡胤对老百姓的苦难有切身的体会，因此对民生问题十分关注。当天下初定的时候，他马上就实行了宽减徭役的政策，以便农民休养生息，发展生产。961年，他明令免除各道州府征用平民充当劳役，改用军卒担任。第二年，又免除征民搬运戍军衣物的劳役。若州县不遵令行，百姓可以检举。在五代之乱后，连年的战乱使田地荒芜严重，土地是立国之本，因此赵匡胤下令，凡是新垦土地一律不征税，凡是垦荒成绩突出的州县官吏给予奖励，管辖区内田畴荒芜面积超过一定亩数的，要给予处罚。赵匡胤刚当皇帝仅仅两年，就下令在黄河沿岸修堤筑坝，并大量种树，以做防洪时用。其后多次就黄河的治理下达最高指示，例如在建隆三年（962年），赵匡胤下诏说：“沿黄、汴河州县长吏，每岁首令地分兵种榆柳，以壮堤防。”每年的正月、二月、三月，是黄河堤坝的例修期，年年都会加固维修，加固了堤坝还绿化了环境，两全其美。
（五）简朴生活
史载，宋太祖的日常生活很朴素，常常穿着旧衣服，乘坐的车子及穿的衣服多是素色，宫中也没有华丽的装饰。有一次，他发现他的三个女儿穿着用翠鸟羽毛装饰的衣服，就说：“今后你们不要再穿这种衣服了。”公主们不以为然地说：“这一件衣服才用多少翠羽。”宋太祖说：“不是因为这一件衣服，因为你穿一件，宫内宫外就会争相效仿，翠羽的价格昂贵，有的人就会乘机倒卖害民。你生活于富贵之中，要知道惜福。”公主们看到宋太祖的车子很普通，就问：“你做了天子，难道还不能用黄金装饰车子吗？”宋太祖严肃地说：“我以四海之富，就是把宫殿全用金银装饰起来也办得到。但我是为天下守财，哪能妄用！古语说：以一人治天下，不是以天下侍奉一个人。”宋太祖对自己的地位有着较为清醒的认识，也是颇为难能可贵的。
除此之外，宋太祖的饮食也都很简单，虽然对自己的家人较约束，但绝非吝啬之人，他曾在一些工程上花下大笔费用，对于投降的各国国君也给予优厚的待遇。自己的私生活严谨简朴，对于该花费的地方，却是十分慷慨，这是历代皇帝中较少见的。