平定三镇叛乱后，郭威坐拥重兵，足以左右朝廷。后汉隐帝为了巩固统治，先后杀死了权臣杨颁、史宏肇、王章，随即把刀锋转向了郭威，并密遣使者赴澶州杀害郭威。郭威被逼起兵，以清君侧的名义，渡过黄河向汴京进军。后汉隐帝无力抵抗，被乱兵杀死。郭威进入汴京，纵兵大掠。郭威请太后临朝听政，准备迎立刘知远的侄子武宁节度使即位。这时，边报辽兵南犯，郭威率领禁军北上抵御。行军途中，将士纷纷议论说：“我们把京师攻陷了，每个人都有罪。如果刘氏复立，我们就没命了。”于是，军至澶州时，将士哗变，撕裂黄旗裹在郭威身上，拥立郭威为帝。郭威回师汴京，受禅即皇帝位，是为后周太祖。
赵匡胤作为军中的一员，由于命运所系，在拥立郭威这一事件中，表现得很突出，深得郭威赏识，提拔他为东西班行首，成为禁军军官。这次事件，给赵匡胤留下了深刻的印象。
两年后，郭威任命赵匡胤为滑州（今河南滑县东）副指挥使。还没去赴任，皇子柴荣被封为晋王，担任开封府尹。由于柴荣曾与赵匡胤同在军中，很了解他的勇武与才能，就要求把赵匡胤留在他的身边，并任命他为开封府马直军使，成为柴荣的潜邸官僚。这才是真正的风云际会，对赵匡胤一生的发展起到了决定性的作用。第二年，郭威病死，养子柴荣即位，是为周世宗。
周世宗即位不久，北汉联合契丹入侵。周世宗率领大军亲征，赵匡胤与禁军另一将领张永德领牙兵一千随行。两军在高平遭遇，后周骑兵将领樊爱能、何徽不战自溃，望风而逃，步兵也纷纷解甲投降。周世宗只好率领亲兵督战。赵匡胤看到形势十分危急，振臂大呼：“主上这样危险，我们还活着干什么！”并对张永德说：“你手下的士兵长于射箭，尽快占领右翼制高点，我率兵从左翼包抄。国家安危，在此一举！”说罢，率兵从左翼冲入敌阵。北汉军队没有料到几乎败阵的后周军队的突然反扑，因而全军大溃。在这次战役中，赵匡胤表现了出色的指挥才能与勇敢精神，改变了战场的形势，后周军队转危为安，转败为胜。
高平战役后，赵匡胤被提拔为殿前都虞侯，领严州刺史。这次战役使周世宗痛感军纪不严，兵力不振，骄兵悍将，临阵溃逃，使他几乎陷入绝境。他决心彻底整顿军纪，首先他把樊爱能、何徽等七十多名临阵脱逃的将领斩首。继而又授权给他所欣赏的赵匡胤。对禁军裁汰老弱，精选强壮，大大整顿了一番，使后周禁军的战斗力大为增强。这次整军，为赵匡胤掌握禁军提供了机会，也为他以后整军积累了经验。
通过高平战役，使周世宗感到赵匡胤不只是一介武夫，仅有匹夫之勇，而是一个智勇双全，具有战略眼光的将才。这使赵匡胤深为周世宗所倚重。显德二年（955年），后周攻打蜀国秦、凤等州，但攻了很久都没有攻下来。周世宗不甘心师出无功，就派赵匡胤前去观察一下，能否打赢。赵匡胤到前线认真观察了战势，回来报告说可以获胜。果然不出一个月，就传回了捷报。
周世宗在进行内部改革的同时，也开始了统一天下的事业，赵匡胤在统一战争中建立了卓著的功勋。显德三年（956年），后周进攻南唐，久攻寿州不下。而淮水下游涂山驻扎着的一万多唐军则随时有可能包抄周军。周世宗派赵匡胤去解除这一威胁。赵匡胤在涡口设下伏兵，然后派一百多骑兵前去唐军营前挑战，佯败，且战且退，把唐军引入包围圈，打败唐军，杀死唐将何延锡，夺得战舰五十多艘，解除了周军围困寿州的后顾之忧，但唐军还随时有可能从滁州增援，在涡口破敌后，周世宗又派赵匡胤远道奔袭滁州。唐军皇甫晖拒之于清流关下，赵匡胤初战失利。他感到不能硬碰，必须智取，就密访当地人，怎样才能绕过清流关，直捣滁州。在当地人的指点下，赵匡胤率兵走后山小路，突然出现在滁州城下。皇甫晖大惊，慌忙退回州城，赵匡胤紧逼城下。皇甫晖说：“人各为其主，愿从容成列而战。”赵匡胤应允。皇甫晖稍定惊魂，率兵复出，还未站稳，赵匡胤只身飞骑，突入敌阵，大吼一声：“我要捉的是皇甫晖，其他人不是我的敌人！”皇甫晖一愣神，已被赵匡胤一剑砍在头上。一拥而上的周军活捉了受伤的皇甫晖，一举攻克了滁州。被俘后的皇甫晖对周世宗叹息道：“臣非不忠于所事，但士卒勇怯不同耳，臣向日屡与契丹战，未尝见兵精于此。”盛赞赵匡胤的英勇。
在滁州，对于赵匡胤来说具有重要意义的是，他在这里结识了辅佐他将来创立北宋王朝的核心人物赵普。这意义无异于刘备结识了诸葛亮。史载赵普“少习吏事，以吏道闻”。在认识赵匡胤之前，他已“托迹诸侯十五年”。他到平定侯的滁州任军事判官，就是由于永兴节度使刘词临死前的举荐和后周宰相范质的提名。赵匡胤与赵普虽未有“隆中对”，但初次相见，赵普的一番谈话，已使赵匡胤感到这是一个重要谋臣。随后，赵普在滁州处理狱事，也使赵匡胤很钦佩。然而当时赵匡胤的地位还不可能将赵普收罗在身边。而赵普也没有轻视这个地位还不是很高的武将，凭他多年的经验，认准了这颗正在升起的新星。因此，他对病倒在滁州的赵匡胤的父亲赵宏殷，端茶送药，殷勤服侍，使赵宏殷深为感动，“待以宗分”。这使赵普与赵匡胤结下了很深的私交。所以八个月后，当赵匡胤被任命为同州节度使兼殿前都指挥使时，就立即上表把已经做了渭州军事判官的赵普要到身边做节度使推官，赵匡胤集团开始初步形成。
此时，赵匡胤作为一个军人，已由一名小校迅速成长为一员出色的武将。这除了其军人家庭给他的熏陶之外，主要还是他亲冒矢石、身经百战的锻炼。而且从小校到殿前都指挥使，从将兵到御将，也使他在原本具有的匹夫之勇和战术计谋之外，逐步锻炼得具有战略眼光。
赵匡胤战功卓著，迅速升迁。在任命为同州节度使不久，又因攻克寿州有功，改任为义成军节度使。一年后，因征淮南有功，又改任为忠武军节度使。同时他一直担任殿前都指挥使，握有禁军大权。