杨坚一踏入仕途，就经受了政治斗争惊涛骇浪的洗礼。
公元556年10月，关中政权的实际领袖宇文泰在北巡途中发病，急召其侄儿、中山公宇文护赶到泾州（今甘肃省泾川县北泾河北岸），交代后事道：“吾形容若此，必是不济。诸子幼小，寇贼未宁，天下之事，属之于汝，宜勉力以成吾志。”不日，宇文泰就在赶回长安的路上，于云阳（今陕西省泾阳县西北）逝世。云阳就在长安边上，用不了半天就可以到达。但是，宇文护仍然采取严格的保密措施，一直将灵柩护送到长安后，才公开发丧。由此可见，当时的形势相当严峻。
那么，宇文护究竟紧张什么呢？其实，从宇文泰的遗言已可略见端倪了。宇文泰说自己“诸子幼小”，可是，当时其嗣子宇文觉十五岁，长子宇文毓二十三岁，都不能说是“幼小”。既然如此，为什么宇文泰还要将权力嘱托给宇文护呢？
关中政权是由贺拔氏兄弟等几个武装集团合流而成的，其主要成员，原是同辈，兄弟相称，宇文泰因为胆略才智过人，为诸将所推崇而成为实际的领袖。因此，他们之间虽说是上下级关系，实际上宇文泰更像是“老大”。宇文泰对此十分清楚，所以，自西魏政权成立以来，他在内政方面所作的就是逐步提高相府权力，明确上下级关系，慢慢收服各路将领，培植宇文氏亲属势力。同时，他也尽量照顾各将领的利益，用毫无实权的西魏皇帝来平衡派系关系。宇文泰不急于代魏自立，其根本原因就在于此，同时也表现出自己对驾驭群雄的自信。可以说，时间的推移有利于宇文泰。
可是，天不遂人愿，就在宇文泰日占上风的时候，突然病逝，其手下的将领，个个都是出生入死久经沙场的好汉，他们崇敬的是本事和军功，绝非机会迸发出来的一般人所能驾驭。宇文泰的儿子素无功勋，显然镇不住这些英雄好汉。宇文泰所谓“诸子幼小”，指的并非生理年龄，而是政治上的成熟度。
其实，对于继承人问题，宇文泰早有安排。在自己的儿子尚未长大成熟之前，宇文泰着重培养其侄儿宇文导，早早就把他提拔为十二大将军之一，每逢自己出征，就让他留守关中，“深为吏民所附，朝廷亦以此重之”。可惜，宇文导死得太早。于是，宇文泰就把目光投向宇文导的弟弟宇文护。宇文护生于北魏延昌二年（公元513年），曾经参加过西魏建立初年的历次战役，宇文泰称赞他“此儿志度类我”，是宇文家族第二代中的佼佼者。宇文泰去世时，他四十四岁，正当盛年，宇文泰只能把终生为之奋斗的大业交付与他，希望他能实现改朝换代统一天下的目标。
宇文护临危受命，他面对的形势十分严峻。从军功资历来说，他还不足以和第一代元勋相提并论，而且，宇文泰没有称帝，其职位并没有一定要由宇文氏继承的道理。所以，宇文泰一死，“群公各图执政，莫肯服从”，“怀等夷之志，天下有去就之心”，关中政权面临最严重的政治危机。
有资格向宇文氏家族挑战的，是那些和宇文泰“等夷（同辈）”的元勋。当时，最初的八柱国尚存五家：于谨一直是字文泰的心腹助手。李弼原为敌对的侯莫陈悦集团将领，正因为有这层关系，所以他归附宇文泰后，更是小心谨慎，忠心耿耿。而且，他们两人已同宇文泰结为儿女亲家。侯莫陈崇为贺拔岳部将，忠诚于宇文氏。那么，剩下来的赵贵和独孤信显然就是谋求执政职位的竞争对手。
当年，贺拔岳被害时，是赵贵力排异议，确立宇文泰的领导地位，对宇文泰有拥戴之恩。独孤信是贺拔胜集团的主要将领，他“风度弘雅，有奇谋大略”，在荆州、洛阳，特别是其长期镇守的陇右，甚得民望，“声振邻国”，以至东魏传檄说他拥兵秦中与宇文泰对抗。敌国之说或为捕风捉影，但他的确不属于宇文泰嫡系，相互之间关系微妙。独孤信的三个女儿，分别嫁给北周明帝宇文毓、隋文帝杨坚和唐高祖的父亲李爵，这从一个侧面反映出独孤氏在宇文泰集团中的重要地位。但这自然也引起宇文泰的戒心。就在去年，宇文泰决定立嗣，长子宇文毓是独孤信的女婿，而嫡子宇文觉刚刚成年，宇文泰想立嫡子，却又担心独孤信不服，便向诸将征求意见。众将不愿得罪任何一方，便都沉默不语，立嗣之议差一点搁浅。最后，还是李远挺身而出，请斩独孤信以立嫡子，这才勉强确定了继承人。宇文泰不立长子，恐怕有担心独孤信将来以外戚干政将无人能制的因素。宇文泰之死，使得集团内部潜存的矛盾表面化，如何处理这一矛盾，对于关中政权来说，既是严重危机，也是一大转机。
宇文护显然不足以镇住赵贵和独孤信，但他机智地请来威望隆重的于谨为他冲锋陷阵。于谨怀着“以死争之”的决心，在讨论继承人的会议上，回忆宇文泰对大家的恩德，声色俱厉地要求大家拥护宇文护主持大政，并带头向宇文护效忠，“群公迫于谨，亦再拜，因是众议始定”。
宇文护自忖，只要宇文氏不称帝、不确立与群雄的君臣关系，自己就没有把握驾驭他们。因此，他趁着宇文泰尸骨未寒，立即逼迫西魏恭帝禅让，于第二年正月，拥立宇文觉即天王位，正式建立北周。夺取了君权，宇文护也就让赵贵担任大冢宰，满足他想当“执政”的愿望，但同时将至关重要的大司马一职从独孤信手中收归己任，争得军权，并和于谨、李弼及侯莫陈崇参议朝政，把赵贵和独孤信架空并挤出权力中心。
赵贵和独孤信自以为和宇文泰平辈，居功自负，愤愤不平晚辈宇文护专权。赵贵一时冲动，甚至想铲除宇文护，但被独孤信所制止。然而，不久，他们的密谋竟被远在盐州（今陕西省定边县）任刺史的宇文盛告发。于是，宇文护先发制人，在赵贵入朝时，将他捕杀，同时还罢免了独孤信，随即逼他自杀。这一事件大有疑问，赵贵和独孤信如果真的谋反，那么，人在外地的宇文氏族人宇文盛兄弟从何得知？今天，我们已经无法得知当时的真相了，但是，从不合理的蛛丝马迹，仍可看出这是宇文护为提高中央集权而进行的有预谋的铲除异己的行动。
然而，一波未平，一波又起。赵贵、独孤信一案刚刚了结，马上又爆发了李植等人支持孝闵帝谋诛宇文护案。李植的父亲是十二大将军之一的李远，自称陇西李氏，实际上是陇西鲜卑拓跋族酋长。李贤、李远和李穆三兄弟，为宇文泰崛起于关中，立了大功。宇文泰曾经把两个儿子，即后来的周武帝和齐王宪，寄养于李贤家，可见关系之深。李植早在宇文泰时代就已经参掌朝政，宇文护专权，他和几位宫卫头领，与孝闵帝密谋捉拿宇文护，归政于孝闵帝。然而，计划不幸败露，孝闵帝被弑，李植及其成年的弟弟都被诛杀，甚至祸及其父李远，而李贤和李穆两家亦受牵连，除名为民。
继立的明帝，就是独孤信的女婿宇文毓，他早已成年，又聪明好学，明显不利于宇文护长期专权，所以，登基才两年，就被毒死。临死前，明帝没有把王位传给年幼的儿子，而是传给弟弟宇文邕，即武帝，希望他能完成两位长兄未竞之志，制服权臣，树立皇室的绝对权威。
北周初年一系列政变所造成的影响非常深远。第一，赵贵、独孤信事件，标志着在中央集权化过程中，北周元勋集团分裂了。第二，李植事件表明，在第二代中，新的领导权威尚未树立起来。第三，孝闵帝和明帝被弑则是中央集权由谁来完成的斗争，即皇权与相权之争，其结果是宇文氏家族的分裂，削弱了自身力量。
这三种矛盾，都反映出北周政权正坚定地迈向统一的中央集权国家的道路，在这一进程中，出现第一、二种类型的矛盾并不奇怪，它或许是中央集权所需付出的代价，可以通过完善的国家制度和妥善的政治措施来逐步消解。可是，不管怎么说，每一次重大的政治斗争，都需要相当一段时间来巩固其成果和消化其负面影响。然而，北周国家的发展却缺少了这一消化的过程。宇文护受命于危难之际，终能拥立宇文泰诸子，变魏为周，功勋殊伟。但他热衷权势，甚至走马灯似地一再废立君主，破坏了正常的政治秩序，在强化中央集权的过程中，自己反倒成为中央集权的最大障碍。而且，他缺乏文化修养，一味实行政治高压，激化矛盾，涣散人心，给北周政权造成很大的对立面，最后自己身败名裂。
武帝时代揭开北周最辉煌的一页，中央集权体制得到巩固，北方获得统一，各种政治矛盾逐步被纳入正常的国家体制内加以消化。遗憾的是，这段黄金时间匆匆而逝，还没来得及发挥影响，转眼之间又进入缺乏理性的宣帝时代。如果说宇文护时代的政治斗争还具有中央集权的意义，那么，宣帝所进行的则是变态、猜忌和无聊的政治迫害，造成统治集团的彻底分裂，新旧矛盾汇聚在一起，新的政治领袖和新的政治时代已经呼之欲出了。
在这一系列残酷的政治斗争中，刚刚出道的杨坚经受了严峻的考验。北周初年首先遭到清洗的独孤信不但是杨忠的老上司，而且还是杨坚的岳父。这样两层关系，不能不使得杨家格外引起宇文护的警惕。
赵贵和独孤信敢于向宇文护挑战，根本原因就在于宇文泰集团内部以实力为基础的相对平等的关系。府兵制建立初期，兵士分属于各军将而不直属于君主。因此，元勋军将得以同中央闹独立性。可是，经过宇文泰一番整顿和大力培植亲族势力之后，到了大统末年，实际统兵者已由柱国逐渐转移到大将军，因此，赵贵和独孤信他们只能凭着资历勋功和影响力同宇文护抗争，自然轻易就被击败。但是，大将军杨忠却是实力人物，宇文护既不信任他，却也不敢小看他，因此，对杨家是既拉拢又提防。杨坚就是在这种背景下当上宿卫将领的，其处境可想而知。
杨坚担任小宫伯，应该是宇文护所作的安排。刚刚发生过孝闵帝企图夺回政权的教训，宇文护更需要在宫内安插亲信，以监视宫中的活动。如果能把元勋子弟杨坚拉拢过来，可谓是一箭双雕。对于宇文护的主动接近，杨坚有点不知所措，他赶忙回家和父亲商量。杨忠不仅在战场上是一员虎将，在政治上也很有远见，他清醒地看到，宇文护固然大权在握，但他目无君主，和元老们形同水火，与其皇室的斗争，前途也不容乐观，支持他，将来会被斥为逆臣，反对他，则立招横祸，最好的办法就是与之若即若离，超脱于宇文家族明争暗斗的漩涡之外。因此，杨忠冷静地对儿子说道：“两姑之间难为妇，汝其勿往！”也就是说，夹在两个婆婆之间是很难作媳妇的。杨坚对父亲的劝告心领神会，拒绝了宇文护的招诱。
杨家的态度，表面上是不偏不倚，实际上是不与宇文护同流合污，这自然引起宇文护的不满。但是，杨氏父子对当时发生的事件保持沉默，似乎对政治毫无兴趣，宇文护也摸不清其底细，无可奈何。他只能在暗中密切观察，寻找破绽。杨坚是第二代中的佼佼者，有关他的出生及相貌的传说，似乎已在上层社会流传开了。当时，统治者相当迷信，时常发生因为名字相貌等犯谶而滥杀无辜的事例。因此，杨坚的相貌不能不引起注意，明帝特地派遣善于看相的术士赵昭，前去给杨坚看相。赵昭能够摇唇鼓舌于错综复杂的派系之间，自然八面玲珑。他先是回去禀报说：“（杨坚的相貌）不过做柱国耳。”替杨坚遮掩了过去。然后又偷偷告诉杨坚道：“公当为天下君，必大诛杀而后定。善记鄙言。”从当时朝廷的形势来看，政权已经逐渐向第二代转移，作为其头领，宇文护自然特别留意第二代子弟中是否有危险的或异己人物存在，所以，术士赵昭或是宇文护派遣的。
不久，朝廷的气氛更加紧张。年轻气盛的明帝亲政，改变以往的天王称号为皇帝，建立年号，逐步收回大权，触犯了宇文护。于是，宇文护派人毒死明帝，改立武帝宇文邕。翌年，改年号为保定元年（公元561年），“以大冢宰、晋国公护为都督中外诸军事，令五府总于天官”宇文护。实现了总揽朝政的野心。
当初，宇文泰建立府兵制度，立左右十二军，由十二大将军统率，其所统军人，均改从将军姓，企图模仿鲜卑部落兵制，以虚构的血缘关系来提高战士的归属感和战斗力。然而，这支军队虽说统属宇文泰指挥，实际上具有相当的独立性。宇文护执政，成功地收回兵权，军队的所有调发，都必须有宇文护签署的命令才能实行。至此，北周实现了向中央集权体制的转换。只是权力没有集中到皇帝手中，而是在宇文护的控制之下。如此一来，中央集权体制还是没能最终完成。因此，不管武帝如何韬光晦迹，他必将是宇文护的对手。这一点，宇文护心里清楚，所以，他扩大用人层面，在大力提拔新人和培植亲信的同时，进一步加强了对元勋集团的监视和压抑。
保定三年（公元563年）春正月，武帝出巡原州（今宁夏固原县），突然夜里回到长安。百官都觉得很奇怪，私下打听原因。随武帝巡行的侯莫陈崇对其亲信解释道：“吾昔闻卜筮者言，晋公今年不利。车驾今忽夜还，不过是晋公死耳。”预言宇文护将死，不啻是爆炸新闻，顿时就在京城里流传开来。有人告发其事，武帝便将公卿召集起来，当众责问侯莫陈崇。当晚，宇文护就派兵包围侯莫陈崇府第，逼他自杀。侯莫陈崇在前述赵贵和独孤信事件中，显然是支持拥立宇文氏的，所以在事件之后成为四位参议朝政的大臣之一。但是，他所忠诚的无疑是皇室，而不是宇文护，因此，在皇帝与权臣的斗争中，他明显站在皇帝一边。侯莫陈崇一死，北周初年的五大柱国已经被宇文护清洗了三家，创业元勋所剩无几，可见当时斗争之惨烈。
武帝即位后，杨坚的职务从右小宫伯改任左小宫伯，几乎没有变化。从明帝即位（公元557年）起到武帝保定五年（公元565年）左右，他整整担任了八年的宿卫官。光阴荏苒，保定元年（公元561年），随着长女杨丽华的出世，他已经不再是当年那位春风得意的少年郎了。那些得到当权者青睐的伙伴，已经建功立业，节节攀升，而他仍被冰冻在起家的职位上，不仅得不到提升，而且还要时时提防宇文护的迫害。
这些年，杨家的日子过得并不顺，虽然还没有沦落为阶下囚，但也受到了许多不公正的待遇。就在宇文护整肃元老的时候，杨忠有意埋头于具体工作，对朝政漠不关心，以免给宇文护抓到口实。保定三年，也就是侯莫陈崇自杀的时候，杨忠自告奋勇，率领步骑一万，迂回塞北，会合突厥，突破北齐雁门防线，连克二十余城，直逼晋阳。次年正月，与北齐主力会战于城下，因突厥退出战斗，不利而还。显而易见，仅以万人之师要攻打北齐，是不现实的。杨忠积极请战，或与回避朝廷斗争有关。这次出兵虽然没有取得预期的成果，但是，在周齐关系上却是一大转折。以前，每到冰封季节，周兵就要凿开河上冰床，阻止齐军进攻。现在，攻守之势逆转，变成齐兵凿冰以防周军。因此，这次战役具有重要意义。武帝对杨忠的功勋给予很高的评价，打算封他为太傅，但是，宇文护因为杨忠不依附于己而加以阻挠，结果，杨忠非但没有获得封赏，反被外放为泾州刺史。同年，宇文护亲率大军伐齐，却只让杨忠率偏师出塞北策应，有意冷落他。
宇文护的种种行为，深深地伤害了杨坚，他从心底里反感宇文氏，并对北周派系倾轧与唯权有了极其深刻的认识。政治理想在遭受挫折之后，已经被权力所扭曲，热血变成欲望，抱负成为野心。逼人深缄其口的专制体制不仅使人变态，而且还教人把变态的欲望掩饰在伪善的面具之下，当它有机会迸发出来的时候，便是那样的猛烈、致命和惊世骇俗。就在宇文护如日中天的时候，杨坚已经深埋下反叛的念头。
保定五年，被冷落了八年的杨坚好歹晋升为大将军，被派到随（或作隋）州（今湖北省随州市）担任刺史，总算有了出头的机会。这年，北周为了加强对外攻势，调整了荆、襄一带的机构，把荆州、安州（今湖北省安陆市）和江陵总管隶属于襄州（今湖北省襄樊市）总管府，并以大司空卫国公宇文直出任襄州总管。据庾信《周柱国大将军拓跋俭神道碑》记载：“保定四年，治襄州……控御五十州，风行数千里。”可知北周所辖今湖北、河南一带地区，均隶属于襄州总管府，则随州应该也在其中。杨坚到随州，首先到襄州拜谒上司宇文直。宇文直是宇文护的红人，官大气盛，并没有把不甚得志的杨坚放在眼里，只是出于礼貌，派其部下庞晃回访一通。
庞晃是宇文泰元从亲信，此时随宇文直出镇襄州。他一见到杨坚，就被其卓尔不群的气质所打动，相信杨坚将来一定会大有作为，于是倾心交结，成为密友。
然而，杨坚好景不长，他在随州还没坐热那把刺史的交椅，又被调回中央，再次路过襄州。清冷失意之际，想不到庞晃还前来接他，不由地心头一暖，便把庞晃请到馆邸，盛情款待。酒酣耳热，庞晃悄悄对杨坚说道：“公相貌非常，名在图口。九五之日，幸愿不忘。”这番预言杨坚会当皇帝的话，简直是大逆不道，而杨坚竟坦然受之。时已微曙，有雄雉引颈报晓，杨坚让庞晃射雉为验，说道：“中则有贵。然富贵之日，持以为验。”庞晃弯弓持满，一箭射个正中，杨坚抚掌大笑道：“此是天意，公能感之而中也。”庞晃的这一箭，射去了杨坚心中的忧思，坚定了他上膺天命的自信。欢笑之余，杨坚把身边的两个婢女送给庞晃，两人遂成盟友，密谋篡周。
回到京城，政治空气依然紧张，武帝虽然早已成年，但他鉴于两位哥哥惨死的教训，深藏不露，对宇文护尊崇有加，任其专权。而宇文护大权在握，党同伐异，杨坚更是倍受排挤，回京之后，就被晾在一边。杨坚无奈，干脆以母亲生病为由，给自己找了个台阶下来，天天在家侍奉母疾，昼夜不离左右，既躲开宇文护的锋芒，又博得一片“纯孝”的称赞。但是，鹊起的赞誉，更引来宇文护的忌恨，好几次想对他下手加害，多亏大将军侯伏侯万寿为他说情，才得以幸免。
就在这时，天和三年（公元563年），外任多年的杨忠终于病倒，回到京城后不久就去世了。杨坚固然按例承袭父爵随国公，成为一家之主，但是，失去父亲这座坚强的靠山，杨坚更加觉得前途茫然，甚至有点怀疑自己是否真有天命。于是，他频频秘访著名的术士来和，看相问卜。来和详细询问了杨坚身边发生的事情，当他听到杨坚说自己只要一听到别人行走的声音就能辨别是谁的时候，顿时精神一振，故作神秘地说：“公眼如曙星，无所不照，当王有天下，愿忍诛杀。”硬是把杨坚悬起的心给镇定了下去。后来，来和在回忆当年的情景时说道：“臣早奉龙颜，自周代天和三年以来，数蒙陛下顾问，当时具言至尊膺图受命，光宅区宇。此乃天授，非由人事所及。”
可是，杨坚回家后，总觉得这天命老没应验，倒是咄咄逼人的宇文护像高悬的剑，让他寝食不安。于是，他又找了好几位道士，如张宾、焦子顺和董子华等，逐个看相。不料，这些赫赫有名的道士也都异口同声地说：“公当为天子，善自爱。”杨坚这才略感安心。
就在杨坚担惊受怕成天求神问卜的时候，北周的政局暗暗朝着不利于宇文护的方向发展。武帝大智若愚，小时候，父亲宇文泰见到他就惊异地说道：“成吾志者，必此儿也”；长兄明帝遇害时，特意把皇位传给他，也是因为认定“能弘我周家，必此子也”。这些年来，武帝听任宇文护专权而得以自我保全，他让宇文护尽量表演，因为宇文护处在权臣擅政的地位，必然人心不服，而其推行的高压政策，会给自己造成巨大的潜在对立面，只要保住皇位，耐心等待，就一定能够铲除宇文护。
机会终于来了。天和七年春，宇文护的党羽宇文直因为五年前与陈军交战失利而被免职，遂记恨宇文护，秘劝武帝诛杀宇文护。十分明显，对手的阵营已经出现分裂，这是予以致命一击的最佳时机，武帝当机立断，秘密将右宫伯中大夫宇文神举、内史下大夫王轨和右侍上士宇文孝伯等一班心腹召进宫中，密谋布置。
三月十八日，宇文护从同州大本营回到京城，照例谒见皇上。武帝平时并不以君臣礼而是以家人礼接见宇文护，以示尊崇。今天也不例外，他见到宇文护进来，显得非常高兴，一边带着宇文护到含仁殿去谒见皇太后，一边说道：“太后春秋高，颇好饮酒。虽屡谏，未蒙垂纳。兄今入朝，愿更启请。”说着便从怀里掏出早已写好的上谏文《酒诰》，交给宇文护道：“以此谏太后。”宇文护不知是计，慨然允诺。见过太后，宇文护果真拿出《酒诰》，读将起来。这时，站在一边的武帝悄悄绕到背后，用手中的玉珽猛击宇文护后脑。宇文护没有防备，跌倒在地，武帝命令宦官何泉用刀劈他，但宇文护平日威风惯了，何泉竟怕得下不了手。这时，埋伏在内的宇文直跳了出来，劈死了宇文护。
结束了宇文护专权，北周终于实现了朝政的统一。为了庆祝胜利，武帝把这一年改为建德元年，表示要推行德政的意思，杨坚也长长地舒了一口气。