杨坚进入官场之后，虽然屡有功绩，但仕途依然坎坷。此时，朝中局势波澜诡谲，瞬息万变，当周武帝病重之时，杨坚在众人的帮助，通过发动宫廷政变，迅速登上了权力的巅峰。在制服诸王、平定三方之后，杨坚更是独揽大权，而篡周建隋也成了必然的趋势。
杨坚满心不高兴地来到南兖州上任时，已经是新的一年了。陈朝想借齐亡之机，夺回徐、兖二州，结果在彭城一战。全军覆没，老帅吴明彻被俘，北周的南线稳定了下来。武帝统一中原，格外高兴，下令改元宣政，准备大治天下，一展宏图。五月，武帝下诏北伐，亲总大军，分五道出塞，准备消灭盘踞在东北地区的北齐余孽高绍义、高宝宁之流，打败不时入侵的突厥。然而，大军才刚刚踏上征途，武帝就一病不起。
宣政元年（公元578年）六月，赍志而殁，时年36岁。六月一日，宣帝即位。即位后，就倒行逆施开来，首先以莫须有的罪名杀北周首辅齐王宪及上大将军王兴、上开府仪同大将军独孤熊、开府仪同大将军豆卢绍。第二年，又诛王轨、宇文孝伯、宇文神举和尉迟运等。至此，武帝朝的重臣被诛杀殆尽，其空缺由宣帝的亲狎侍从出任。这些人，多为文学出身的世家子弟，并无军功资历，他们平只以亵押无赖得宠，在北周政坛上见风使舵，投机取巧，忌恨那些看不起他们的元老重臣。因此，他们积极唆使刚满二十岁的宣帝逞凶斗狠，排斥前朝旧臣，把大权统统集中到宫中，便于他们从中窃弄。日后，杨坚在回忆宣帝滥杀忠良时，庆幸道：“宇文孝伯室有刷之良臣，若使此人在朝，我辈无措手处也。”
宣帝登基，太子妃杨氏顺理成章地当上了皇后，杨坚也因此获得高升，进位上柱国，出任大司马，掌管军政。在地方任职一年多回来，京城已是今非昔比，杨坚深怀顾忌的大臣或死或散，剩下来的并无多少政治才干。
在宣帝的人事变动中，杨坚自然大得其益，从个人的军功资历来说，他都不显赫，可是就因为他是国丈，所以也就当上了大后丞，跻身于最高的四辅官之列，而且，在四辅宫中，越王盛为宗室，尉迟迥和李穆都是耆老之人，只有杨坚才三十九岁，又具有家世和外戚的背景。过了半年，杨坚再次被提升，高居四辅之首，而且，宣帝出巡时，经常让他留守京城，足以证明其地位之显要，倍受瞩目。宣帝自毁栋梁，现在，杨坚似乎可以不必担心背后那些警惕的眼睛，从容进行政治布局。
宣帝爱好声色犬马，他既要独裁，又讨厌处理日常政务，所以，登基不满一年，就将皇位禅让给七岁的幼子（静帝），改元大象，自称天元皇帝。
他自大成狂，自比上帝，最恨别人有称“高州大”者，凡姓高的，尽改为“姜”，高祖改称“长祖”，官名犯此忌者，也一并改名，还下令天下车辆，以浑成木为轮，禁止妇女涂脂抹粉等等。经过这般“改革”，妄图实现普天之下惟我独尊的梦想。“改革”大功告成，宣帝非常得意，便把鱼龙百戏，陈设于殿前，日夜嬉戏。他还是太子的时候，就因为按捺不住青春冲动，与籍没入宫且大他十余岁的婢女朱氏胡来，生下静帝，现在母以子贵，宣帝封她为天元帝后，但内心实在嫌弃她，于是四下搜括美女，先后又立了两位皇后。
大象二年（580年）春，尉迟氏尽被抄斩。宣帝五位皇后并立，他又让人制造五辆专车，载着五位皇后，自己率左右徒步随行。
宣帝的皇后中，只有杨皇后身份最为高贵，既无须献媚取宠，也不惧怕宣帝，宣帝对此早就十分恼火。在他看来，杨皇后胆敢不屈，无非是仗着父亲杨坚为后盾。自有了宇文护的教训，北周皇帝都十分警惕再次出现权臣，宣帝做得最彻底，他一方面把武帝朝掌握实权的大臣尽加清除，同时命令宗室亲王各就封国赴任，以免留下隐患；另一方面则重用资历浅薄者，把权力全都集中到自己手里。即便如此，他还不放心，经常派人秘密察访，将朝臣的言行举止一一记录奏报，略不顺眼，辄加其罪，甚至对大臣鞭笞捶挞，每行体罚，号称“天杖”，几乎无人能够幸免，直打得“内外恐惧，人不自安，皆求苟免，莫有固志，重足累息，以逮于终”，所以，当宣帝清除完先朝旧臣之后，自然就盯上了颇具实力的杨坚。现在，他找到了借口，要通过教训杨皇后来收拾杨坚。
要处死皇后的消息，由宫中飞报到杨家，杨坚的夫人独孤氏赶入宫中，死命求饶，这才稍解宣帝的一腔怒气，免去皇后一死。可是，这次没逮着杨坚，宣帝终不甘心，打定主意要除去这个心头之患。有一天，宣帝又和杨皇后生气，发怒道：“必族灭尔家！”随即派人去召杨坚入官，并吩咐左右，只要杨坚神色有异，立刻就将他捉拿。杨坚来到宫中，举止合礼，神情自若宣帝无由下手，只好再觅机会。
杨坚之前长期受宇文护等当朝者猜忌，抑郁不得志，一直熬到三十八岁，才因为宣帝外戚的缘故而飞黄腾达，可谓大器晚成。然而，他认为自己只是得到早该获得的东西，所以并不感谢宣帝。相反，他从心底里看不起这位胆大胡为的女婿，只是宣帝滥杀忠良，使武帝好不容易重新拢起的人心再度涣散，不啻给了自己绝好的机会。宣帝荒淫无度，身体渐消。
杨坚对宣帝身后的形势作了极其冷静的分析，他对心腹宇文庆说道：天元实无积德，视其相貌，寿亦不长。加以法令繁苛，耽恣声色，以吾观之，殆将不久。又复诸侯微弱，各夸就国曾无深根固本之计，羽翮既剪，何能及远哉！尉迥贵戚，早著声望，国家有衅，必为乱阶。然智量庸浅，子弟轻佻，贪而少惠，终致亡灭。司马消难反复之虏，亦非池内之物，变成俄顷，但轻薄无谋未能为害，不过自窜江南耳。席、蜀蛤隘，易生艰阻，王谦愚蠢，素无筹略，担恐为人所误，不足为虞。
杨坚曾与郭荣月下谈心，从容说道：吾仰观玄象，俯察人事，周历已尽，我其代之。而且，杨坚也确实以此为目标，积极展开活动，并在暗中招纳了不少党羽，然而，眼下最大的障碍，在于宣帝虽然没有政治远见，不懂得积德树恩，却善于不择手段地铲除异己，只要谁的权势坐大，则必欲除之而后快。杨坚早就就意识到在宣帝眼皮底下发展自己的势力并非易事，还不如出镇地方，更可进退自如。所以，自入京担任大司马时起，就多次请求外任，另谋发展。当时，其党羽李谔坚决反对，并给他分析了掌握中枢权力的至关重要性，杨坚恍然大悟，认识到堡垒必须从内部攻破，遂决意留在中央。这一决断固然是极其正确的，可现在的问题是宣帝已经盯上了他，使他不但不能再像以前那样从容不迫地积蓄力量，而且已经到了马上就有血光之灾的危急关头。此时的杨坚赶忙入宫，悄悄把宣帝面前的头号红人郑译拉到无人之处，拜托他千万帮忙，给找个外任职位，好保全性命。郑译与杨坚素有交往，于是十分爽朗地应承了下来。
郑译来到宣帝面前，宣帝正在筹划对南朝用兵。自称天元皇帝固然十分风光，但是，天下尚未统一，宣帝仍感到意犹未足，特别是和武帝的平齐功业相比，更有相形见绌之感，大大损伤他的虚荣心。郑译见机，从旁献策道：“若定江东，自非懿戚重臣无以镇抚。可令隋公行，且为寿阳总管以督军事。”宣帝正看杨坚不顺眼，但一时又想不出好办法发落他，所以听到郑译的话，顿时觉得此计一箭双雕，实在太妙了，便立刻准奏，任命杨坚为扬州（今安徽省寿县）总管，偕郑译发兵南征。五月初四，杨坚接到任命，如逢大赦，一面奏请调其党羽庞晃同行，一面整理行装，准备离开这生死之地。说实在的，这次外任，固然躲得了眼前之灾，但前途却十分渺茫。杨坚自叹命蹇时乖，但他实在不愿意就这样认输出走。杨坚改变了态度，自称有足疾，暂缓启程。他决定以闭门养病为由，韬光晦迹。
大象二年（580年）五月九日夜里，宣帝心血来潮，起驾巡幸天兴宫。这种事情以往有过多次，就在去年底，宣帝也曾突然想起要到洛阳，当即启程，令四位皇后并驾齐驱，自己骑驿马奔驰，见到哪位皇后落后，即加谴责，一日驱驰三百里，人马劳顿，颠仆者不绝于道。所以，这次夜出避暑，并没人把它当回事。
可是，隔天，宣帝就起不了身，病势沉重，左右迅速护送他回宫，同时下诏让杨坚入宫侍疾。御医想尽办法，多方救治，但宣带的病情不但丝毫未见起色，而且连声音都嘶哑了，说不出话来，眼看凶多吉步。到了二十二日，宣帝大概也感觉到自己快不行了，传令赵、陈、越、代、滕五王火速入朝，准备嘱以后事。