西魏恭帝元年（554年），杨坚14岁，转入太学学习已经有一段时间了。
太学是一所专门培养贵族子弟的学校。魏孝武帝匆促西迁，礼乐散逸，典籍不备；宇文泰集团起自行伍，军将骁勇少文；贵胄子弟从小习武，以弓马自矜。宇文泰深知，没有文化的队伍是难以担负起争夺天下的重任的，所以，他努力提倡学习，甚至在自己的行台设置学堂，让部下辅佐白天办公事，晚上到学堂学习。就在这一年，杨坚被京兆尹薛善看中，辟他为功曹。这一任命同然是象征性的，但对于杨坚来说，却是他走上仕途的开端。杨坚一踏入仕途，就经受了政治斗争惊涛骇浪的洗礼。
西魏恭帝二年（公元555年）翌年，杨坚因为父亲平定江陵（今湖北省荆沙市）的军功，被授予散骑常侍、车骑大将军、仪同三司的勋官，封成纪县公。第二年，又升为骠骑大将军，加开府衔。显然，作为宇文泰集团的核心家族，其子弟都从高位起家，这就确保了各个家族既得利益的世袭继承，维持了其显赫的政治地位和整个集团的稳。杨坚在刚刚步入仕途的青少年时代，便依靠父亲的功勋获得如此之高的官爵，这既是宇文泰笼络关陇军人集团的既定方针，又同宇文泰对杨坚的赏识不无关系。是杨坚非凡的相貌和深沉的举止，引起宇文泰的注意。他第一次见到这位年少巷成的后生，便感叹地说：“此儿相貌非凡，不似能经常出现的人物。”杨坚虽然还没有正式踏上仕途，但其似锦的前程，已经得到充分的保障。
西魏恭帝三年（556年）10月，关中政权的实际领袖宇文泰在北巡途中发病，急召其侄儿、中山公宇文护赶到泾州（今甘肃省泾川县北泾河北岸），交代后事道：“吾形容若此，必是不济。诸子幼小，寇贼未宁，天下之事，属之于汝，宜勉力以成吾志。”不日，宇史泰就在赶回长安的路上，于云阳（今陕两省泾阳县西北）逝世。云阳就在长安边上，用不了半天就可以到达。但足，宇文护仍然采取严格的保密措施，一直将灵柩护送到长安后，才公开发丧。
周孝闵帝元年（557年），杨坚17岁。是时，晋国公宇文护以大冢宰的身份专断国家大权，孝闵帝密谋诛杀宇文护，事泄而败，孝闵帝被逼逊位，月余后被杀，立宇文泰长子宇文毓为帝，是为周明帝，而朝廷权力则完全掌握在宇文护手里。
明帝即位后，杨坚被任命为右小宫伯，进封为大兴郡公，正式踏上了仕途。宫伯一职，相当于汉代的卫尉。宫伯掌管皇宫宿卫，小宫伯为其副职。贵胄子弟多由侍卫起家，其主要原因就是因为宿卫官在阜帝身边，贴近权力中枢，能够迅速得到提升。另外，从北周官制上说，官伯隶属于天官大冢宰。当时，担任大冢宰的是宇文护。由此看来。杨坚担任此职，是宇文护为拉拢杨氏的安排。可是，这一职务正好夹在皇帝和权臣之间，地位十分微妙，是飞黄腾达，还是身败名裂，就取决于在政治斗争中的立场态度。每逢朝会，宫伯官金刀金甲，立于两班卫士前头。杨坚在这个职位上如履薄冰地度过了好几个寒暑，几度险遭不测，亲身体验到政治斗争的冷酷。可是，这个特殊的位置，却也让他洞察出朝廷复杂的人事关系，在宫里宫外，交结一帮密友，练就了深藏不露、处变不惊的政治本领。
杨坚的举止以及宇文泰对杨坚的评价，使明帝产生了戒心。周明帝曾委派善于相面的赵昭为杨坚看相。赵昭看见杨坚的相貌，大为惊讶，以为是真龙天子的骨相。赵昭对于自己的看相，深信不疑，老于世故、善于明哲保身的赵昭，为应付眼前，善处日后，赵昭当即作出抉择，首先向周明帝说：“臣观看杨坚的相貌，不过是做个柱国而已。”赵昭以此消除明帝对杨坚的戒心，不久又在私下对杨坚说：“以相公的骨相，当做天下的君主，必定在大诛杀之后始能安定。请您留心善记鄙人这句话。”
周明帝二年（558年），杨坚18岁。九月，杨坚的父亲大将军杨忠因军功进位柱国大将军。周明帝武成元年（559年），杨坚19岁。杨忠进封随国公，食邑万户，别食竟陵昌户。周明帝五年（561年），宇文邕即皇帝位，是为周武帝。此时的杨坚21岁，凭借着父亲的功勋，少年得志，出任隋州刺史，进位大将军。青年杨坚的非凡相貌和入仕以来的表现，得到了鲜卑族人、柱国大将军、卫国公独孤信的赏识，独孤信认为杨坚前途无量，便决定将自己的第七个女儿年仅14岁的独孤伽罗许配给他。两家都是北周开国勋臣，数一数二的豪门大族。同他结亲的独孤信，更是权势隆盛。独孤信也是随宇文泰起兵的大将，官拜上柱国（北用时最高官衔，共八“柱国”，每人统二“大将军”，分别统率府兵），爵封卫国公。他的长女又是当今皇帝宇文毓的皇后。
据《周书·独孤信传》记载，独孤信“信美容仪，善骑射”，是宁文泰关陇军集团的重要人物之一，屡立战功，功勋卓著，于大统十四年（公元548年）因军功进位柱国大将军，大统六年迁尚书令，拜大司马。孝闵帝践祚后，迁太保、大宗伯，进封卫国公，食邑万户。《周书》本传称：“信风度弘雅，有奇谋大略。太祖（宇文蔡）初肩霸业，唯有关中之地，以陇右形胜，故委信镇之。即为百姓所怀，声震邻闭。”杨坚的父亲杨忠原是独孤信的部下，独孤信于548年进位柱国大将军时，杨忠不过被委任都督四州诸军事，加侍中、骠骑大将军、开府仪同三司。由于独孤信在北周政权中所享有的特殊重要地位，因而这门姻亲的缔结，对于杨坚日后的发展有着重要的关系。
独孤氏虽然生长权贵之家，但谦卑自守，柔和恭孝。她通晓书史，对于古今兴亡大事颇有些独特的见解，因此，她深得杨坚的器重。
有一天，杨坚下朝回家后，同夫人一起坐着叙话，忽有朝中同僚赵昭求见。赵昭是带着皇帝的秘密使命来的。由于有人传说，杨坚有帝王之相，引起明帝宇文毓的疑忌，便派善于替人看相的赵昭来，仔细察看杨坚的面相，如真有帝王之相，就要设法诛灭他。赵昭一看杨坚的长相，不由大惊。他告诉杨坚道，你这相，相法上称为“玉柱贯顶”，此相当为天下之君。
杨坚一听，害怕极了，忙用手掩住赵昭的口，不让他说下去。杨坚生咱赵昭是奉皇帝命来试探自己的，忙装出一副不经意的样子，说道：“我不过是一凡夫俗子而已，只愿效法我父亲，为国出力，此外一无所求。”这时的赵昭，已决心投靠杨坚，谋求将来的富贵腾达，他说：“我这绝非恭维话，将军日后必为天下之君，但须经过一番大诛杀才能定天下。请务必记住我的话！”他还嘱咐杨坚说，执掌朝极的大冢宰（丞相的代称）宇文护忌贤害能，要深自韬晦，等待时机。赵昭回报明帝时故意说，杨坚虽然相貌奇特，但将来至多做一个柱国之类的大官，“天子之相”只是讹传而已。明帝这才放下心来。