杨坚建立了隋王朝之后，大力进行改革。首先就是确定正朔年号，随后便开始进行政治改革，确定三省六部制，制定《开皇律》，改革兵制，构建新都，创立科举制度。这一系列的革旧鼎新之举，大大加速了隋王朝的发展，同时，也使得国家更加昌盛。
大定元年（公元581年）2月15日，文帝杨坚追尊父亲杨忠为武元皇帝，庙号太祖；母亲吕苦桃为元明皇后；夫人独孤伽罗立为皇后，长子杨勇被立为皇太子。2月19日，文帝封周静帝宇文衍为介国公，宇文氏诸王皆降爵为公。杨丽华改封为乐平公主，已经不再是北周的皇太后了。
北周灭亡时，杨丽华风华正茂，文帝打算让她再嫁，但她誓死不从。辅政期间，杨丽华是支持父亲的，但文帝在禅位之后，对夫家毫不留情，杨丽华对父亲的行为愤愤不平，在言语和态度上均有表现。到大业五年（609年），已经成为皇帝的杨广到西北视察作，她也跟着出去散心，到了张掖，不幸染病身亡，享年49岁。杨广将姐姐的遗体运回安葬在丈夫周宣帝的定陵旁边。2月25日，文帝封弟弟杨慧为滕王，杨爽为卫王，封二儿子杨广为晋王，三儿子杨俊为秦王，四儿子杨秀为蜀王，五儿子杨谅为汉王。同时还任命原北周元老申国公李穆为太师，邓国公窦炽为太傅，任国公于翼为太尉。他们并没有实权。其中，李穆主动请辞，隐居长安养老，不久离世。
杨坚登基后，宣布大赦天下，改纪元年号为“开皇”。
文帝出生于佛寺，自幼由智仙法师抚养，一直到13岁才离寺归家。童年的佛门教育，在杨坚身上烙上了浓重的佛教徒性格，这次国号的命名无疑充满着佛家的味道。根据《金光明经·正论品第十一》所载：“因集业故，生于人中，王领国土，故称人王。处在胎中，诸天守护，或先守护，然后入胎，虽在人中，生为人王，以天护故，复称天子。三十三天，各以己德，分与是人，故称天子”。而“开皇”一词来源于费长房《历代三宝记》卷十二：“赤若之岁，黄屋驭时，土制水行，兴废毁立，佛日火乘，木运启年，号以开皇，可谓法炬火而更明，否时还泰者也。”
“开皇”还是一个道教的年号。《隋书·经籍四》云：“每至天地初开，或在玉京之上，或在穷桑之野，授以秘道，谓之开劫度人。然其开劫，非一度矣，故有延康、赤明、龙汉、开皇，是其年号，其间相去经四十亿万载。五方天帝及诸仙官，转共承受，世人莫之豫也。”
隋朝王劭亦对此大加附会道：“年号‘开皇’，与《灵宝经》之开皇年相台，故曰协灵皇”。说得煞有介事。其实，劫数之说，在北朝就相当流行，《魏书·释老志》说：“又称劫数，颇类佛经。其延康、龙汉、赤明、开皇之属，皆其名也。”但是，如果细心对照，不难发现《隋书》和《魏书》关于劫号的顺序并不一致，且都只有四种，似乎五大劫号尚未完全定型统一。究其根本原因，在于魏晋道教理论构建时期，其时间观念的“劫运”说主要系由灵宝派抄诵佛经，甚至一劫四十一亿万年说，也是在佛教一劫三亿二千万年的基础上略加篡改而成的。至于“五方天帝”，恐怕也来自佛教的“五佛”说，无怪乎《魏书》和《隋书》都认为道教劫数说类似于佛教。杨坚是佛教信徒，对此当然明白。因此，其所采用的年号，主要乃取佛教之劫说，采“圣皇启运，像法载兴”之意。
后来继登皇位的隋炀帝曾经透露“高祖受命之符，因问鬼神之事。”其实，古代帝王并没有真正的宗教信仰，只有功利主义的“鬼神”迷信。杨坚一辈子迷信谶纬符篆，上台时又曾经得到许多道士的帮助，因此，使用一个盗自佛教的道教年号，可谓八面玲珑充分表现出利用各种宗教为政治服务的态度。
随后，杨坚命主管官员奉册前往南郊祭天，派少冢宰元孝矩代太子杨勇镇守洛阳。少内史崔仲方劝说隋文帝废除北周的六官制，恢复汉魏时代旧有的职官制度，文帝接受这一建议，任命相国府司马高颎为尚书左仆射兼纳言、相国内郎李德林为内史令。封周静帝为介公，北周宇文氏的诸藩于一律降低爵位为“公”。
隋文帝与北周的大夫荣建绪旧有交情，杨坚在准备接受禅位时，荣建绪已被任命为息州刺史，正要去赴任。杨坚对他说：“暂时逗留将会与您共取富贵。”荣建绪明白杨坚这句话的用意，不以为然地严肃回答说：“明公的这一旨意，不是在下所要闻知的。”原北周上柱国窦毅的女儿，听说随公接受禅让的消息，自己跳至堂下，捶胸叹息说：“恨我不是个男儿，不能解救舅氏（宇文氏）的祸患。”
窦毅和襄阳公主急忙捂住女儿的口，说道：“不要乱说，当心会灭掉全族。”窦毅因此对女儿男眼看待，待女儿长大后，嫁给唐公李渊。虞庆则进言劝隋文帝杀尽宇文氏，高颎也违心地表示赞同，只有李德林一人再三谏争，以为不可如此。隋文帝为此变脸说道：“您是个书生，不足以议论此事。”于是，隋义帝决定诛杀宇文氏家族。李德林也由于这次谏争而官位再也没有得到升迁。五月，隋文帝又暗中派人杀害周静帝，埋葬在恭陵，命族人宇文洛为后嗣。
上台伊始，杨坚就召见崔仲方和高颎，讨论确定正朔与服色事宜。崔仲方采用通行的五行相生理论，说道：“晋为金行后魏为水，周为木，皇家以火承木，得天之统。又圣躬载诞之初有赤光之瑞，车服旗牲，并宜用赤。”意思就是：周为木行，在东方，木生火；隋朝取代北周，战隋为火行，在南方，属于夏季，色尚赤，赤为火色；而中央为土，属于黄色。经过反复研究论证，文帝君臣一致认为大隋王朝的旗帜、牺牲祭祀之类应该偏向赤色。在衣着方面呢，上到君主下到朝臣应该着黄色，唯一的区别就是，皇帝佩戴有十三个金环的腰带，这种金环的腰带，精美绝伦，但没有实质性的作用，只是代表皇权的一件道具。
开皇元年（581年）六月便正式下诏规定：初受天命，赤雀降祥，五德相生，赤为火色，其郊及社庙，依服冕之仪，而朝会之服，旗帜牺牲，尽令尚赤，戎服以黄。君臣常服则用黄色，史称“隋代帝王贵臣，多服黄纹绫袍、乌纱帽、九环带、乌皮六合靴。百官常服，同于止庶，皆着黄袍及衫，出入殿省”。皇帝的朝服也和百官无异，“唯带加十三环，以为差异，盖取于便事。”
卢贲又奏请改变北周的旗帜，并亲拟嘉名，刨制青龙、驺虞、朱雀、玄武，千秋、万岁之旗；而李德林则以为北周承袭北魏的车舆都不合古制，尽请废除，文帝准奏，只保留北魏太和年间仪曹令李韶所制定的五辂，五辂就是一种存车辕上有五根横粱的大车。
杨坚出身于北周，而他所改革的却是北周制度。当时，太子庶子、摄太常步卿裴政曾上奏道：“窃见后周制冕，加为十二，既与前礼数乃不同，而色应五行，又非典故。……且后魏已来，制度成缺。天兴之岁，草创缮修，所造车服，多参胡制。故魏收论之，称为违古，是也。周氏因袭，将为故事，大象承统，成取用之，舆辇衣冠，甚多迂怪。今皇隋革命，宪章前代，其魏、周辇辂不合制者，已敕有司尽令除度，然衣冠礼器，尚且兼行。……既越典章，频革其谬。……今请冠及冕，色并用玄，唯应著帻者，任依汉、晋。”制曰：“可。”于是定令，呆用东齐之法。
隋代周兴，首先要破除的就是沉滓泛起的胡俗，恢复传统的汉族制度。
公元581年7月7日，文帝身穿黄袍，在大殿上接受文武百官的朝贺；大臣们也都穿上了刚刚赶制的新衣。隋朝代替北周，文帝敏锐地认识到只要在民族政策上有所作为，就可以得到百姓的认同。早在文帝辅政期间，他就带头改回了汉姓，为恢复汉文化的民族政策开了个头。文帝登极后，当然还要进一步破除陋习。
在改变舆服的背后，人们强烈地感受到新王朝迥异于前代的立国原则，这就是隋文帝杨坚所确立的“易周氏官仪，依汉、魏之旧”的基本政策，亦即裴政所奏请的“任依汉、晋”的方针。恢复少数民族政权以前的中国制度文化，是隋朝君臣的共识，意在重新构建以汉族为主体的强大统一的国家。
自北魏太和十七年（493年）南齐秘书丞王肃北奔为孝文帝制定礼仪国典，将南朝前期所继承发展的汉、晋文物制度移植于北朝时它已经和中原保存的传统文化融合而适应于北朝的社会政治。此后，又经过大儒的改定，成为北齐的制度。因此，杨坚虽然高举恢复汉制的旗帜，远溯汉、魏，其实是近取在北齐的基础上创建新制，也就是“于是定令，采用东齐之法”。文帝的这一改革，对当时新建的隋朝来说，有着极为重要的意义。