尽管晋王杨广立为太子后，有些反对派，但不久就被镇压下去了。此时的隋文帝已经到了人老体衰之时。仁寿末，隋文帝想前往仁寿宫避暑，术士章仇太翼知识渊博，佛道皆得其精微，特别善占候算历之术。他眼瞎，以手摸书而知其字。他一再劝阻隋文帝不该，出行：“臣愚岂敢饰词，但是担心是行銮舆不反。”认为陛下这一趟出去，担心永远回不来了。隋文帝听后极为生气，下令逮捕了章仇太翼，把他囚禁在长安监狱，准备从仁寿宫回来时，把他斩首。仁寿四年（公元 604年）正月二十七日，隋文帝到仁寿宫，下诏凡政府一切赏赐和财政开支，事无巨细，都交付太子杨广裁决。
结果，隋文帝到了仁寿宫不满三个月，就生了一场大病，而且病势越来越重，他躺在床上，自觉爬不起来了，向文武百官告别，分别握住他们的手，还对太子杨广说：“章仇太翼，不是一般人，前后言事，不曾不中。吾来日道当不反，今果至此，尔宜释之。”七月十三日，隋文帝在大宝殿去世，享年六十四岁。
对于隋文帝之死，《北史·隋纪》、与《隋书·高祖纪》的记载不详，仅写道：仁寿四年，夏四月乙卯，上不豫。秋七月甲辰“上以疾甚，卧于仁寿宫，与百僚辞诀，握手戯欷。丁未，崩于大宝殿，时年六十四”。有关隋文帝驾崩过程，《隋书·宣华夫人传》叙述详细：
“初，上寝疾于仁寿宫也，夫人与皇太子同侍疾。平旦出更衣，因太子所逼，夫人拒之得免，归于上所。上怪其神色有异，问他原因。夫人泫然曰：‘太子无礼。’上恚曰：‘畜生何足付大事，独孤诚误我！’意思是献皇后也。因呼兵部尚书柳述、黄门侍郎元岩曰：‘召我儿！”述等将呼太子，上曰：‘勇也。’述、岩出阎为敕书讫，示左仆射杨素。素以其事白太子，太子遣张衡入寝殿，于是令夫人及后宫同侍疾者，并出就别室。俄闻上崩，而且没有发丧也，夫人与诸后宫相顾曰：‘事变矣！’皆色动股傈。晡后，太子兆赍金合子，帖纸于际，亲署封字，以赐夫人。夫人见之惶惧，提心是鸩毒，不敢发。使者促之，于是乃发，见合中有同心结数枚。诸官人成悦，相谓曰：‘得免死矣！’陈氏恚而却坐，不愿意致谢。
诸宫人共逼之，乃拜使者。当晚，太子蒸焉。 ”
《隋书·房陵王勇传》载：“高祖寝疾于仁寿富，征皇太子人侍医药，而奸乱宫闱，事闻于高祖。高祖抵床曰：‘枉废我儿！’因遣追勇。不及发使，高祖去逝，秘不发丧。遽收柳述、元岩，系于大理狱，伪为高祖放书，赐庶人死。”
《北史》各传的记载同《隋书》以上两传的记载基本相同，大致从中可以了解隋文帝的驾崩过程：
开初，隋文帝患病住在仁寿宫，太子杨广对宣华夫人陈氏进行调戏。陈夫人拒绝了他，才得以脱身，’她急忙回到隋文帝的寝宫，隋文帝奇怪她神色不对，问她出了什么事？陈夫人流着眼泪说：“太子无礼！”隋文帝十分生气，捶着床说：“这个畜生，怎么可以将朝庭大事交付给他！独孤误了我！”因此，他叫来元岩、柳述说：“召见我的儿子！”柳述等人正要去叫太子杨广来，隋文帝说：“是叫杨勇来。”元岩、柳述出了隋文帝的寝宫，起草敕书，并且给杨素看，杨素把这件事告诉了太子杨广。杨广假传隋文帝的旨意将元岩、柳述逮捕，关进大理狱，又马上叫右庶子张衡进入隋文帝的寝宫侍候隋文帝，并且将陈夫人以及后宫人员全部赶到别的房间去。不久，隋文帝死了。陈夫人与后宫人员闻知后惊叫起来：“发生事变了！”大家面面相觑，战栗失色。
黄昏的时候，太子杨广派使者给陈夫人送去小金盒，盒边上贴封纸，杨广亲笔写上封字，赐给陈夫人。陈夫人看见小金盒，十分害怕，以为是鸩毒，不敢打开。使者催促陈夫人，于是她打开小金盒，见盒内有几枚同心结，宫人们都十分高兴，互相庆贺道：“可以免死了！”陈夫人愤怒得想坐下，不愿致谢。宫人们一起逼迫陈夫人，她才拜谢使者。那晚，太子杨广将陈夫人奸淫。
由此可知，很使人怀疑是太子杨广派张衡进入谋杀隋文帝的，但行文中始终没有提及隋炀帝杀父。
对此公案《资治通鉴》的编纂者进行了一番全面的整理之后，作了如下描述：
“上寝疾于仁寿宫，尚书左仆射杨素、兵部尚书柳述、黄门、侍郎元岩都入阎侍疾，召皇太子人居大宝殿。太子考虑到上有不讳，须预防拟，手自为书，封出问素；素条录事状以报太子。宫人误送上所，上览而大恚。陈夫人平旦出更衣，为太子所逼，没有答应，得免，归于上所；上怪其神色有异，问她原因。夫人泫然曰：‘太子无礼！’上恚，抵床曰：‘畜生怎么付大事！独孤误我！’乃呼元岩、柳述曰：‘召我儿！’述等将呼太子，上曰：‘勇也。’岩、述出阎为敕书。杨素听说，以白太子，矫诏执述、岩，系大理狱；追东宫兵士帖上台宿卫，门禁出入，并取宇文述、郭衍节度；让右庶子张衡人寝殿侍疾，尽遣后宫出就别室；不久上崩。因此中外有异论。陈夫人与后宫听说以后，相顾战栗失色。之后，太子遣使者赍小金合，帖纸于际，亲署封字，以赐夫人。夫人看见后，惶惧，以为鸩毒，不敢发。使者促之，才发，合中有同心结数枚，宫人咸悦，互相说：‘得免死矣！’陈氏恚而却坐，不愿致谢；诸宫人共逼之，乃拜使者。其夜。太子燕焉。”
《资治通鉴》的记载是对《隋书》各传的综合，写得更加周密和具体，也是秉笔直书的。对于隋炀帝弑父问题，也没能肯定。在“俄而上崩”之后特别加了一句“故中外颇有异论”，“异论”者，说法不一之谓也。即对于隋文帝的死因朝廷内外有不同说法。《资治通鉴》编纂者的说法是比较客观的。周静帝是隋文帝的外孙，算是“至亲”，对于周静帝被隋文帝暗杀一事，《资治通鉴》也没有回避，比较真实，明确写道：“隋主潜害周静帝而为之举哀。”所以，《资治通鉴》的编纂者对于隋炀帝弑父之说未敢肯定，并不是出于春秋笔法，是没有采集到更加充分的旁证材料。
唐以后的某些杂论、稗官野史一类书籍却肯定了隋炀帝弑父，唐史臣吴兢所辑《贞观政要》有两处直接写了隋文帝被隋炀帝诛戮。处是“论仁义”篇载：在贞观六年，左光禄大夫陈叔达刚被任命为礼部尚书后对唐太宗说：“臣以隋氏父子自相诛戮，导致灭亡，怎能容目睹覆车不改前辙？臣竭诚进谏。 ”这里所言“隋氏父子自相诛戮”，就等于说，隋文帝被隋炀帝诛戮。还有一处是“杜谗邪”篇所载：贞观初，唐太宗对侍臣曰：“高颎有经国大才，为隋文帝赞成霸曲，知国政者二十余年，天下赖以安宁。文帝惟妇言是听，特令摈，及为炀帝所杀，刑政由是衰坏。”此处更是明确指出隋文帝为隋炀帝所杀。因此唐太宗又就这问题大做文章道：“杨素欺主罔”。贼害良善，使父子之道一朝灭于天性。逆乱之源，自此开矣。隋文帝淆混嫡庶，惹了祸，社稷寻亦覆败。古人云‘代乱则谗胜，诚非妄言。朕每防萌社渐，用绝谗构之端，十分担心心力所不至，或不能觉悟。”意思是，杨素欺骗隋文帝，残害善良的人，使他们父子之间的伦理关系一下子失去了先天的本性，叛逆祸乱的根源，就从这里开始了。隋文帝已混淆了嫡子和庶子的名分，愤后自己招来杀身之祸，不久国家也就覆亡了。古人说“世道混乱就是谗言得逞”，不是胡言乱语。我常常防徽杜渐，以此禁绝谗言构罪的发生，还是担心还没有尽心尽力，或是还没有觉察出苗头。
赵毅在《大业略记》说：“高祖在仁寿宫，病事，追帝（引者注：指隋炀帝）侍疾，而高祖美人尤嬖幸者，唯蔡、陈二人而已。帝乃召蔡子别室，既还，而伤面而发乱，高祖问之，蔡泣日；‘皇太子为无礼。’高祖十分生气，啮指出血，召兵部尚书柳述、黄门侍郎元岩等，令发诏追庶人勇，即废立。帝事迫，召左庶子张衡、左仆射杨素进毒药。帝简骁健宫奴三十人皆服妇人之服，衣下置杖，立于门巷之间，以为之卫，素等既人，但高祖暴崩。”意思是，隋文帝杨坚在仁寿宫，病重，召唤太子杨广到寝殿。隋文帝在美女群中，最宠爱的只有陈夫人与蔡夫人两人。杨广命蔡夫人到另一房间，蔡夫人出来后，脸上有伤，头发凌乱，杨坚问她，蔡夫人哭泣说：“皇太子杨广非礼！”杨坚生气了，咬手指出血，召见兵部尚书柳述、给事黄门侍郎元岩等，命用诏书召回故太子杨勇，即行罢黜杨广，由杨勇复位。杨广觉得事情急迫，急唤尚书左庶子张衡、左仆射杨素，暗进毒药。杨广遴选健壮骁勇男奴三十人，都穿女人衣服，身藏武器，站在门口及巷口，严密戒备。杨素等即进寝殿，杨坚暴死。马总在《通历》说：“……是时唯太子及陈宣华夫人侍疾，太子无礼，宣华诉之。帝大怒曰：‘死狗，岂可付后事！’遽令召勇，杨素秘不宦，乃屏左右，令张衡人拉帝，血溅屏风，冤痛之声闻于外，崩。 ”意思是，隋文帝病重在、仁寿宫，那时，只有陈宣华夫人和太子杨广在侧侍奉，太子杨广非礼，陈宣华夫人告诉隋文帝，隋文帝大吼道：“死狗，哪能托付后事！ ”急命征召杨勇，杨素密不宣布，把左右宫女全都逐走，派张衡进去，猛打杨坚前胸，鲜血喷出，溅洒屏风，杨坚惨呼冤痛，声音传到户外，于是死了。
清吴乘权等辑《纲鉴易知录》直书：“秋七月，太子广弑帝于大宝殿而自立。 ”
尽管这些绘声绘色，可对于严肃的历史小说家来说，在没有掌握确凿的材料之前，不敢直言太子杨广弑父。
例如明代袁于令评改的《隋史遗文》，据称书中所言“什之七皆史所未留者”。对于隋文帝的死详细地作了描写，现不妨引录如下：
“太子入宿大宝寝殿中，常用是蔡夫人、陈夫人，率领宫嫔服侍。太子也常进宫侍疾，这两个夫人都不避的。蔡夫人是丹阳人，江南妇女，水色自是异常，是非常标致的。那陈夫人，不仅是南人，又是陈宣帝之女，随陈后主人隋。她更是玉叶金枝，锦绣丛中生长。太子谋夺东宫时，要她在文帝前帮衬，也曾送她金骆驼、金蛇、锦绣衣服、珠翠首饰，她也曾收受，但两边也只闻智，没见过几次面。到这时同在宫中，便也不相避忌。又陈夫人举止风流，态度闲雅，流目低眉，徐行缓步，这都是她常事。太子见了，都疑是有意于他，一腔心事，被她引得火热。但在父皇之前，还是有些忌惮，要胆大闯进她宫中去，不敢，而且她又侍疾时多，再不得凑巧。却不知道，还是半边肯，都是太子自己揣摸她，或者厌老爱少。又自信道：平日接受他许多礼仪，不能无情。不期一日侍疾入宫，太子远远举头一看，却是陈夫人，她是要更衣出宫，所以不带一人。太子喜得心花大开，暗想道：‘机会在此时矣！’分付从中，只莫随来。自己三步并做两步，随入更衣处。那陈夫人看见太子来，十分吃惊，道：‘太子为什么到这来？’太子笑道：‘也来随便。’陈夫人觉太子有些轻薄，转身待走。太子一把扯住道：‘夫人，我终日在御榻前与夫人相对，尽管是神情飞越，却似隔着万水千山。今幸得便，望夫人给我一会时间，慰我生平之望。 ’夫人道：‘太子，我已托体圣上，名分所在，岂可如此？’太子道：情之所钟，何名分之有？于是把夫人紧紧抱住，求一接唇。夫人道：‘这断不可！’极力推拒。太子不肯放手，夫人体弱力微，太子是男人多力。正在不可解脱之时，只听得宫中一片传呼道：‘圣上宣陈夫人！’这时，太子知道留她不住，不得不放手，道：‘不敢相强，且待后期。’夫人喜得脱身，早已衣衫皆绉，表情惊慌，太子犹自为她整鬓整衣。陈夫人也稍俟喘息宁贴人宫，不料是文皇睡醒，从她索药饵，如何敢迟。只得举步走到御榻前来。那文皇把那朦胧病眼一看，心想：难道是偷闲睡了起来，鬓该乱，衣服该绉，脸色不须变得，若道因宣唤来迟吃惊，脸色也不消如此失色，衣服鬓发，又不该乱。于是问道：‘为甚作此模样？’这时，陈夫人也知道隋主病重，不欲得把这件事说知恼他，但是一时没甚急智遮掩，只得说一声道：‘太子无礼。’文皇听得这句言语，极为生气，把手在御榻上敲两下道：‘畜生何足付大事？独孤误我，独孤误我！快宣柳述与元岩到宫来！’”
由此可知，隋文帝是被气死的。但接下来的又对太子杨广和张衡、宇文述以及杨素的往来作了描写，又产生被谋害的判断，太子自中宫中缉听。听得父皇怒骂，又听得你叫宣元岩、柳述，不宣杨素，知道有难为他的意思，因此急奔来寻张衡、宇文述一起计议。宇文述道：“这好事也只在早晚而已，太子这般性急！
只是柳述这厮，他倚着兰陵公主，恃是勋戚重臣，与臣等不相下，断不肯为太子周旋，怎么办呢？”张衡道：“如今只有一条急计，不是太子，就是圣上。”正悄与太子说时，只见杨素慌慌张张走来道：“殿下不知因甚忤了圣上，现在圣上胥元侍郎、柳尚书进宫，叫召太子。柳尚书还道是殿下，不知皇上是召前日废的太子。现要他两个去撰敕书，只待敕完用宝，赍往长安。若他来时，我们都是仇家，如何是好？”太子道：“张庶子已定了一计。”张衡便向杨素耳边说了几句。杨素道：“也不得不如此了，这就是张庶子去做。只怕柳述、元岩去取了废太子来，又是一番事，这就烦宇文先生，太子这边就假一道旨意，说他二人乘上弥留，不会将顺，妄思拥戴，将他下了大理寺狱。又传旨说，宿卫兵士勤劳，暂时放散，就着郭衍带领东官兵士，把守各处宫门，不让外边人出入，也不让宫中人去泄漏宫省事务。还再得一个人往长安，害却旧太子，绝了人望。”想一想道：“有了，我兄弟杨约，他自伊州来朝，于是差了他干这一功。”张衡又道：“我是个书生，担心不能了事，还是杨仆射，老手旧臂膊，”太子道；“张庶子不必推辞，富贵同享。我还着几个有胆力内侍随你。 ”杨素自伴着太子在太宝殿，剩下的分头做事。
先是一个宇文述，带了几个旗校，赶到写诏处，把元侍郎、柳尚书拿住。两人要面圣辩别，宇文述道：“奉旨只叫赴大理寺听问，还没有叫见驾。”绑缚了，着几个心腹，把赴大理寺去。回来复命的时候，郭衍已将卫士处处更换，都是东宫旗校。这个时候文皇半睡不睡的，问：“柳述曾写诏完了么？”陈夫人道：“还未见进呈。”、文皇道：“诏完即便用宝。着柳述马上飞递去。”还是很生气的。只见外边报：“太子差庶子张衡侍疾。”也不候旨，带了二十余内监，闯入殿来。先吩咐入直的内侍道：“东宫爷有旨，道你们连日服侍辛苦，着我带这些内监更替你等。”连榻前这干宫女，都道：“皇爷前日有带来内监供应，你们也暂去休息，要用来宣你。”苦是这些穿宫宫妾，由于在宫中承值久了，也巴不得偷闲，听得一声吩咐，一哄的出去。还有蔡夫人、陈夫人两个紧紧站在榻前。他走到榻前，看见文皇昏昏沉沉的，他头也不叩一个，也无一些好气，对着两个夫人道：“二位夫人，也暂避一避儿。”陈夫人道：“怕圣上随时宣唤。”张衡道；“有我在此。”这两位夫人，是女流，没些主张，不得不暂离宫中，向阁子寞坐地。宫门首，全是带来内侍看守定了，不放人入宫。两个夫人放心不下，不得不差宫娥在门外打探。一个时辰后，那张衡洋洋地走将出来道：“这干呆妮子，皇上已是宾天了，适才还是这等围绕着，不报太子知道！”又吩咐：“各阁子内嫔妃，不得哭泣，待启过太子来举哀发丧。”这些宫嫔妃主都猜疑道“虽然圣上病重，但淹淹的未必就死，怎一会就会驾崩？敢是一时卒然气痰升上？怎会恰好，值这官儿来侍，痰便会死？莫不是张官儿哄咱们，好让咱们不要哭。”
由此看来，隋文帝是被张衡谋害的，而不是气死。到底是怎样死的，没有一个明确的记载。《隋史遗文》不敢武断，作了这样的评述：“胡猜乱猜，也没个敢出口道是太子气死、张衡谋死。”
隋文帝是在大宝殿逝世的。死之前隋文帝命太子杨广赦免章仇太翼，悲叹道：“章仇太翼，不是一般人，前后言事，未尝不中，吾来仁青宫时，道当不返，今果如此。”而且又给太子留下了遗诏：
“嗟乎！自昔晋室播迁，天下丧乱，四海不一，以至周、齐战争相寻，年将三百。因此割疆土者非一所，称帝王者并不是一人，书轨不同，生人涂炭。上天降鉴，爰命于朕，用登大位，岂关人力因此得拨乱反正，偃武修文，天下大同，声教远被，这又是天意欲宁区夏。因此昧旦临朝，不敢逸豫，一日万机，留心亲览，晦明寒暑，不惮劬劳，匪日朕躬，盖为百姓故也。王公卿士，每日阙庭，刺史以下，三时朝集，同样罄竭心府、诫敕殷勤，义乃君臣，情兼父子。庶藉百僚智力，万国欢心，欲令率土之心，永得安乐，不谓遘疾弥留，至于大渐。此乃人生常夯濯何足言及！但四海百姓，衣食不丰，教化政刑，犹未尽善，兴胡念此，只以留恨，朕今年逾六十，不复称天，但是筋力精神，一圈劳竭。这样的事，本非为身，上欲安养百姓，所以致此。人生子孙，谁不爱念，既为天下，事须割情。勇及秀等，并怀悖恶，既知无臣子之心，因此废黜。古人有言：‘知臣莫若镥君，知子莫若于父。’如果令勇、秀得志，共治家国，必当戮辱偏疆公卿，酷毒流于人庶。今恶子孙已为百姓黜屏，好子孙足堪姆荷大业。此虽朕家事，理不容隐，前对文武侍卫，都已经论述。皇太子广，地居上嗣，仁孝著闻，以其行业，堪成朕志。因此令爆外群官，同心戮力，以此共治天下，朕虽瞑目，何所复恨。但是国家大事，不可限以常礼。既葬公除，行之自昔，今宜遵用，不劳改定。凶礼所须，才令周事。务从节俭，不得劳人濯诸州总管、刺史已下，宜各率其职，不须奔赴。自占哲王，因入一作法，前帝后帝，沿革随时。律令格式，或者有不便于事者，宜月前敕修改，务当政要。呜呼，敬之哉！无坠朕命！”太子杨广掌握了隋文帝生前的遗书最重要。在遗镧里有对太子杨广的高度评价：“皇太子广，地居上嗣，仁孝著闻，涠其行业，堪成朕志。”也有对杨秀、杨勇等的否定性结论：“勇及秀等，并怀悖恶，既知无臣子之心，因此废黜……若令勇、秀碣志，共治家国，必须戮辱遍于公卿，酷毒流于人庶。”有这样一份耀言，太子杨广就可平稳地登上皇帝宝座了。
杨广还是一个细心人，他没有急忙地宣布隋文帝去世的消息，而是来个“秘不发丧”。为何要这样呢？主要是京城设嘲还没有布置好。隋文帝死的时候，正巧伊州刺史杨约前往仁寿宫去传圣旨，命前太子杨勇自杀，在杨勇拒绝服毒的时候，杨约把他吊死，后命军队进人备战状态，“陈兵集众，发高祖凶问”，于是集合留守官员，宣布隋文帝逝世的消息。
同时宣布太子杨广即皇帝位。隋炀帝知道杨约的果断行动后，兴奋地对杨素说：“令兄之弟，果堪大任。”认为杨约可负重任，隋炀帝即位没几天就拜他为内史令。追封杨勇当房陵王，但是继承爵位。
仁寿四年（公元 604年）八月初三日，隋文帝灵柩从仁寿宫运到京都长安。八月十二日，在大兴前殿为隋文帝出殡。元岩、柳述被开除官籍。放逐柳述到龙川，放逐元岩到南海。隋炀帝对柳述这门亲事本来就不同意的，原先是主张配给妃弟萧埸，隋文帝当初也允许了。后来违背了杨广的意愿，因此杨广十分不高兴。这次隋炀帝命兰陵公主坚决跟柳述离婚，打算要她改嫁，兰陵公主誓死拒绝，不再朝见，上书要求跟柳述一起放逐，隋炀帝大怒道：天下岂无男子，想同述同徙耶？”兰陵公主申辩说：“先帝以妾适于柳家，今其有罪，妾当从坐，不愿陛下屈法申恩。”隋炀帝反对，兰陵公主忧愁悲愤而死。临死前，兰陵公主曾经有遗书：“昔共姜自誓，著美前诗，郎妫不言，传芳往诰，妾虽负罪，窃慕古人。生既不得从夫，死乞葬于柳氏。”隋炀帝看了遗书十分生气，竞不前去悼丧，而且送的葬礼葬物十分简单菲薄，朝廷上下的人知道后都很伤心。
从征战突厥，到平定南陈，到废杨勇而立己为太子，都是为了取得皇位继承权。其问矛盾重重，斗争扑朔迷离，杨广凭借大智大慧，假父皇之力，纠集群党，终于取得了皇位，成了著名的隋二世。
正当长安城内和仁寿宫为办隋文帝丧事及隋炀帝登基忙碌时，并州总管、炀帝的幼弟汉王杨谅迅即发动了叛乱，这是隋宫帝位最后一次争夺。
汉王杨谅是一个年轻英俊的将军，父母在世时曾经受到特别的宠爱。他二十来岁继二哥杨广、三哥杨俊之后，住在天下精兵之处的并州，肩负抵御北方突厥的重任，隋文帝许以他可不拘律令，便宜从事。文帝还为这位幼子“盛选僚佐，前后司马、长史，皆一时名士”。例如“公正著称”的安定皇甫诞为并州总管府司马，“总府政议参军，有名学者吴郡张冲为汉王侍读，河间尹式任汉王记室。隋文帝还礼聘关陇勋贵豆卢勐的女儿为汉王妃，做贤内助。汉王杨谅府上可以说是人才济济，兵强马壮。
杨谅曾经两次充任统帅率领大军出塞作战，但是都只是名义上的统帅，实际统帅、高颎，杨谅只是见习作战。所以开皇十八年（ 598）征高丽失败责不在他，开皇十九年（ 599）三月讨突厥，史书称他“竟不临戎”，导致突利大败，其实责任也不在杨谅。此后，宰相高颎、杨素都披甲上阵，大破突厥都兰、达头十余万众，汉王杨谅又是名义统帅，大胜也不能归功于他。
开皇二十年（ 600）杨广阴谋夺嫡成功，尤其是蜀王杨秀被废论罪，使杨谅恐惧不安。于是借口防备突厥，在管内“大发工役，缮治器械，贮纳于并州”。又“招纳亡命，左右私人，殆将万人”。隋文帝时认为杨谅太小，或许认可幼子在外藩拥兵以牵制杨广，总之，他在世时没有采取任何措施制止杨谅的谋叛。
杨谅“潜有异志”也早已经为其部下觉察，其中有萧摩诃、王颊最得杨谅信任，也最为杨谅卖力，这一文一武两个得力助手都是南方人。
王府咨议参军王颊，字景文，他父王僧辩在南朝平定侯景之乱后，被陈朝创立者陈霸先谋杀。王颊和诸兄留在江陵，被杨忠率领的西魏军掳往关中。入关后王颊任侠放荡，二十岁以后发愤读书，“勤学累载”，遍读五经，大为儒者所称。二十二岁时被周武帝引为露门学士，但人隋后却受到关陇勋贵排挤，官位低卑，所以心怀不满。他又熟读兵书，“常以将相自许”，有纵横天下之志，经常自叹出生的不是时候。开皇五年（ 585）授著作佐郎，不久迁国子讲授、博士。兄长王颁灭陈时为报父仇掘陈霸先墓，鞭尸扬灰，后居官齐州刺史。王颊因才学雄辩也曾被文帝看重，但是后却“坐事解职”，配防岭南，数年后才回到北方，授杨谅汉王府咨议参军，官位虽低，但是因他“倜傥有奇略”，受到汉王的尊重和礼遇。王颊也倾心于汉王，“阴劝谅缮治兵甲”。平陈之役被俘的陈朝大将萧摩诃，人隋后仅授勋官开府仪同三司，但没有实职，亦十分不得志，“郁郁思乱”，年七十岁时得随汉王杨谅到并州，杨谅正“阴有异图”，收纳人士，于是对萧摩诃很“亲善”，士为知己者死，老将萧摩诃遂成为汉王杨谅麾下大将，与颊一道“赞成”汉王叛乱。
杨谅在太原，很注意着京师的政治动向，由于得不到京师消息，因此天天观察天象。隋文帝驾崩杨谅一点也不知晓，那天，杨谅观察天文，见“荧惑守东井”，也就是正好火星处在井宿的位置，汉王府仪曹傅奕通晓天文星历，杨谅忙问他“是何征兆？”傅奕知汉王有异图，称天象正常。傅奕为自免于祸，不敢胡乱推测，杨谅生气了，内心焦虑万分。
再说隋炀帝登上帝位，自然也不会忘记坐镇并州企图夺位的最后一位对手幼弟杨谅。时隋文帝灵柩及炀帝百官尚留仁寿宫守。而且，派遣车骑将军屈突通以文帝的玺书征召杨谅人朝，想调虎离山，将杨谅骗到京师加以软禁。但是炀帝万万没有想到，父皇先前为预防变故，曾经与杨谅订有“密约”，曰：“若玺书召汝，于敕字之傍别加一点，又和玉麟符合者，当就征”。所说的符，乃兵符，通常做成鱼、兽之形，分成右、左两半，一半在将军，一半在皇帝，皇帝调兵时派遣使者将自己手中的半块兵符交与在外镇守的将军，两半相合将军才受命，以防假造圣旨发兵叛乱。据史书，开皇七年（ 587）四月，隋文帝“颁青龙符于东方总管、刺史，西方以驺虞，南方以朱雀，北方以玄武”。这一制度直到唐朝还用。隋因并、扬、益三总管均由宗王出镇，统属地域极广，因此有专门的玉麟符。杨广称帝后当然很轻易地就能拿到半边玉麟符，但是他不知道文帝生前与杨谅之间的密约。汉王杨谅见到假造的文帝诏书，见傍边无点，马上察觉有变，因此质问屈突通，屈突通辞气不挠，汉王只好将他放回。
杨谅通过假诏书知道了仁寿宫发生变故，他不愿坐以待毙，因此按早已预谋好的计划，决定叛乱。从当时东西兄弟二人的形势来看，杨谅总管山东旧齐境内五十二州军事，所居乃天下精兵处，拥有重兵，假如处置得当，充分调动所部将士，鼓行而西，是有可能马上拿下京师长安，以武力夺得帝位的。但是胜败的关键，在于杨谅能否驾驭自己的部下。起兵伊始，军师王颊就为杨谅谋划：“王所部将吏家属，尽在关西，若用此等，则可以长驱深入，直据京都，所谓疾雷不及掩耳。如果欲割据旧齐之地，宜任东人”。王颊的两个方案杨谅不能定夺，在用人方面，他不重用关陇勋贵，也不重用山东人士，反而重用萧摩诃、王颊等南方失意士人，这不能不说是汉王的一大失策。最终，汉王部下大批关陇勋贵将士对杨谅不是阳奉阴违，就是据城叛变，连他的妻兄豆卢毓也在关键时刻出卖他，充当官军内应。豆卢毓时任汉王府主簿，杨谅依王颊谋将发兵作乱，豆卢毓“苦谏”不听从，乃与弟弟豆卢懿暗中计议：“吾匹马归朝，自得免祸，此乃身计，不是为国也，今且伪从，以思后计”。
汉王总管司马关陇勋贵皇甫诞更流着眼泪出来谏止：“窃料大王兵资，无敌京师者。加以君臣位定，逆顺势殊，士马虽然很精，但取胜也不易，愿王奉诏入朝，守臣子之节，必有松、乔之寿，累代之荣。如果更迁延，陷身叛逆，一挂刑书，为布衣黔首不可得也，愿察区区之心，思万全之计，敢以死请”。说得非常诚恳，但是杨谅哪里听得进去，拍案发怒，将皇甫诞逮捕囚禁。就实际情况来看，皇甫诞的分析不无道理，汉王从兵资和名位上讲的确处于劣势，但是，劣势可以转化为优势，兵不厌诈，当时文帝新死，炀帝新立，且仁寿宫变，杨广弑逆，“中外颇有异论”，杨广的帝位也不稳固，如果杨谅也矫诏高举义旗，“声元凶之罪而举兵，天下其谁能敌之”。时并州流行一首童谣：“一张纸，两张纸，客量小儿作天子”。杨谅所署官皆发告身一纸，别授则发二纸，因此有此谣。杨谅闻知，内心窃喜，说：“我幼字阿客，量与谅同音，吾于皇家又最小，应谶语当为天子”。杨谅认为自己庆谶得天命，也就不考虑许多，一味起兵要夺皇帝位了。杨谅不采纳王颊的建议，又不仔细考虑皇甫诞的劝谏，持其强兵杨谅没有去作广泛的政治军事动员，暴扬杨广之罪，却唱言“杨素反，将诛之”，以谣言惑众造反。所以还没有起兵，就已经使自己处于被动，汉王所辖五十二州，从他反者只十九州，仅及其三分之一。同时，既诈众造反，则事不宜迟，应趁部众尚未明白之前迅速解决问题。王府兵曹河东闻喜人裴文安建策分兵略地，杨谅大悦，马上作出四面出击的部署，派遣二路军队南渡黄河略地河南：一路由所署大将军余公理指挥，出太谷，直取河阳（今河南孟县）；另一路由大将军綦良指挥出滏口，直到黎阳（今河南浚县）。又汦大将军刘建率军东出井陉，略取燕赵之地，派柱国乔全幞出兵雁门（今山西代县境内），进攻官军李景部。并且任命裴文安为柱国，与柱国纥单贵、王聃等率军西向直指京师，兄弟皇位争夺的战幕就此拉开。
隋炀帝任命右武卫将军丘和为蒲州刺史，镇浦津（今山西永济县西南）。杨谅挑选精锐骑兵几百人，戴妇人蔽身用的面罩，假装是杨谅的宫人返回长安，守城的门卫没有觉察，叛军直人蒲州，丘和逾城逃回长安。裴文安等率西征大军欲抢占浦津关西渡黄河，但是杨谅却突然改变主意，命纥单贵拆断河桥，据守蒲州，将裴文安召回。杨谅裹足不前，一是京师军情不明，二是后方不稳，所以不敢贸然咄击，为求稳还是先巩固后方。因此作据守之策，任命了数州刺史，等待杨广派兵来攻，这就使杨谅变主动为被动，处于任人宰割的境地。
杨谅不图进取，不敢进兵关中，为保据河东，占有旧齐之境，又发兵北攻抵抗他的代州总管李景。关陇勋贵李景“臂力过人，骁勇善射”，是一员猛将。杨谅先后派刘嵩、乔钟葵率劲勇三万来攻，李南线杨谅采取守势，隋炀帝派杨素率轻骑五千来袭蒲州（今山西永济县西南），杨素乘夜来到河边，士马衔枚渡河，拂晓时发动突然袭击，叛军守将没有准备，王聃以城降，纥单贵逃走。隋炀帝于是任命杨素为河北安抚大使、并州道行军总管，率步骑四万直取太原，讨伐杨谅。
杨谅派出略地的军队也都出师不顺利，綦良率军进攻慈州（今河北磁县），遭刺史上官政的顽强抵抗，没有攻克，乃率兵向南转攻行相州事’薛胄（相州治今河南安阳），又没有攻下。于是从滏口进攻黎州（今河南浚县），堵塞白马津（今河南滑县黄河南岸）黄河渡口。余公理率军自太行山到河内（今河南沁阳），屯兵河阳（今河南孟县西），而且没有进展。隋炀帝任命亲信右卫将军史祥为行军总管，驻军河阴（今河南孟津县）。两军隔河对峙。
先在黄河南岸史祥大陈渡船，摆出北渡架式，余公理见势即在北岸“聚甲以当之”。史祥随即暗中潜于下流渡过黄河。余公理自恃兵众，马上率军来拒战。史祥趁叛军尚未成列，命将士迅猛出击，在须水大破余公理军。得胜后史祥又移师东攻黎阳（今河南浚县），进讨綦良，綦良军没有战就失败，史祥乘势追击，杀万余人。因此杨谅南路两军很快被击灭。
在汉王杨谅所据的心脏地区太原城，也出了问题，隋炀帝让显州刺史豆卢贤秘密派人给其弟豆卢毓送诏书，让他充当内应于内起事，使杨谅的妻族豆卢氏坚定地站到了杨广一边，而杨谅却蒙在鼓里。竞南面军事吃紧，杨谅要去介州（今山西介休），于是命令妃兄豆卢毓和总管朱涛留守太原。杨谅走后豆卢毓即对朱涛策反，朱涛不听，被豆卢毓杀死。豆卢毓于是从监狱里把皇甫诞放出来，与一批关陇将领商议闭城拒杨谅。杨谅知情后马上率军回攻太原，时豆卢毓等尚未准备好，见杨谅率军到，于是哄骗士兵说贼军来了，城上箭如雨下，杨谅转攻西门，城上士兵认识杨谅，打开城门放杨谅进城，皇甫诞、豆卢毓等均被处死。但是，豆卢毓的行动打乱了杨谅的阵脚，导致太原城人心惶惶，军心不稳。
在东部，幽州刺史窦抗不知道京师情况，鼠揣两端，隋炀帝派勃海李子雄往幽州（今北京市），李子雄到任先将窦抗逮捕，接着发步骑三万，自井陉向西进攻杨谅。时杨谅部将刘建正将井陉守将京兆人张祥包围，希望出井陉东出略地赵、燕。李子雄于抱犊山击败刘建军，刘建逃走。这使杨四面受敌。炀帝又任命左领军将军长孙晟为相州刺史，征发山东兵与李子雄合势。长孙晟因儿子在杨谅处，推辞不敢当，炀帝推心置腹地安抚说：“公著勤诚，朕之所悉。今相州之地，本是齐都，人俗浇浮，易可骚扰，尚生变动，贼势即张，思所以镇之，非公莫可。公体国之深，终不可以儿害义，故用相委，公其勿辞”。长孙晟见炀帝对自己不见疑，于是高兴地接受了，任命。隋炀帝在此关键时刻，坚定地信用关陇勋贵，收到的成效很好。
北面代州总管李景被杨谅围困一个多月，隋炀帝命朔州刺史杨义臣率步骑两万往救。杨义臣也是关陇勋贵，本姓尉迟氏，他的父亲以尉迟迥作乱自请改姓，义臣幼养宫中，文帝赐姓杨氏。时叛将乔钟葵有兵数万，杨义臣见自己兵越来越少，就集中所有的驴、牛共几千头，命士兵数百各持旗一面，把牛驴隐藏于山谷间。黄昏后两军交战，义臣命士兵驱牛驴狂奔，一时尘埃满天，战鼓动地，叛军以为官军大出伏兵，惊恐溃逃，杨义臣纵兵进击，以少胜多，大败乔钟葵，于是解代州（治今山西代县）之围。李景与杨义臣合军，从北面在太原以南，晋、绛、石三州的州城均有杨谅的重兵防守，隋军统帅杨素只向每城各派兵两千去牵制，自率大军北进直攻太原。杨谅派部将赵子开率领十多人，用栅栏堵塞山径小路，在高壁山岭上屯兵据守，摆开一个长达五十里的阵势，纵深设防，以为万无一失。
杨素命令部下诸将列兵对阵，围而不攻，自己率一支骑兵冒险潜入霍邑（今山西霍县）东北的霍山，沿着悬崖山谷前进。官军在峪口扎营，杨素坐在营帐外，挑选三百人守营，军士们恐惧敌军强盛，不想出战，很多人争着要守营，导致军队行动迟缓。杨素马上把争着留下守营的三百军士召出军营，不问青红皂白全部斩首。当他再次下令挑选留守人员的时候，士兵们无一敢留。因此杨素率军驰马疾进，突然出现在叛军背后，直指敌酋赵子开的兵营，鸣鼓纵火。叛军对这突如其来的行动，没有办法，因此大乱，自相践踏，死伤数万人。杨谅所署介州刺史梁惰屯兵介休，听说杨素将至，就弃城逃跑，赵子开军于是溃散。
杨谅闻知赵子开十万大军被击溃，惊恐万分，乃亲率十万人马赶到蒿泽（今山西平遥西汾河干流上一大湖）抵御杨素，那时双方兵力对比杨谅仍处于绝对优势，正面决战胜负尚不可知，但是正赶上天降大雨，杨谅竟打算退兵。军师王颊劝道：“杨素悬军，士马疲弊，王以锐卒亲戎击之，其势必举。现在看见敌而还，示人以怯，阻战士之心，益西军之气，愿王必勿还也”。杨谅不听，竟率军大踏步后退，至清源（今山西清徐县，距太原西南约一百公里）据守。王颊见杨谅没有勇没有谋，知大势已去，对儿子说：“气候殊不佳，我军必败，汝可随从着我”。果然，杨素率军直接向杨谅进攻，又以少胜多，大败杨谅，并且于战阵中活捉萧摩诃，叛军死者一万八千余人。杨谅退守晋，其余党羽随即被全部平定。杨谅起兵，“月余而败”，几十万大军得不到正确指挥，最终一败涂地，这是隋朝建立以来一次最大的内战。
杨谅的失败完全因为他太轻率，毫无军事经验，缺乏谋略，“羊质兽心”，他实在不是其二哥的对手。隋文帝在世时所言：“彼（杨广）取尔（杨谅）如笼内鸡雏耳”。说得非常准，杨广取幼弟杨谅，真的就像老鹰抓小鸡一样轻而易举。
论兵力，杨谅的确很强大，他起事时的兵力估计在三十万 ——四十万，杨广出动的兵力总计不到十万。尽管杨广以皇帝之尊可以调动全国兵力，尤其是关陇强大的府兵，就像汉王府司马皇甫诞所说：“大王兵资非京师之敌”。但是杨广新立，短时间内要调动大批兵力仍很困难，杨谅则作了多年准备，能在很短时间集中大批军马，就局部而论杨谅兵力处于优势。但官军却处处以少胜多，用诡计出其不意，出奇兵取胜，这只能说明杨谅的庸劣无能。
但是，杨谅缺乏指挥经验，他的军师王颊却是旷世奇才，杨谅举兵反，“多颊之计”，王颊“数进奇策”，但是杨谅“不能用”，这就使杨谅的失败不可避免。在杨广已具皇帝身份，已处在代表国家正统的优势地位之下，杨谅起兵取胜的惟一希望是集中兵力突袭长安，此策王颊一开始就倡议了，可是杨谅中途变卦，无决心。继而想划河为界，割据旧齐之地，却又四面出击，自不量力，各方面都没有任何进展。官军统帅杨素则久经战阵，老谋深算，敢于孤军深入，直捣老巢，置敌于死地。在兵临城下众叛亲离的情势下，杨谅不得不投降。
王颊在杨谅兵败后，想投奔突厥，逃至深山，道路断绝，知道自己难以幸免后，乃对儿子叹息说：“我的计谋韬略，不亚于杨素，但是坐言不见从，所以至于此。我不能坐受擒执，以成全杨素这竖子之名”。说完悲痛地自杀了。后杨素得王颊尸，仍然残酷地枭首于太原。萧摩诃也被斩首，时年七十三岁。
杨谅叛乱，性质是分裂国家，争夺帝位，没有任何正义可言，他的失败不仅是杨广之幸，也是国家之幸，谁愿意刚统一的国家重又大分裂呢？隋炀帝得到捷报欣喜万分，马上派杨约奉“手诏”到太原慰劳功臣杨素。诏曰：
公乃先朝功臣，勋庸克茂。至如皇基草创，百物惟始，便匹马归朝，诚识兼至。汴都、郑州，风卷秋箨，塞北、荆南，若火燎原，早建殊勋，夙著诚节。及献替朝端，具瞻惟允，爰弼朕躬，以济时难。昔霍光、周勃，何以加也！贼乃窃据蒲州，关梁断绝，公以少击众，指期平殄。高壁据险，抗拒官军，公以深谋，出其不意，雾廓云除，冰消瓦解，长驱北迈，直趣巢窟。晋阳之南，蚁徒数万，谅不量力，犹欲举斧。公以棱威外讨，发愤于内，忘身殉义，亲当矢石，兵刃暂交，鱼溃乌散，僵尸蔽野，积甲若山。谅遂守穷城，以拒铁钺。公董率骁勇，四面攻围，让他欲战不敢，求走无路，智力俱尽，而缚军门。斩将搴旗，伐叛柔服，元恶既除，东夏清晏，嘉庸茂绩，因此乎在。昔武安平赵，淮阴定齐，岂若公远而不劳，速而克捷者也。朕殷忧谅暗，不得亲御六军，不能问道于上庠，遂使劬劳于行阵。言念于此，无忘寝食。公是建累世之元勋，执一心之确志。古有人言曰：“疾风知劲草，乱世有诚臣。”公得之矣。乃铭之常鼎，岂止书勋竹帛哉！功绩克谐，哽叹无已。稍冷，公如宜。
这是有史可考隋炀帝即皇帝位后，自出其手笔的第一道诏文，也是一篇气势磅礴的优秀散文。杨广文采的确不俗，称帝后更是大放异彩，出手淋漓，一气呵成，无法再见到半点压抑之感。杨广把自己描述为正人君子，幼弟杨谅乃人面兽心，自己是皇帝万民之主，代表国家代表正义，杨谅是乱臣贼子叛逆奸回，平叛行动是大义灭亲，诏文数落了杨谅的罪行，称颂了杨素平叛的功绩，把杨素比着霍光、周勃，其功可书之竹帛，流芳千古。这时的杨广，对杨素的感激真是到了顶点，没有杨素，就没有自己的皇位，因此炀帝引古人言：“疾风知劲草，世乱有诚臣”，的确杨素是杨广帝业的第一功臣。
杨素得到隋炀帝褒美自己的手诏，立即惶恐上表陈谢，表示要“百殒微躯”报君之恩。回到京师之后，炀帝赐给杨素物五万段，和杨谅的妓妾二十人，并拜其子为仪同三司。
杨广又亲自写诗赐在南线接连击败杨谅叛军的将军史祥，诗云：
伯煲朝寄重，夏侯亲遇深。
贵耳唯闻古，贼目讵知今！
早标劲草质，久有背淮心。
扫逆黎山外，振旅河之阴。
功已书王府，留情太仆箴。
诗文与赐杨素的“手诏”有异曲同工之妙，赞美史祥的英才大略，尽管用典故，但是主旨仍然是疾风知“劲草”，这与前不久任皇太子居闲时写给史祥的信，判若两人。皇上亲笔手诏题御诗，对于将相大臣来讲，已经是最大的恩典了。
对于亡身徇国的豆卢毓、皇甫诞，隋炀帝也下诏“褒显名节”，赠官爵封其子孙。其余有功将士杨义臣、李子雄、王仁恭、李景、元寿、崔仲方、崔彭、陶模、麦铁杖、赵元淑等，也都得到不同程度的受封。
平定汉王杨谅的叛乱，标志着隋最高层权力过渡已完成。时群臣奏议应将杨谅处死。著作郎王邵为求媚于炀帝，因此上书，请改杨谅姓氏。但已是绝对胜利者的杨广这时可以随意发慈悲，他说：“朕终鲜兄弟，情不忍言，欲屈法恕杨谅一死”，因此除名为民，绝其属籍，不承认幼弟是皇室成员。
隋炀帝对随从汉王叛乱的部下的处罚一点不手软，官吏臣民受牵连获罪被处死和流放的竟有二十余万家。而且连叛乱时态度不明朗的原刑部尚书检校相州事薛胄也被“锁诣大理”，“除名配防岭南。平叛失利战败的将军丘和以及上官政也受到除名流放岭南的处分，因蜀王杨秀事除名在家的原右卫大将军元胄对丘和说了一句“上官政，壮十也”，被丘和告发，竟然获罪处死，而丘和由于告发有功则免罪补代州刺史，上官政亦得征为骁卫将军。
仁寿四年（ 604）十月已卯（十六日），隋炀帝将父皇安葬在太陵，立庙号称隋高祖，谥号日文皇帝，与文献皇后独孤氏同坟而异穴。此时，能向父母致祭尽孝的也只有“好子孙”杨广一系了。
杨广以隋文帝次子，十多年经营终于登临大位。他废胞兄杨勇皇太子位，除四弟杨秀蜀王爵，在关键时刻发狠断然弑父，抢班夺位，接着扑灭幼弟杨谅的反叛。杨广在兄弟五人当中最狠最毒，也最有才能，他的皇位全部是靠自己经营夺得。按皇位继承法，杨广不是嫡长，本不可以继承皇位，现在他终于夺得了，成功了，可以说他尽了最大的努力，冒了最大的风险，耍尽了阴谋，也费尽了心机。他弑父屠兄幽弟，其行为可谓猪狗不如。但他的成功证明他不是一个庸人，而是一个强者，一个心狠手毒的强者。如果不强，他也可能被自己的亲兄弟剁成肉酱。皇位的争夺残酷无情，不是你死，就是我亡。在以血缘维系的世袭制君主专制制度下，和平地接班难以保证，在没有民主选举机制的封建时代，兄弟相争阴谋夺位虽然是残酷无情，但经过一番争斗，相对有能力者争得了帝位，例如隋炀帝和唐太宗。夺位者虽不能说是有积德，但有才能是真的。皇帝有才比无才好，若有才又有德，那就更好了。一个新皇帝即位，整个天下将会有一番大的变化，后代之人将会从德和功两个方面对其作为进行评价。
营建东都是件大事，隋炀帝不敢妄自定夺，他特意把营建东都的打算和计划提交大臣们讨论，“群司百辟，佥谐厥议”，百官诸侯，部赞同营建洛京的主张。隋炀帝又是一个善于掩饰自己的人。他在营建东都的诏令中，一再强调“务从节俭”，诏令说：“夫宫室之制本以便生，上栋下宇，足避风露，高台广厦，岂日适形。”故传云：“俭，德之共；侈，恶之大。”宣尼有云：“与其不逊包，宁俭。岂谓瑶台琼室方为宫殿者乎，土阶采椽而非帝王者乎？是知不是天下以奉一人，乃一人以主天下也。民惟国本，本固邦宁，百姓足，孰与不足！今所营构。务从节俭，无令雕墙峻宇复起于当今，想让卑宫菲食将贻于后世。有司明为条格，称朕意焉。”讲得很好听！宫室的构造本来是为了方便生活，上有房梁，下有屋檐，就能遮蔽风霜雨露了，不要以为修建高台大厦，才是居室最合适的式样。隋炀帝在诏令中还引经据典，论证营建时务必节俭。
《左传》说：“节俭是大德，奢侈是大恶。”孔子曾经说：“与其奢侈而不恭敬，毋宁节俭。”难道只有用美玉修筑的华丽楼台才是宫殿，而居住用土阶木椽建造的简朴房屋就不是帝王了吗？所以不是用全国的财物来供养皇帝一人，而是皇帝一人要主管国家大事啊。国家的根本是民众，根本牢固了，国家才可以安宁，百姓富足了，人民就富足了！
在他的诏令中还说，现在营建东京，一定采取节俭的方针，不要让修建高墙华屋的风气在此之后又重新兴起，而要使吃粗茶淡饭，住低矮宫室的朴素风气留传给后代。主管官吏要把此节俭方针明确定为法规，符合朕的心意了。
无论后来的事实怎样，至少这一诏令反映了隋炀帝营建东都的初衷。他不是简单地把这项工程看作是经济任务，而是看作是一项政治任务，这当然在言外了。东都营建时的事实不是这样的。洛阳城建在汉魏故城以西十八里的地方。这座都城，规模非常大。城南面对龙门，北依邙山，东逾洹河，西至涧河，洛水穿流其间，都城分宫城，东城、皇城、圆壁城、曜仪城、含嘉城和外廓城等。
宫城，也称作禁城，与长安不一样，它不是位居全城中央，而是位于廓城之西北隅，皇城之北，这是皇帝寝宫和议事殿阁所在。“宫城东西五里二百步，南北七里”（杜宝《大业杂记》卷 60）。经考古勘查得知，宫城东西壁各长约 1270米，北壁长约 1400米，南壁南向凸出部分，长约 1710米。城墙内外包砖，中间夯筑，夯土墙厚度一般在 15至 16米。整个方位、布局验证了文献记载是可信的。宫城四面有六座城门。南面三门，正南门曰应天门，最为壮丽、宏伟，门有两重观，观上曰紫微，观左右连阙，阙高 7米左右。富城内殿堂林立，计有乾阳殿、文城殿、大业殿、修文殿、元清殿、观象殿、仪鸾殿、含凉殿、观文殿。对于隋炀帝营建的巍巍壮观的宫殿习筑，时人杜宝的《大业杂记》，用文字绘制成一幅蓝图，让人有亲临其境之感。例如华丽的乾阳殿，此殿是皇帝举行大典和接待重要外国使团的地方。“殿基高九尺，从地至鸱尾（房脊两端嘲兽）高一百七十尺，十三间二十九架，三陛轩，文棍镂槛，栾栌百重粢拱千构，云楣绣柱，穷轩甍之壮丽，其柱大二十四围，倚井垂莲，仰望眩曜。南轩垂以珠丝网络，下至地七尺，以防飞鸟。四面周以轩廓，坐宿卫兵。 ”“殿庭东南西南各有重楼，一悬鼓，一悬钟，刻漏即在楼下，随刻漏则鸣钟鼓。 ”大业殿“规模小于乾阳殿，而雕绮过之”，而武安殿、文成殿“周以轩廊”。以上四殿是宫中最宏丽的建筑，为皇帝召见朝臣，商议军务以及其他大事的场所，在宫城内，遍植海棠、枇杷、梧桐、石榴以及各种名药奇卉皇城，位于廓城的西北隅，围绕在宫城的东、西、南三面。这种布局便于防御。城内有很多院落和殿堂，皇帝的儿孙及公主的府第，百官的府署都设在这里，是文武百司的办公地点。皇城有六座城门，“南面三门，正南日端门”。南临洛河，在周公庙与今洛阳日报社之间，到现在还残存不少城门基石，据考古调查，西墙保存很好，长约一千六百七十米。
东城，在皇城之东，宫城之东北隅，东西宽约三百米，南北长约一千米，东城之北为含嘉门，门北即含嘉城。
廓城，也称罗城，是百官的府第和百姓的住宅所在。根据考古调查，廓城东壁长六千七百七十六米、南壁长七千二百九十米、北壁长六千三百一十八米，西壁纡曲长六千七百七十六米，周长共二万七千五百一十六米，合 55.032里。城的四面共有十个城门，有的残存夯土缺口，有的留有基石。城南三门，中间是建国门，门址宽二十八米，是由三个门道组成，当中门遭宽八米，东西两门道各宽 7米，门顶为大条石平砌而成。都城的主干道是天津大街，又叫定鼎门大街，考古工作者测得其宽度为一百四十一米，它向南跨天津桥，北起皇城的端门，直达外城的正门 ——定鼎门。其它的街道宽度是：“上东、建春二横街七十五步，永通、厚载、安喜门、微安及左掖门等街各广六十二步，余小街各广三十一步。 ”外廓城的总体布局呈方形，宫城和皇城位于它的洛河南岸和西北隅，东北隅为里坊。当时称每个居住区叫“坊”，还因每个坊的东西和南北的长度各为三百步（合一华里），因此又称“里坊”。根据文献记载和考古勘察证明，那时东都洛阳城有一百零三个里坊，三个商业市场。在洛河南岸有二市：东为丰都市，西为大同市，洛河北河东岸为通远市。三市都傍可以行船的漕渠，交通十分便利。就丰都市而言，周围六华里，四面共有十二个门可供出入。市内有一百二十行，三千多个肆，四百多家客栈，货物十分丰盛，堆积如山。市场内的建筑也非常整齐，重楼延阁，互相掩映，道路两旁遍植榆柳，交错成荫，各地商旅，云集洛阳，为一代盛况。
在上春门外，建筑了诸郡邸百余所：此处是接待郡长官来洛阳朝见天子的住所。由于对外贸易和外关系对的需要，在建国门外还设置了四方馆，好接待外国使者。整个布局好像井然有序的棋盘。杜牧的“天津东穿白玉京，日华浮动翠先生”诗句，形象地勾画了它的轮廓。
在营建东都的那年三月，又命宇文恺和内史舍人封德彝，于洛阳城西营建显仁宫。这个宫殿规模极其庞大，根据历史记载，南接皂涧，北跨洛滨，周围十余里，崇峰曲涧，秀丽标奇，林亭幽美，此处为最。五月，在都城西又筑西苑，周围二百里，苑内有人工海，周围十余里，人工海中造蓬莱、瀛洲、方丈三神山，各相距三百步，高出水面舀余尺，亭台楼阁在山上星棋罗布，掩映生姿，有如神变。海北有龙鳞溪，迂回曲折，流注人工海内。沿龙鳞溪两旁，兴筑起明彩、延光、承华、合香、丽景、凝晖、流芳、飞英、结绮、耀仪、万善、百福、长春，清暑、永乐、明德十六院，宫门正对溪水，每院置一四品夫人主之。苑中树木，水上荷芰，秋冬花叶雕落，就剪锦彩为花叶，避免锦彩褪色，随时要调换新花，保持春夏秋冬皆有供玩赏的景物。小池塘中也用彩缎剪成荷叶菱角，隋炀帝当年前去观赏的时候，就把枝头结冰击碎，而把人工制品扎在上面。十六院互相竞争，看谁的酒菜最为精美，用来博取隋炀帝的喜爱。隋炀帝喜欢在深夜月色之下，带浔领数千名美女，骑马游逛西苑，谱出《清夜游曲》，在马上演奏，弦歌通宵达旦。
营造东都洛阳是隋炀帝开创统治新局面而采取的战略性步骤。隋炀帝的眼光注视着东方的中原大地，不只是局限于一座城市，作为第一首都，洛阳新城具有巨大的经济、政治、文化、军事等方面的功能，而且进行的大运河开凿工程及随之而来的置仓储粮、修筑西苑离宫等，都可以看成是东都洛阳的配套工程。隋炀帝随之以洛阳为中心四出巡游，由此可见，东都的政治地位事实上超过了西京长安。
为了改善长安与洛阳之间函谷、崤山之间的陆上交通，隋炀帝又下令“废三崤旧道，令开蔓栅道。 ”大业三年（ 607）北巡时，隋炀帝曾经令“开直道九十里”，从太行通沁阳，以改善洛阳与太原之间的交通。再加上以洛阳为中心开凿的南北大运河，让东都洛阳的水陆交通四通八达，成为全国的交通枢纽，是真正的“天下之中”。在洛阳新城中则修有漕渠，“引谷、洛水，自苑西人，而东注于洛”，接通大运河。城内河渠上又建有通济桥、天津桥、利涉桥等，天津桥是一座浮桥，“以架洛水，用大船维舟，皆以铁锁钩连之”，这使东都城内外水陆交通非常便捷。
洛阳新城西皇家禁苑——西苑，又称会通苑或显仁宫，和新城同时破土修筑，其规模大大超过了长安大兴城北的皇家禁苑大兴苑。根据《隋书·食货志》记称：“又于卑涧营显仁宫，苑囿连接，北至新安，南及飞山，西至渑池，周围数百里，课天下诸州，各贡草木花果，奇禽异兽于其中”。显仁宫就是西苑，《隋书·炀帝纪上》大业元年（ 605）三月记“又于卑涧营显仁宫”，并没有记西苑事，《资治通鉴》中载：“筑西苑，周二百里，它里面为海，周十余里，为方丈、蓬莱、瀛洲诸山，高山水百余尺，台观殿阁，罗络山上，向背如神，北有龙鳞渠，萦纡注海内。缘渠作十六院，门都临渠，每院以四品夫人主之，堂殿楼观，十分华丽。宫树秋冬凋落，则剪彩为华叶，缀于枝条，色渝则易以新者，常如阳春。沼内亦剪彩为荷芰菱茨，乘舆游幸，则去冰而布之”。《通鉴》所据，乃《大业杂记》等小说，好像三月筑显仁宫之外，又于五月修西苑，实际上西苑与显仁宫是一样的。禁苑是皇家游逸射猎之地，西苑乃为一处承袭汉代皇家苑囿传统的大型园林，供皇室享乐，此亦为帝国首都必要的重要工程。
为使隋炀帝满意，建筑者从大江以南、五岭以北，征集嘉木异草，奇材异石，珍禽奇兽，运送到洛阳，“以实园苑”。隋炀帝起初“务从节俭”、“无令雕墙、峻宇复起于当今”的诏令早已经抛到了九霄云外。隋炀帝的宫殿禁苑，算是最奢侈的宫苑，“二百里海山开胜景，十六院嫔御斗豪华。”有首词《满江红》曰：“涂膏砌血，打叠就一人欢悦。苑囿池台，似天角，隐隐云霞层列。水满铜沟，山开玉谳，琪树寒烟结。景色天然，直是域中奇绝。可堪世换时移，不堪回首处，看残艳竭。萧鼓声希，只换得鸟声蛩语凄咽。春风罗绮，转眼向谁寻觅也？野花黄蝶，世事如伊，笑杀前人拙。”上述，西苑建筑得的确华贵壮丽，但隋炀帝实际上并无心思在此游玩享受，由于他大部分时间都在外巡游，十六院只能是一座空院。
除了营建东都洛阳，隋炀帝还在全国许多地方修建离宫别所，在数年内建立起以洛阳为中心的宫殿群，以供自己巡游驾幸。根据《隋书·地理志》，隋时全国各郡有宫室约二十六所，《资治通鉴》中载长安至江都置离宫四十多处。这些离宫亦可看作是营建东都的配套工程。当然，全部宫室并不都是隋炀帝新建，如中山宫、晋阳宫，北齐时就有，汾阳宫也建于北齐，大业四年（ 608）隋炀帝下令扩建。长春宫、同州宫、蒲州宫乃北周所建。但隋炀帝对前朝行宫离院不仅全部修缮保留，还续有扩建。隋炀帝盛治宫室，大兴土木，滥用民力。他拥有这么多的离宫，而每座离宫都养了一大批宫女，这无疑反映了隋炀帝的荒淫。但隋炀帝又把离宫当成了自己的理政场所，由于隋炀帝无日不巡游，在外需要行宫便殿，隋炀帝当皇帝十四年，很多时间都不在长安或洛阳。
在营建洛阳新城的时候，隋炀帝为了保卫东都的安全，大兴工役修筑了一系列国防工程。仁寿四年（ 604）十一月乙未（初三），隋炀帝亲幸洛阳，丙申（初四），即诏“发丁男数十万掘堑，自龙门东接汲郡、长平，抵临清关，渡河，至襄城、浚仪，达于上洛，以置关防”。这是隋炀帝即位的又一项浩大的工程。
所说的堑，即阻断交通的长沟，这条沟从黄河东岸的龙门往东延绵数千里，横跨今河北、山西、山东数省，地域宽广。在洛阳以北两百里以外修筑一道长壕，横断于华北平原，并在沿线各地设置关防，即岗哨，以保卫东都。这项浩大的国防工事，其作用在于隔阻骑兵，目的在于防止河北一带的叛乱，也许鉴于汉王杨谅反叛，也可能用以对付北疆游牧族的铁骑。这种举动可以看作是营造东都的配套工程，并且先于东都营造。这一浩大工程役丁当不下五十万人。
但是长堑的作用有限，几年后隋炀帝又大兴工役修筑长城，用以防范塞外的突厥骑兵。
大业三年（ 607）四月隋炀帝下诏“巡省赵、魏”，这次巡幸在外有两年多的时间，巡幸在外的隋炀帝仍然没有忘记国家的安全问题，五月戊午（初十），“发河北十余郡丁男凿太行山，达于并州，以通驰道”。在太行山横截开出一条驰道，从河北达于并州太原府，也就是便于隋炀帝巡行车马的通过，同是利于战时调兵。就是说在掘长堑之后，隋炀帝下令修筑的第二项国防工程。根据《隋书·地理志》，黄河以北预此役者估计有恒山、信都、赵、博陵、武安、魏、汲、襄国、雁门、河间、武阳、清河、平原、离石等十几郡，当时各郡合计有一百九十余万户，若平均每两户抽一丁，此役共役丁在一百万人左右，费时大约在三个月。除此之外，在晋东南穿越太行山通洞内（今河南沁阳）的九十里直道，及长安与洛阳之间所开夏栅道，以及修大运河时在运河岸边筑御道，还有大业六年（ 610）所修西起榆林北突厥牙帐，东达于蓟（今北京市西南）的三千里御道，隋炀帝在修筑道路方面的工程量十分浩大。结合大运河工程，其目的是搞网状分布的交通线，在适应开凿运河的东南地区开运河，在不适合开河的西北地区则开驰道，四通八达畅通无阻，以适应国家统一后的形势。并且，这些工程都是一起进行，可以说是统一规划中的统一举措。
隋炀帝为了确保北部边疆不受游牧族铁骑的侵犯，在大业三年（ 607）七月和大业四年（ 608）七月，他又连续两次下诏大修长城。所以，他亲往塞北，达于燕赵，亲自督促，十分重视。如此看来，驰道、长堑与长城是一组配套相关的大型国防工程，长城是第一道防线，驰道用以快速调兵，长堑是第二道防线，拱卫东都，以保证中原的和平安宁。
大家都知道，万里长城是秦灭六国之后，秦始皇为了进一步有效地防御北方游牧民族的侵扰，他下令大规模修筑长城，把从前赵、秦、燕三国的长城连接起来，西起陇西郡的临洮（甘肃境内），东至辽东，筑起一条长达万里的城防，此后，万里长城便巍然屹立在祖国大地上了。
修长城是秦汉以来历代中原王朝必须的防御工作。隋朝建立后，为防御北方的游牧民族契丹、突厥、吐谷浑的掳掠，也多次修筑长城。隋修筑长城总共有七次，仅隋文帝时修筑了五次。
第一次在开皇元年（ 581）四月，隋文帝“发稽胡修筑长城，二旬而罢。”即是今山西北部。这年十二月，北齐贵族高宝宁勾结突厥，与沙钵略可汗合军攻陷隋临渝镇，隋文帝命周摇为营州总管六州五十镇诸军事，敕“缘边修堡鄣，峻长城以备之”，这是第二次。临渝即今山海关，所修筑乃河北东段原北齐长城。第三次是开皇五年（585），隋文帝令司农卿崔仲方“发丁三万于朔方灵武筑。长城”，东至绥州，西距河，“绵历七百里，以遏胡寇。”朔方在今陕西横山县，灵武在今天甘肃灵武县西南黄河东岸，绥州在今陕西绥德县，这是一道东至黄河边，西起宁夏川，横跨黄土高原的长城。第四次是开皇六年（ 586）二月，隋文帝命崔仲方“发丁男十一万修长城，二旬而罢”。《资治通鉴》记载“隋复令崔仲方发丁十五万于朔方以东，缘边险要筑数十城”。开皇七年（ 587）二月，隋文帝又“发丁男十万余修筑长城，二旬而罢”。这是第五次。
从开皇元年（ 581）到开皇七年（ 587），隋文帝五次修长城都集中在隋灭陈以前，其中穿越黄土高原的由灵武至绥德这段长城，一次征发了十几万人。此外，工程量都不是很大，一般都是一旬或二旬而罢。突厥降服后，隋文帝就再也没有下令修过长城。
隋炀帝修长城只两次。大业三年（ 607）七月，“发丁男百余万筑长城，话距榆林，东至紫河，一句而罢，死者十五六”。这道长城东至今山西境内的苍头河，西起今内蒙古托克托县黄河以南，源出今山西平鲁县，在今内蒙古凉城县西南，长两百多里，横跨隋定襄郡（治今内蒙古和林格尔北）。根据《隋书·地理志》：“定襄郡大利县有阴山，有紫河”。这是一道新筑的长城，目的是防御突厥。担任长城修筑总监的是阎毗，这次征发民役百余万，用十来天时间筑长城二百多里，可以说是兴师动众的急役。
第二次是大业四年（ 608）七月辛巳（初十），隋炀帝“发丁男二十余万筑长城，自榆谷而东。”但是具体方位却无法确定。
这两次隋炀帝下令修长城时，恰好缘边诸郡遭到大旱灾，他为构筑长久的国防体系竟不顾人民死活，征发百余万民夫忍着饥饿筑长城，最后造成“百姓失业，道瑾相望”，一片凄惨景象。虽然隋炀帝主观上胸怀壮志，干的是一番雄伟的大事业，客观上却逐渐走向了反面。
但是隋炀帝却没有感到自己有什么过错，他竟意气风发，亲至边塞，诗兴大发，马上写了一首古诗《饮马长城窟行》，副标题为“示从征群臣”。
萧萧秋风起，悠悠行万里。
万里何所行，横漠筑长城。
岂台小子智，先圣之所营。
树兹万世策，安此亿兆生。
讵敢惮焦思。高枕于上京。
北河秉武节，千里卷戎旌。
山川亘出没，原野穷超忽。
枞金止行阵，鸣鼓与士卒。
千乘马骑动，饮马长城窟。
秋昏塞外云，雾暗关山月。
缘严驿马上，乘空烽火发。
借口长城侯，单于入朝谒。
浊气静天山，晨光照高阙。
释兵仍振旅，要荒事方举。
饮至告言旋，功德请庙前。
大概这首诗写于大业四年（ 608）八月间，史载，三月“乙丑（十二日），车驾幸五原，因出塞巡长城，到七月辛巳（初十）诏修榆谷以东长城，”炀帝在北部边塞盘桓达长达半年。这首诗气势豪迈，一扫先前当皇太子时出塞诗那种思妇幽怨情怀，豪情壮志，不吐不快，是一气呵成的佳作。隋炀帝写诗“示从征群臣”，以为长城乃“先圣之所营”，是“安亿兆生民”的“万世策”。有了这些坚固的工事，历代帝王才得以“高枕于上京”。由此可知，隋炀帝明显不是只顾眼前利益，而是考虑长远的国家利益。所以，在太平时日他不惜任何代价，以致置百万子民生死于不顾，赶紧修筑长城。在他看来，筑长城既是一件神圣伟大光荣、造福后代、利国利民的事业，就要干好干快。
隋长城西起宁夏，向东由陕北经榆林，到黄河西岸，再由偏关而东张家口，有内外两支：外长城利用北魏所筑长城，经紫河、今马兰峪、古北口、独石口，直到临渝关（今山海关）。内长城利用北齐所筑长城，自偏关向东南经汾阳、崞县、紫荆关、居庸关，与外长城复合。虽隋长城沿袭了北魏、北齐长城，但是也新筑了河南和阴山一带的长城。
“城上一杆土，手中千万杵。”在崇山峻岭间修长城，其辛苦可想而知。专制君主用强制手段，急征大批劳力才得完成如此宏大的工程。隋炀帝两次修长城，比他的父亲隋文帝五次修长城为少，但是规模却大大超过其父当政时期。隋文帝修长城是直接抵御突厥，突厥降服后就不再举役。隋炀帝修长城时突厥已经降服，并没有侵扰之事，但是在太平之时隋炀帝依然举百万之众修长城。
在古代主要以刀斧、弓箭、戈矛等冷兵器进行战争时，关隘、城墙、壕沟、长堑对于防御、守备的确具有重要意义。尤其是北方游牧民族骑兵非常懔悍，假如没有坚固的防御工事，则中原王朝就随时有被他们攻入的危险。但是大型工程要量力而行，不要一哄而上，“一句而罢”，人海战术抢工赶期，导致民众家破人亡，让民众承受不了。隋唐以后，万里长城仍在继续修筑，明朝修长城前后多达十八次，把长城西端由隋朝时的宁夏延长至嘉峪关。今天我们看到的长城就是明长城，其中东部相当长一段沿用了隋长城。
大业元年（605）三月辛亥（二十一），隋炀帝在下令“营建东京”的同时，又“发河南诸郡男女百余万，开通济渠，自西苑引谷、洛水达于河，自板渚引河通于淮”。开始了规模更大的开凿大运河的工程。
隋炀帝一即位就征发百万民工，开挖连接淮河与黄河的通济渠，这一年又发淮南民十余万开邗沟，连接长江与淮河。大业四年（ 608）又开挖北至涿郡（今北京市）的永济渠，大业六年（ 610）从京口（今江苏镇江）引长江水直达余杭（今浙江杭州）入钱塘江。形成南起余杭，中经江都、洛阳，北至涿郡，沟通河、海、江、淮、钱塘五大水系，贯穿今江苏、浙江、河南、安徽、河北、山东六省及天津、北京两市，全长四千华里的南北大运河。大运河是世界上开凿最早、最雄伟、航程最长的一条人工运河，成为古代贯通南北交通的大动脉。
开凿运河，工程量十分浩大，在古代生产工具极为落后的情况下，开挖四千余里的大运河，相当辛苦。
到底为什么隋炀帝要大兴工役开凿南北大运河呢？
我国是地域辽阔的国家，翻开地图可见我国的地理地形，西部是黄土高原、青藏高原，地形呈西高东低之势。所以，我国的主要河流都是由西向东，黄河、长江都发源于青藏高原，穿越崇山峻岭，奔腾呼啸，一泻千里，进入东部平原，最后入海。由于西高东低的地形限制，我国没有一条南北走向的大河流。在没有比舟船更便捷的交通运输工具的古代，用人工开凿南北走向的运河水道以通漕运，也就成为古代中国人的追求和事业。为了沟通主要水系，以形成腹地广阔的水路交通网，就一定要开凿南北运河，以解决水路交通问题。
我们的祖先，早在春秋战国时期就开始开挖人工运河。最著名的运河要数邗沟和鸿沟了。
春秋时期霸主吴王夫差，在西败楚国，南破越国后，想继续北上中原，与齐、晋争霸，为了便于军运，夫差于是在周敬王三十四年（公元前 486）征调军民，先在长江北岸筑邗城、（今扬州蜀岗），接着引水向北，经螺丝湾黄金坝北上，穿过陆阳和武广两湖之间，北樊良湖，又东北入博支、射阳两湖再往北，在淮河与长江之间，开了一条运河，直至淮水末口（今江苏淮安县北五里北神堰），运河名“邗沟”，又名“渠水”，也称“中渎水”。邗沟全长约四百里，是利用途中丰富的湖泊沼泽的自然水源而完成的，比隋炀帝开凿运河早了一千多年。
周敬王三十八年（公元前 482），吴国又在鲁商（今河南商丘）、之间“阙为深沟”，开渠道，由淮入泗，北接沂水，西连济水。这段向北延伸的运河称黄沟，这使吴军能不远千里逾淮水入于济，挺进中原。但是吴王虽耗费巨大人力开凿了北通中原的运河，一就在他于黄池争得霸主地位的时候，卧薪尝胆的越王勾践却趁机进兵攻占了吴国后方，夫差落了个国破人亡的可悲下场。
春秋末年，大约在公元前 360年，魏惠王开始开凿连接黄淮的鸿沟。鸿沟在黄河下游的平原地区，出于蒗荡渠，其地在河南荥阳县境，算是引黄河水东南流，入圃田泽（今河南中牟西），由团田泽开大沟东流至大梁（今河南开封）城南，始称鸿沟。公元前 340年，魏惠王又由大梁向东南开掘，又往南又折而向东，与自然河流汴水、沙水相交，分为数支，分别由涡水、颍水、泗水入淮。通过人工引出黄河水，形成以鸿沟为中心的运河网，以蜘蛛网一般的支流，连通汝、济、泗、淮四大河流，形成黄淮之间的水网交通，把春秋时期的中原各国联系起来。鸿沟于是成为中原航运的重要纽带，这条水道也称汴渠，沟通了淮、黄两大水系。这条南北走向的鸿沟十分著名，因为在后来楚汉相争时曾成为两大敌对势力的自然分界线。
江南运河开凿的历史，也是在春秋时代，那时的太湖平原分布着远比今天更多的自然河流和湖泊，那时称为“三江五湖”。吴都姑苏（苏州）处于水网地带，早在邗沟开凿之前，吴国已开凿了连接诸自然水道的人工运河。也就是由今苏州西北行，穿过漕湖，逆太伯渎与今江南运河而上，再经阳湖北人古芙蓉湖，最后由利港入于长江，以达扬州。另一条在太湖以南越国属地开百尺渎，从苏州向南，直达钱塘江边，以转运越国的粮食。吴越之间发生的几次战争，都是水战，都利用了运河。后越王勾践灭吴，为加强对吴地的控制，在苏州以南凿“通江陵道”，是苏州至吴淞间运河的前身。公元前 334年楚灭越，春申君黄歇在无锡进行军事屯垦，在惠山开凿“西龙尾陵道”。秦灭楚，在始皇三十七年（公元前 210）开凿丹徒曲阿，曲阿之名即取自运河“截之直道使之阿曲，故日曲阿”。这年秦始皇南巡会稽，从云梦顺江而下至丹阳，由于令赭衣者凿丹徒，改名丹徒，而其原名乃谷阳。经秦始皇的开凿，今镇江至丹阳的水道已开通，这些地方正是隋朝江南运河经过的地方。秦始皇由运河南下，“丹徒水道入通吴”，上会稽祭大禹，望于南海，立石刻颂秦功德。始皇北归时的一段水路，走的也是江南运河。由此可知，秦始皇对大运河的开凿，也曾有过功劳。
汉朝政府对邗沟、汴渠也进行了几次维修。东汉顺帝阳嘉中（ 132～135），从汴河以东直到淮口沿岸积石为堰，加固堤防，称“金堤”。灵帝的时候又“增修石门，以遏淮口。水盛则通注，津耗则辍流”，使汴渠成为汉代漕运的骨干水道。对邗沟有东汉永和（ 136～141）中广陵太守陈登的整治，陈登开挖了一条新道，由江都雷塘经樊良湖改道津湖，再直由末口入淮，以利漕运。在江南地区，西汉武帝的时候为了便于征调闽越贡赋，在吴江南北沼泽地带开运河百余里，南接杭嘉运河，基本上接通了苏州至嘉兴间的航运水道。
漕运网在魏晋南北朝分裂割据时期，遭到破坏，为了军事目的及通过漕粮解决政府粮食，对修整和开挖运河仍然不遗余力，尤其值得一提的是开挖了黄河以北的运河。黄河以北因陆旱水少，人工渠道的开挖晚于黄河以南。建安九年（204），曹操为平定河北袁绍父子，遏淇水东流入白沟，以通粮运。建安十一年（ 206）为北攻乌桓，曹操又引滹沱河水北入弧水（今大沙河），以利军用，称平虏渠，这一年又凿泉州渠，南起泉州县（今天津市武清县西南），从洵河口凿渠接潞河，以通海运，称新河。建安十八年（ 213），曹操在邺（今河北磁县南）凿渠引漳水入白沟，名“利漕渠”，又引漳水经其所造铜雀台，由城西注入城东，即“长明沟”这些渠道贯通了河北平原的运河网，贯通了黄河与海河水系，便利了河北平原的水道运输。
在江南地区，孙吴据江南，恃长江天堑同曹魏抗争，赤乌八年（ 245），孙权令校尉陈勋率屯田兵三万“凿句容中道”，向东截断山冈，越镇江南境，东接云阳（今丹阳），沿水道筑十四埭以蓄水，即“破冈渎”，与春秋时吴国所开渠道相接，使建邺（今南京市）和东南诸郡上下船只得避大江风浪的危险，成为六朝时期吴、会一带漕粮的重要水道。东晋南朝宋、齐、梁、陈各代都注意维修破冈渎。梁时在旬容县东南又开上容渎，并且开挖了太湖流域运河网，在常州市至今仍然保留着的新坊桥，乃始建于梁大同元年（ 535），虽现存者为元代重修，但是可由此推知南朝时江南一带的运河是畅通的。
江北的运河也一直畅通。东晋永和年间（ 345-356）曾经改修邗沟南段，自今仪征境内的欧阳埭引江水，东行至今三汊河、扬子桥北上广陵（今扬州），这为后来仪扬运河的前身。在北周灭北齐之时，南朝陈宣帝曾经派大将吴明彻率水军乘舰船北上争地，周武帝派大将王轨南下，率骑兵“轻行自清水（即泗水）入淮口”，设置障碍，“遏断船路”，断敌归路。事实表明，在隋建立前没过多久，从长江经邗沟运河，再经淮泗水道町至彭城（徐州），这条水道还可直通战舰，北周军正是以截断水道而战胜陈军的。因此运河水道对于立国水乡的南朝来说，可以说是生命线。
隋文帝曾经修缮运河，为伐陈统一中国，开皇七年，（587）四月，他下令沿吴邗沟故道，“于扬州开山阳渎，以通运漕”，运兵输粮。
上述皆是在隋大运河沿线开黹的运河，足见开挖南北运河是必须的，而且历史上早有此举，隋炀帝开凿连接五大水系的大运河在其前已经有了相当的基础。结束了南北朝分裂割据局面的大隋王朝，为适应统一王朝各方面的需要，在原有运河基础上整修并开凿一条沟通南北五大水系的大运河，以形成腹地广阔的水路交通网，明显是利国利民顺应历史潮流的宏伟功业。
由此可知，历代封建帝王，包括汉武帝、秦始皇、曹操、汉光武、孙权和隋炀帝的父亲隋文帝在内，都不遗余力地开凿运河，隋炀帝即位后也热心于南北大运河的开凿事业，实不足为怪。和以前不同帝王的是，隋炀帝开凿大运河的规模超过任何一代帝王，大运河有全面规划，沟通五大水系，工程十分浩大。促使隋炀帝下决心兴修浩大的水利工程也有深刻的经济政治原因。
隋统治时期，已经有两大基本经济区，这与秦汉时期只有北方黄河流域得以充分开发不同，南方长江流域已是经济发达区域，是税赋的主要来源。南方经济区在全国经济中的地位日益突出。
在全国经济中心经六朝开发逐渐南移以后，政治中心由于各种原因还无法随之南移，隋朝统一后如何把这两个分离两百多年的经济区联系起来，成为一个整体，更具体地说就是如何以南方的经济来支撑北方的政治，是统一王朝所面临的历史重任。隋朝一定要把南方的经济重心与北方的政治军事重心连接在一起，使南北成为统一的整体。除此之外，入隋以后首都关中地区粮食供给常感不足，营建洛阳开凿运河转漕江淮粮资就都已成为当务之急。为了适应经济自身发展的要求，开凿南北大运河已经成为隋朝统治者的要务，沟通南北的运河大工程，正是在这样的客观形势下进行的。说运河的开凿是是时代的产物，符合时代的需要，并不是出自某个帝王的主观意志。
开凿南北大运河在政治上军事上同样加强隋中央政府对江南地区及北部边塞的控制，具有重要的政治军事价值。大业四年（ 608）开凿的永济渠，“北通涿郡”（今北京市），即直接为征讨高丽的需要。