隋炀帝计划同时命令幽州（今北京）出兵，对杨谅实施南北夹击，但幽州属杨谅管辖区域，隋炀帝担心幽州总管窦抗拒不从命，问杨素谁可取代窦抗，杨素推荐前江州刺史李子雄。李子雄接受命令后，只身匹马奔至幽州，住在驿站内，招募了一千多人，在驿站内设下伏兵，然后派人去请窦抗。窦抗率领两千名铁骑兵来与李子雄相见，窦抗一进驿站便被擒拿，子雄当众宣读诏旨，然后率领幽州的三万名步骑兵讨伐杨谅。
并州总管府主簿豆卢毓在杨谅起兵之初，曾苦苦劝阻，杨谅不听，豆卢毓私下对他的弟弟豆卢懿说：“我如果逃归京师，自然可以免祸，但这是从我个人的安危考虑，为了国家利益，我不如暂且屈从，以后见机行事。”豆卢毓的哥哥豆卢贤为显州刺史，他对隋炀帝说：“臣下之弟豆卢毓，素怀忠烈节义之心，决不会参加乱党，一定是被逼无奈。臣下请求参加讨伐大军，与豆卢毓里应外合，杨谅必然失败。”隋炀帝答应了他的要求。于是豆卢贤秘密派遣仆人携带隋炀帝的敕书前往太原，命令豆卢毓暗中相助。正巧杨谅离开太原前往介州（今山西汾阳），命令豆卢毓与并州总管朱涛留守。豆卢毓对朱涛说：“汉王起兵造反，失败在所难免。我们难道就等着遭受灭顶之祸，而又辜负国家吗？”朱涛惊讶地说：“汉王以重任托付给我们，你怎么能说出这种话呢？”说完拂袖而去。豆卢毓一看朱涛不能同谋，连忙追出将其斩首，然后将皇甫诞从监狱放出，二人会同开府仪同三司宿勤武、宇文永昌、仪同三司成端、长孙恺、车骑将军元世雅、原武县令皇甫文颢等人，下令关闭太原城门，抗拒杨谅。他们还没有将各城门兵力布置好，杨谅就得到了消息，返兵袭击太原城。豆卢毓发现杨谅又回来了，欺骗守城士兵说：“这是盗贼。”杨谅进攻城南门，豆卢毓派散居介州和石州（今山西离石）一带的少数民族稽胡守卫南城门，稽胡不认识杨谅，不放杨谅入城，城上箭如雨下。不得已杨谅又转攻西门，西门守兵全是并州人，认识杨谅，即开门放杨谅入城。于是豆卢毓、皇甫诞等人全部遇害。
杨谅派出四面进攻的几路兵马，进展都不顺利。綦良先进攻慈州（今河北滏阳），没有攻下，又进攻相州（今河南安阳），还是没有成功，最后总算攻占了黎州（今河南浚县），控制了白马津（今河南滑县东北）。余公理自太行山下至河内（今河南沁阳），隋炀帝命令右卫将军史祥为行军总管，率兵抵达河阴（今河南宜阳东），被余公理所阻，不能渡河。史祥对军吏说：“余公理为人骄躁而无谋略，他所依仗的只是人多势众，没有战斗力，要打败他简直易如反掌。”于是史祥在河阴聚集了大量船只，做出要在河阴强行渡河的样子。余公理派出间谍，侦察到这一情况，就把主要兵力都集中于河阳（在河阴对岸），以防备史祥。没想到史祥亲自率领精锐转移到下游，实施偷渡，余公理急忙赶至下游阻挡，但为时已晚，史祥已渡过黄河。双方在须水（即今河南济源、孟州境内黄河支流漭河）相遇，史祥乘余公理尚未将军队布置成列之机发起突然进攻，余公理大败。史祥又乘胜进至黎阳，綦良严阵以待，可是双方还未交兵，綦良先弃军而逃，于是其众不战自溃，史祥从后面追击，杀死一万多人。
出击雁门方向的乔锺葵率兵三万进攻代州（今山西代县），代州的兵力不过几千人，城池也不坚固，在乔锺葵的进攻之下，城墙不断坍塌，可是代州士兵在总管李景率领下殊死战斗，城墙毁掉了又筑起，乔锺葵尽管人多势众，但在李景的坚守下，屡屡受挫，一个多月也没有攻下。隋炀帝知代州危急，命令朔州总管杨义臣救援。杨义臣受命后率马步军两万，夜出西陉关（今山西代县西北），黎明时分抵达代州。乔锺葵以全部兵力转而对付杨义臣。乔锺葵手下有一名大将，名叫王拔，异常骁勇，善使用矟，冲锋陷阵，无人敢当，是杨义臣军的大患。于是义臣在军中招募能抵挡王拔者，车骑将军杨思恩请出阵擒拿王拔，杨义臣看到思恩气貌不凡，勇气十足，赞叹道：“真是壮士！”赐给他一杯酒，杨思恩抬眼一望，王拔正立于敌军阵后，将酒一饮而尽后把酒杯往地下一扔，策马飞奔冲向敌阵。可是接连两次都是无功而返。杨义臣又精选了十几名骑兵作为杨思恩的随从，第三次向敌阵冲去。这一次杀开一条血路，来到王拔面前，杨思恩与王拔刚一交手，跟随杨思恩的骑兵纷纷向后败退，杨思恩失去保护，结果被王拔所杀。王拔乘势发起进攻，杨义臣向后败退了十几里。
稳住阵脚后，用重金赎回杨思恩的尸体，杨义臣抚尸痛哭，三军将士也莫不下泪，伤心之余，杨义臣将跟随杨思恩的骑士全部腰斩。杨义臣自知兵少，难敌乔锺葵，于是将军中的全部数千头牛和驴集中到一起，藏在山谷之间，又命数百名士兵每人带一面鼓，也隐藏起来。黄昏以后，杨义臣向锺葵挑战，刚一交兵，杨义臣下令鼓声齐鸣，牛、驴也被赶出山谷，飞奔而来，搞得尘土满天，乔锺葵以为中了伏兵之计，掉头后退，被杨义臣打败。被杨谅派去进攻井陉的刘建，也被李子雄的幽州兵战败，逃往太原。
这时，隋军对杨谅已形成四面合围之势。杨素率领的讨伐大军从蒲州出发，先拿下了晋州（今山西汾西）、绛州（今山西闻喜）、吕州（今山西霍县），步步向太原推进。杨谅派遣手下大将赵子开率领十余万人屯据高壁（今山西灵石南），布阵五十里，以阻止杨素。杨素命令诸将在正面布阵与赵子开相对，自率一支骑兵潜入霍山（今山西霍县东南），沿着山崖前进，奔向赵子开的指挥大营。快接近赵子开军营时，杨素下令安营扎寨，自己坐在军营门外，命令军吏挑选三百人守营，其余继续前进。军士害怕并州士马强劲，都不想出战，愿意留下守营，很长时间才定下守营人员名单。杨素问为什么用了这么长时间，军吏将情况一说，杨素立即将留下的三百人召出军营，全部斩首。
下令再留三百人守营，这下谁也不愿留下了，纷纷要求随军出战。杨素率军急速前进，绕到赵子开军北面，突然发起进攻，赵子开军不知所措，自相践踏，杀伤数万人。杨谅任命的介州刺史梁修罗屯兵介休（今山西介休），闻杨素大军将至，弃城而逃。
杨谅闻知赵子开兵败，急忙亲率十万兵马开至蒿泽（今山西祁县、介休、平遥、汾阳四县之间），迎战杨素。由于天空突降暴雨，杨谅想班师北还，王頍进谏说：“杨素悬军深入，人疲马乏，大王若亲率精锐出击，必然取胜。今见敌而退，是灭我军之威风，长敌军之志气，恳请大王千万不要北还！”杨谅不听劝告，退守清源（今山西清徐）。杨素跟踪而至。这里距离太原只有三十里了，杨谅率大将王世佘、赵子开、萧摩诃，领十万之众与杨素大战而败，死亡一万八千人，萧摩诃被俘，杨谅退保太原。杨素进兵将并州城团团包围，杨谅一看大势已去，举兵投降，并州之乱终被平定。
王頍知若被官军所获必不免一死，带其子挺身逃往突厥。至山中，路径断绝，对其子说：“我的智谋并不在杨素之下，只因我的话不被汉王所接受，才落得今天这个下场。我不能在这儿等着束手就擒，让别人借此立功成名。我死了以后，你千万不要到亲戚朋友家里去。”说完自杀而死，被其子掩埋在石窟里。几天以后，其子因忍受不住饥饿，到王頍的一个朋友家求食，竟被擒送官府。其子被杨素所逼说出王頍尸体埋藏之处，王頍终被枭首于太原。
百官联合向隋炀帝上表，说按国家法律，杨谅应判死罪，隋炀帝说：“我的兄弟已经不多了，怎么忍心再杀他呢？就违法免他一死吧。”于是杨谅被除名为民，不仅失去了地位和封号，还从属籍上被清除出皇室家族。不久，被幽禁而死。并州管内的官民受杨谅牵连被处死和流放的达二十万余家。杨素则因平定杨谅之功，得赏赐布帛五万段，绮罗一千匹，以及杨谅的伎妾二十人，并拜其子杨万石、杨仁行、其侄杨玄挺为仪同三司，还发布诏书对杨素进行嘉奖。
隋朝初年，隋文帝曾向大臣夸耀，他的五个儿子都是一母所生，是真正的亲兄弟，不会彼此纷争，互相残害。可是至此，五子中已废二子、亡一子，到隋朝末年，隋炀帝和杨秀又死于江都（今江苏扬州），五子皆不得寿终。
名家回眸
范文澜说：纵观历史，为皇位，为权力，亲情不在，兄弟反目，互相残害。权力让人疯狂，让人丧失理智。