郕王方摄朝，廷臣请族诛王振。而振党马顺者，辄叱言官。于是给事中王竑廷击顺，众随之。朝班大乱，卫卒声汹汹。王惧欲起，谦排众直前掖王止，且启王宣谕曰：“顺等罪当死，勿论。”众乃定。谦袍袖为之尽裂。退出左掖门，吏部尚书王直执谦手叹曰“国家正赖公耳。今日虽百王直何能为！”当是时，上下皆倚重谦，谦亦毅然以社稷安危为己任。
初，大臣忧国无主，太子方幼，寇且至，请皇太后立郕王。王惊谢至再。谦扬言曰：“臣等诚忧国家，非为私计。”王乃受命。九月，景帝立，谦入对，慷慨泣奏曰：“寇得志，要留大驾，势必轻中国，长驱而南。请饬诸边守臣协力防遏。京营兵械且尽，宜亟分道募民兵，令工部缮器甲。遣都督孙镗、卫颖、张軏、张仪、雷通分兵守九门要地，列营郭外。都御史杨善、给事中王竑参之。徙附郭居民入城。通州积粮，令官军自诣关支，以赢米为之直，毋弃以资敌。文臣如轩輗者，宜用为巡抚。武臣如石亨、杨洪、柳溥者，宜用为将帅。至军旅之事，臣身当之，不效则治臣罪。”帝深纳之。
十月敕谦提督各营军马。而也先挟上皇破紫荆关直入，窥京师。石亨议敛兵坚壁老之。谦不可，曰：“奈何示弱，使敌益轻我。”亟分遣诸将，率师二十二万，列阵九门外：都督陶瑾安定门，广宁伯刘安东直门，武进伯硃瑛朝阳门，都督刘聚西直门，镇远侯顾兴祖阜成门，都指挥李端正阳门，都督刘得新崇文门，都指挥汤节宣武门，而谦自与石亨率副总兵范广、武兴陈德胜门外，当也先。以部事付侍郎吴宁，悉闭诸城门，身自督战。下令，临阵将不顾军先退者，斩其将。军不顾将先退者，后队斩前队。于是将士知必死，皆用命。副总兵高礼、毛福寿却敌彰义门北，擒其长一人。帝喜，令谦选精兵屯教场以便调用，复命太监兴安、李永昌同谦理军务。
初，也先深入，视京城可旦夕下。及见官军严阵待，意稍沮。叛阉喜宁嗾使邀大臣迎驾，索金帛以万万计，复邀谦及王直、胡濙等出议。帝不许，也先气益沮。庚申，寇窥德胜门。谦令亨设伏空舍，遣数骑诱敌。敌以万骑来薄，副总兵范广发火器，伏起齐击之。也先弟孛罗、平章卯那孩中砲死。寇转至西直门，都督孙堂御之，亨亦分兵至，寇引退。副总兵武兴击寇彰义门，与都督王敬挫其前锋。寇且却，而内官数百骑欲争功，跃马竞前。阵乱，兴被流矢死，寇逐至土城。居民升屋，号呼投砖石击寇，哗声动天。王竑及福寿援至，寇乃却。相持五日，也先邀请既不应，战又不利，知终弗可得志，又闻勤王师且至，恐断其归路，遂拥上皇由良乡西去。谦调诸将追击，至关而还。论功，加谦少保，总督军务。谦曰：“四郊多垒，卿大夫之耻也，敢邀功赏哉！”固辞，不允。乃益兵守真、保、涿、易诸府州，请以大臣镇山西，防寇南侵。
景泰元年三月，总兵硃谦奏敌二万攻围万全，敕范广充总兵官御之。已而寇退，谦请即驻兵居庸，寇来则出关剿杀，退则就粮京师。大同参将许贵奏，迤北有三人至镇，欲朝廷遣使讲和。谦曰：“前遣指挥季鐸、岳谦往，而也先随入寇。继遣通政王复、少卿赵荣，不见上皇而还。和不足恃，明矣。况我与彼不共戴天，理固不可和。万一和而彼肆无厌之求，从之则坐敝，不从则生变，势亦不得和。贵为介胄臣，而恇怯如此，何以敌忾，法当诛。”移檄切责。自是边将人人主战守，无敢言讲和者。
初，也先多所要挟，皆以喜宁为谋主。谦密令大同镇将擒宁，戮之。又计授王伟诱诛间者小田儿。且因谍用间，请特释忠勇伯把台家，许以封爵，使阴图之。也先始有归上皇意，遣使通款，京师稍解严。谦上言：“南京重地，抚辑须人。中原多流民，设遇岁荒，啸聚可虞。乞敕内外守备及各巡抚加意整饬。防患未然，召还所遣召募文武官及镇守中官在内地者。”
于时八月，上皇北狩且一年矣。也先见中国无衅，滋欲乞和，使者频至，请归上皇。大臣王直等议遣使奉迎，帝不悦曰：“朕本不欲登大位，当时见推，实出卿等。”谦从容曰：“天位已定，宁复有他，顾理当速奉迎耳。万一彼果怀诈，我有辞矣。”帝顾而改容曰：“从汝，从汝。”先后遣李实、杨善往。卒奉上皇以归，谦力也。
上皇既归，瓦剌复请朝贡。先是，贡使不过百人，正统十三年至三千余，赏赉不餍，遂入寇。及是又遣使三千来朝，谦请列兵居庸关备不虞。京师盛陈兵，宴之。因言和议难恃，条上安边三策。请敕大同、宣府、永平、山海、辽东各路总兵官增修备御。京兵分隶五军、神机、三千诸营，虽各有总兵，不相统一，请择精锐十五万，分十营团操。团营之制自此始。具《兵志》中。瓦剌入贡，每携故所掠人口至。谦必奏酬其使，前后赎还累数百人。
初，永乐中，降人安置近畿者甚众。也先入寇，多为内应。谦谋散遣之。因西南用兵，每有征行，辄选其精骑，厚资以往，已更遣其妻子，内患以息。杨洪自独石入卫，八城悉以委寇。谦使都督孙安以轻骑出龙门关据之，募民屯田，且战且守，八城遂复。贵州苗未平，何文渊议罢二司，专设都司，以大将镇之。谦曰：“不设二司，是弃之也。”议乃寝。谦以上皇虽还，国耻未雪，会也先与脱脱不花构，请乘间大发兵，身往讨之，以复前仇，除边患。帝不许。
谦之为兵部也，也先势方张；而福建邓茂七、浙江叶宗留、广东黄萧养各拥众僭号；湖广、贵州、广西、瑶、僮、苗、僚所至蜂起。前后征调，皆谦独运。当军马倥偬，变在俄顷，谦目视指屈，口具章奏，悉合机宜。僚吏受成，相顾骇服。号令明审，虽勋臣宿将小不中律，即请旨切责。片纸行万里外，靡不惕息。其才略开敏，精神周至，一时无与比。至性过人，忧国忘身。上皇虽归，口不言功。东宫既易，命兼宫僚者支二俸。诸臣皆辞，谦独辞至再。自奉俭约，所居仅蔽风雨。帝赐第西华门，辞曰：“国家多难，臣子何敢自安。”固辞，不允。乃取前后所赐玺书、袍、锭之属，悉加封识，岁时一省视而已。
帝知谦深，所论奏无不从者。尝遣使往真定、河间采野菜，直沽造干鱼，谦一言即止。用一人，必密访谦。谦具实对，无所隐，不避嫌怨。由是诸不任职者皆怨，而用弗如谦者，亦往往嫉之。比寇初退，都御史罗通即劾谦上功簿不实。御史顾躭言谦太专，请六部大事同内阁奏行。谦据祖制折之，户部尚书金濂亦疏争，而言者捃摭不已。诸御史以深文弹劾者屡矣，赖景帝破众议用之，得以尽所设施。
谦性故刚，遇事有不如意，辄拊膺叹曰：“此一腔热血，意洒何地！”视诸选耎大臣、勋旧贵戚意颇轻之，愤者益众。又始终不主和议，虽上皇实以是得还，不快也。徐珵以议南迁，为谦所斥。至是改名有贞，稍稍进用，尝切齿谦。石亨本以失律削职，谦请宥而用之，总兵十营，畏谦不得逞，亦不乐谦。德胜之捷，亨功不加谦而得世侯，内愧，乃疏荐谦子冕。诏赴京师，辞，不允。谦言：“国家多事，臣子义不得顾私恩。且亨位大将，不闻举一幽隐，拔一行伍微贱，以裨军国，而独荐臣子，于公议得乎？臣于军功，力杜侥幸，决不敢以子滥功。”亨复大恚。都督张軏以征苗失律，为谦所劾，与内侍曹吉祥等皆素憾谦。
景泰八年正月壬午，亨与吉祥、有贞等既迎上皇复位，宣谕朝臣毕，即执谦与大学士王文下狱。诬谦等与黄竑构邪议，更立东宫；又与太监王诚、舒良、张永、王勤等谋迎立襄王子。亨等主其议，嗾言官上之。都御史萧惟祯定谳。坐以谋逆，处极刑。文不胜诬，辩之疾，谦笑曰：“亨等意耳，辩何益？”奏上，英宗尚犹豫曰：“于谦实有功。”有贞进曰：“不杀于谦，此举为无名。”帝意遂决。丙戌改元天顺，丁亥弃谦市，籍其家，家戍边。遂溪教谕吾豫言谦罪当族，谦所荐举诸文武大臣并应诛。部议持之而止。千户白琦又请榜其罪，镂板示天下，一时希旨取宠者，率以谦为口实。
谦自值也先之变，誓不与贼俱生。尝留宿直庐，不还私第。素病痰，疾作，景帝遣兴安、舒良更番往视。闻其服用过薄，诏令上方制赐，至醯菜毕备。又亲幸万岁山，伐竹取沥以赐。或言宠谦太过，兴安等曰：“彼日夜分国忧，不问家产，即彼去，令朝廷何处更得此人？”及籍没，家无余资，独正室鐍钥甚固。启视，则上赐蟒衣、剑器也。死之日，阴霾四合，天下冤之。指挥朵儿者，本出曹吉祥部下，以酒酹谦死所，恸哭。吉祥怒，抶之。明日复酹奠如故。都督同知陈逵感谦忠义，收遗骸殡之。逾年，归葬杭州。逵，六合人。故举将才，出李时勉门下者也。皇太后初不知谦死，比闻，嗟悼累日。英宗亦悔之。
谦既死，而亨党陈汝言代为兵部尚书。未一年败，赃累巨万。帝召大臣入视，愀然曰：“于谦被遇景泰朝，死无余资。汝言抑何多也！”亨俯首不能对。俄有边警，帝忧形于色。恭顺侯吴瑾侍，进曰：“使于谦在，当不令寇至此。”帝为默然。是年，有贞为亨所中，戍金齿。又数年，亨亦下狱死，吉祥谋反族诛，谦事白。
成化初，冕赦归，上疏讼冤，得复官赐祭。诰曰：“当国家之多难，保社稷以无虞，惟公道之独恃，为权奸所并嫉。在先帝已知其枉，而朕心实怜其忠。”天下传诵焉。弘治二年，用给事中孙需言，赠特进光禄大夫、柱国、太傅，谥肃愍。赐祠于其墓曰“旌功”，有司岁时致祭。万历中，改谥忠肃。杭州、河南、山西皆世奉祀不绝。