诸葛亮取得初战胜利后，屯兵西县（今甘肃天水西南），为扩大战果，决定派先锋率军占领街亭（今甘肃庄浪西南）。
当时，蜀军中老将只有赵云还健在，但领兵在箕谷。诸葛亮身边可用的将领还有魏延、吴懿等。将士们本以为丞相会派魏延当先锋，没想到却选中了马谡。
马谡自幼熟读兵书，过去也出过一些好的主意，但是有言过其实的弱点，也缺乏实践经验。然而诸葛亮因一直对马谡印象不错，常常和马谡讨论军事，有时谈到深更半夜，似乎要把自己的生平所学，都传授给马谡。
临行前，诸葛亮又再三叮嘱马谡：“街亭地方虽小，却是战略要地。如果街亭失守，牵一发动全身，就会导致我军全线败退。你虽然有谋略，可是街亭既没有城郭，又没有险阻，守起来是很难的。”
马谡说：“我读了这么多兵书，又跟随丞相多年，行军作战的事都知晓了。街亭如守不住，我甘愿受处罚。”说罢，当即立了军令状。
诸葛亮又向副将王平交代说：“你要记住，营寨要安在重要路口，使敌军不能通过。安好营寨后，画在地图上速速送给我看。遇到急事，你们两人要商量着办。守住街亭，就是一大功劳。”
马谡、王平到了街亭后，魏军还未到来。王平说：“乘魏军没有来到，我们速速在路口安营扎寨，准备迎战。”
马谡说：“路口哪是下寨的地方？旁边那座山，和四面都不连接，树木又多，可在山上安营。”
王平说：“丞相交代过，要把营寨安在路口，四面筑起寨墙，敌军就难以通过了。如果屯兵山上，魏军攻来，四面围住，切断水源，不用攻打，我军就会自乱阵脚。”
马谡却说：“你真是少见多怪。兵书上说：居高临下，势如破竹，置之死地而后生。如果魏军围住，切断水道，我军势必拼死下山，以一当百，必然杀退敌军。我熟读兵书，好多事丞相都和我商量，你怎么不听我的呢？”
王平无奈，只好要求马谡拨给他一部分兵马，驻扎在山下，以便相机策应。
魏军大将张郃率军打到街亭，发现蜀军把营寨安在山上，马上命将士切断山下的水源，把蜀军围困在山上。蜀军在山上既喝不上水，又做不成饭，被围了几天，又饥又渴，便自乱阵脚。张郃抓住时机，向山上发动猛攻。蜀军纷纷逃散，马谡摇旗呐喊，根本指挥不动，只好率亲随杀出重围，逃回祁山。王平见山上蜀军阵脚大乱，只好冒死向魏军反攻，终因兵力太少，只好边打边撤，召集马谡的散兵归队，撤回祁山。
马谡、王平等回到汉中，诸葛亮先叫王平进帐责备说，“我命令你同马谡驻守街亭，为何不随时给他提出建议，以至耽误了大事？”王平说：“我再三劝告，主张在要道口筑起土城，安营把守，参军不肯采纳。我因此带了五千兵马，离开那座山十里驻扎。魏兵来的时候，把山四面围住，切断我接应的道路，冲杀了十几次，都不能冲进重围。丞相不信，可问各部将校。”
诸葛亮又叫马谡进帐。马谡自我捆绑跪在帐前，诸葛亮变了脸色说；“你从小就读兵书，熟悉兵法。我又屡次嘱咐你，街亭一地事关重大，你以全家的性命担保，接受了这一重任。你如果早听王平的话，哪会有这场大祸？现在损兵折将，失地陷城，都是你的过失！倘若不严正军纪，怎能使众人心服？你既犯罪，也不能怨我。你死了以后，全家老小，我按月给予生活照顾，你不必挂念。”说完，就命令部下推出斩首。
马谡哭着说：“丞相待我像自己儿子，我也把丞相当作父亲。我的死罪，实在已经难以逃脱，只希望丞相照顾我儿子，虽死也不悔恨。”说完了放声大哭。诸葛亮流着眼泪说：“我与你义同兄弟，你的儿子好比我的儿子，请你放心。”手下的人把马谡推出辕门外，刚要斩首，参军蒋琬从成都来，见武士要斩马谡，大惊，高叫：“刀下留人。”立即进帐对诸葛亮说：“现在天下尚未平定，杀了有用的人，岂不可惜？”诸葛亮流着泪说：“春秋时大军事家孙武所以能取得胜利，就在于他赏罚严明。如今倘若不重视军法，怎能讨伐敌人？应当立即斩首。”
过了一会，武士献上马谡的头，诸葛亮大哭不止。蒋琬说：“马谡犯罪，既已按照军法处理，丞相为何还哭？”诸葛亮说：“我不是哭他，是想起先帝在白帝城临危之时，曾嘱咐过我：马谡不可重用。现在果真如他所说，因此深恨自己用人不当。追想先帝的话，怎不痛哭？”帐下大小将士听了，也无不流泪。