在街亭，马谡不听王平劝告，将军队驻扎在山上，被魏军四面围定，断了水路，军中大乱，仓皇间失了街亭。司马懿引大军五十万，望西城蜂拥而来。诸葛亮万不得已，使用空城计，吓退司马懿，为退兵汉中赢得了宝贵的时间。为了严明军法，诸葛亮挥泪将马谡推出辕门外斩首。
需要说明的是，诸葛亮非常赏识马谡，平时和他关系极好，谈起话来，可以从白天一直讲到晚上。在小说中，马谡说自己与诸葛亮情同父子丞相视某如子，某以丞相为父。”诸葛亮说与马谡情同手足吾与汝义同兄弟，汝之子即吾之子也”——总而言之，关系非同一般。
诸葛亮之所以赏识马谡，是因为马谡自幼熟知兵法，才气过人。针对南人难以驯服的特点，马谡提出了“攻心为上，攻城为下;心战为上，兵战为下”的攻心策略。这一策略被诸葛亮实施为“七擒孟获”，保证了南方边境的长治久安。针对蜀国“兵马疲蔽”，民怨沸腾，马谡适时提出“只宜存恤，不宜远征”的休养策略。北伐前夕，靠马谡的计谋，诸葛亮成功地离间魏国曹睿、司马懿君臣，为北伐奠定了胜利基础，才使得诸葛亮败夏侯，收姜维，破羌兵，灭王郎，紧接着连克南安、安定、天水三郡，曹魏举国震惊。
就是这样一个情同父子、意气相投的马谡，诸葛亮还是将他正法了。关于这个故事，后人大多说这是诸葛亮执法严明的表现，如上面所提到的那些戏剧，基本上都是这样表现的。但也有人说，这是诸葛亮在掩饰自己的过失。
北伐失败后，诸葛亮上表自贬臣以弱才，叨窃非据，亲秉旄钺以厉三军，不能训章明法，临事而惧，至有街亭违命之阙，箕谷不戒之失，咎皆在臣授任无方。臣明不知人，恤事多闇，春秋责帅，臣职是当。请自贬三等，以督厥咎。”然而，他也知道，仅仅是“授任无方”、“明不知人”这样的说法，是不可能摆脱李严，甚至于是魏延、吴壹等人的责难的，他需要有个人来承担责任，以便给自己一个脱身的机会，而这个机会显然就只能来自于马谡。
于是其后果终于、也只能是“戮谡以谢众”，诸葛亮则贬为右将军，但是却依然“行丞相事，所总统如前”。马谡做了他的替罪羊，成为了蜀汉内部政治和权力斗争中的牺牲品。还有人说，马谡只会纸上谈兵，刘备临终时特地关照此人言过其实，不可大用”，诸葛亮却偏让他去守街亭，本身就是一个错误。
也有人说，善于小征小战的能手不一定是个运筹帷幄的将军，一个运筹帷幄的将军也不可能是个能征善战的将士。汉高祖不是说了嘛夫运筹帷幄之中，决胜千里之外，吾不如子房，镇国家，抚百姓，给馈饷，不绝粮道，吾不如萧何;连百万之军，战必胜，攻必取，吾不如韩信。”人各有其才。马谡是个具有战略眼光的高参，而不是能征善战的将军，诸葛亮把马谡放错了地方……
可要是来揭秘吧说，诸葛亮根本就没有挥泪斩马谡，你信不信?然而，这却是事实。
传说中，马谡在失街亭后让人把自己捆绑起来，跪在诸葛亮面前认罪。诸葛亮宣布判处他死刑。马谡大哭，请求诸葛亮照看他的儿子，诸葛亮流着眼泪答应了。参军蒋琬试图挽留马谡的生命，诸葛亮回答说昔孙武所以能制胜于天下者，用法明也。今四方之争，兵戈方始，若复废法，何以讨贼耶?合当斩之。”杀了马谡后，诸葛亮更是大哭，后悔自己没有听刘备的话，错用了马谡。
小说《三国演义》以及一些戏剧都是这样表现的。但事实上，马谡在失街亭后并没有像广为流传的那样去诸葛亮那里自缚请罪，恰恰相反，他选择了逃跑。后来，马谡缉捕归案，被诸葛亮判处死刑。但还没来得及执行，马谡就在狱中病故。所以，根本不存在挥泪斩马谡的事，传说故事所营造的“情”与“法”的冲突虽然非常动人，也很有意义，但却不是真的。
与马谡关系很好的向朗(向宠的叔父)，在马谡潜逃后，因知情不报而被革职，悠游无事达二十年之久。