《史记·张释之冯唐列传》：“文帝辇过，问唐曰：‘父老何自为郎？家安在？’唐具以实对。”“七年，景帝立，以唐为楚相，免。武帝立，求贤良，举冯唐。唐时年九十余，不能复为官。”
冯唐的祖父是赵国人，父亲迁居到代地，汉初时迁居到安陵。冯唐以孝道着称于世，文帝时被任命为中郎署长。
文帝即位十四五年来，北方的匈奴经常侵扰边界，文帝深为忧虑。一天，文帝乘着车出外巡视，路过郎署时，看到一位老人前来迎驾。十分惊奇地问：“你可是现任郎官？你家住在哪里？”“臣姓冯名唐，祖上原来是赵国人，臣父亲时才迁居到代地。”冯唐回答说。汉文帝即位前曾在代地为王，就问他：“我从前在代地时，有人曾多次向我说起赵将李齐，非常骁勇，可惜他现在已经去世，但我一直忘不了他，不知你可熟悉他？”“臣一向知道李齐非常勇敢，但我认为他比起廉颇、李牧来差远了。”冯唐说。
文帝也知道廉颇、李牧是赵国的良将，不由叹息说：“可惜我朝现在没有廉颇、李牧这样的名将，如果也有像他们这样的将领，还怕什么匈奴呢？”冯唐大声说：“依我看，陛下手下就是有廉颇、李牧这样的将领，您也未必能重用他们！”文帝听了以后不由大怒，立即下令掉转车头回宫去了。
文帝回到宫中以后，想想冯唐刚才肯定不会无缘无故来冒犯自己，就命令内侍把冯唐召进宫来，问他说：“你从什么地方看出来我不能重用廉颇、李牧这样的将领？”“我听说李牧在赵国做大将的时候，他镇守边境市镇所收到的租税，全部由他支配，用来犒赏官兵，赵王一点都不管他。所以李牧能竭尽全力守卫边防。现在陛下您能如此信任自己的将领吗？比如，魏尚做云中太守的时候，所收到的租税也全部用在手下的官兵身上，因此将士们都很听他的指挥，打得匈奴闻风丧胆。可是陛下却为了他所报的斩敌数目稍微有点出入就罢了他的官，把他关进了监狱。所以臣才说陛下不
能重用廉颇、李牧这样的将领。”冯唐回答道。
文帝听了转怒为喜，立即派冯唐去监狱释放魏尚，并仍任命魏尚作云中太守。接着，文帝又任命冯唐为车骑都尉。
匈奴听说魏尚又出任云中太守，就不敢再入侵骚扰。北方一带的边境，暂时又得到安宁。
文帝死后，冯唐得不到景帝的重用，带着儿子冯遂回到家乡，过起了隐居生活。后来直到汉武帝即位，在全国寻访贤才，有人又推举了冯唐，可这时冯唐已90多岁，不能再入朝为朝廷做事了。