同治十一年(1872年)二月初四这一天，是令曾国藩后半生一直都在心痛流泪的日子。十五年前的二月初四，他的父亲，也是他最为敬仰的老师去世了。这天上午九时许，他像往年那样带领家族众人拜祭过他父亲的灵牌，又痛彻心脾地流过一次泪，便回了书房歇息。过了一会儿，儿子曾纪泽，这位后来的大外交家进来，敬上了茶。父子二人喝过茶，曾国藩对纪泽说：“转眼冬去春来，天气越来越暖和了，为父前些日子栽的花都已开了，我这就去看看。”说着，扶住桌角便站起身来。曾纪泽赶忙上前扶住，说：“我来搀扶您，我也想去花园走走。”曾国藩在纪泽的搀扶下来到花园，赏了一会花，心情愉快起来。曾国藩对纪泽说：“父已老矣，时日无多，你与诸兄弟当自勉自强。”曾纪泽听了说：“您说的儿记下了。”曾国藩接下来又说：“天下无现成之人才，亦无生知之卓识，大抵由勉强磨练而出耳。《淮南子》说：‘功可强成，名可强立。’董夫人也说：‘勉强学问，则闻见博；强勉行道，则德日起。’”曾纪泽恭顺地听着，不插一言。曾国藩停了一忽儿，接下又说：“《中庸》所谓：‘人一己百，人十己千’，即勉强工夫也。今世人皆思见用于世，用乏用世之具，诚能考信于载籍，问途已径，苦思以求其通，躬行以试其效，何患莫已知哉！你还年轻，切莫依仗我的名声、权位，一切要从头做起，小心做人，小心做事，凡事出以公心，莫负为父对你的殷望。”曾纪泽听到这里，肃然而立，声音朗朗地说：“儿子愚钝，但能谨遵父训，勤学问以广才一条，加倍努力。”
曾国藩听了满意地点点头，站起来，叫曾纪泽扶他到新近开辟的一处园景看看。父子俩一边走一边说着话。他不知不觉又扯起当年带兵打仗的话题，他对纪泽说：“我这辈子打了不少仗，打仗是件最害人的造孽事，我们曾家后世再也不要出带兵打仗的人了。”父子俩唠着家常，不知什么时候已来到假山后一片竹林旁边。忽然，一阵大风吹过，曾国藩连呼“脚麻”，便倒在儿子身上。曾纪泽慌忙把他背起，等进到屋里，扶他躺下，他已口不能言了。不过，他头脑十分清醒，用手指指桌子：那是他早已写好的遗嘱。曾纪泽双手把纸小心展开，用颤抖的声音念道：
“余通籍三十余年，官至极品，而学业一无所成，德行一无可许，老大徒伤，不胜悚惶惭赧。今将永别，特立四条以教汝兄弟。”
“一曰慎独则心安。自修之道，莫难于养心；养心之难，又在慎独。能慎独，则内省不疚，可以对天地质鬼神。人无一内愧之事，则天君泰然，此心常快足宽平，是人生第一自强之道，第一寻乐之方，守身之先务也。”
“二曰主敬则身强。内而专静统一，外而整齐严肃，敬之工夫也；出门如见大宾，使民为承大祭，敬之气象也；修已以安百姓，笃恭而天下平，敬之效验也。聪明睿智，皆由此出。庄敬日强，安肆日偷，若人无众寡，事无大小，一一恭敬，不敢懈慢，则身体之强健，又何疑乎？”
“三曰求仁则人悦。凡人之生，皆得天地之理以成性，得天地之气以成形，我与民物，其大本乃同出一源。若但知私己而不知仁民爱物，是于大本一源之道已悖而失之矣。至于尊官厚禄，高居人上，则有拯民溺救民饥之责。读书学古，粗知大义，即有觉后知觉后觉之责。孔门教人，莫大于求仁，而其最初者，莫要于欲立立人，欲达达人数语。立人达人之人，人有不悦而归之者乎？”
“四曰习劳则神钦。人一日所着之衣所进之食，与日所行之事所用之力相称，则旁人韪之，鬼神许之，以为彼自食其力也。若农夫织妇终岁勤动，以成数石之粟数尺之布，而富贵之家终岁逸乐。不营一业，而食必珍馐，衣必锦绣。酣豢高眠，一呼百诺，此天下最不平之事，鬼神所不许也，其能久乎，古人圣君贤相盖无时，不以勤劳自励。为一身计，则必操习技艺，磨练筋骨，困知勉行，操心危虑，而后可以增智慧而长才识。为天下计，则心已饥已溺，一夫不获，引为余辜。大禹、墨子皆极俭以奉身而极勤以救民。勤则寿，逸则夭，勤则有材而见用，逸则无劳而见弃，勤则博济斯民而神祗钦仰，逸则无补于人而神鬼不歆。
“此四条为余数十年人世之得，汝兄弟记之行之，并传之于子子孙孙。则余曾家可长盛不衰，代有人才。”
曾纪泽念到最后，止不住眼泪扑簌簌流了下来，曾纪鸿等也鸣咽垂泪。曾国藩待纪泽念完，努力把手抬起，指指自己的胸口，眼睛定定地看看纪泽、纪鸿。纪泽兄弟见了，心里明白，一齐大声说道：“我们一定把父亲的教导牢记在心！”曾国藩听了，脸上显露出一丝欣慰的笑容，便把头一歪，溘然长逝了。
曾国藩死时才六十二岁。死后留下的著作有：
文集十二卷，诗集四卷，批谕奏章一百二十卷，政绩批牍二十四卷，日记三十四卷，尺牍五十卷，家书二十八卷。
另外还有曾氏家训长编，编有朱子小学一卷，历朝大事纪数卷，十八家诗钞三十卷，纪史万家杂钞二十六卷，古文简本二卷，呜原堂论文二卷，论语言红类记一卷，易象类记一卷，通鉴大事记及六家诗钞等，浩浩然数百万字，其中最重要的是诗文、书牍、日记、奏谕。从中我们可以洞悉他的思想、情操，也可以了解他那不平凡的一生。
曾国藩死后，朝野哀痛，前往吊唁哀悼者数万人。这在近代历史上是极为罕见的。同治皇帝闻噩耗，也很悲痛，三天不能上朝视事，赠太傅，谥文正，史称曾文正公。
《清史稿》本传中评论他说：“至谓汉之诸葛亮、唐之裴度、明之王守仁，殆无以过。”曾国藩的确是位十分了不起的人物，他对于清朝政府做出了重要贡献，但他生不逢时，帮助了一个日益腐朽的清政府渡过一劫，大大推迟了中国社会的进步，是功邪？是罪邪？他的思想、他的著作却是儒家之集大成，就是在今天，他的一些思想和著作也还是有价值的。所以，对于像他这样一个性格坚强、思想保守、功过参半的人物，只有历史地、辩证地看，才不至于走向偏颇。