3月11日一早，曾国藩仍强行起身，然后，披衣端坐在案前，阅读《理学宗传》中的《张子》一卷。这本书，曾国藩已读过很多遍了，但每次读，曾国藩都有一些新感受。宋儒当中，曾国藩最喜欢的，就是张载了。张载学富五车，涣然自信，“为天地立心，为生民立命，为往圣继绝学，为万世开太平”，这样的情怀，对曾国藩影响很大。更可贵的是，张载的学说摒弃了很多条条框框，以儒为宗，同时又吸取了佛、道的很多成分，不拘泥某种门派，有着广阔的游弋空间。一个人，有如此博大精深的思想，才算得上以天地为师，是一个真正的“通人”。曾国藩看了一会《张子》，又感到手摇心颤。家人忙扶他在榻上躺了一会。当天晚上，金陵的街道上，有很多行人看见一颗大星从上空弧线滑落，不由大惊失色，一时议论纷纷。
同治十一年二月初四，也即1872年3月12日这天，天气阴霾，一大早，就飘着绵密的小雨，淅淅沥沥的，仿佛一心想让人断肠似的。曾国藩早早地起床了，他清晰地记得，这一天是他祖父曾玉屏的祭日。上午，曾国藩在家人的搀扶下，躬身拜过设在家中的祖父的牌位。
午后，曾国藩似乎感觉到精神好些，示意要出去走走。儿子曾纪泽搀扶着曾国藩来到总督府西花园，在长廊里散着步。西花园又叫煦园，面积很大，尤其是水景，堪称一绝。水域四周，有东榭西楼隔岸相望，有南舫北阁遥相呼应，花间隐榭，水际安亭，堪称园林中的经典之作。园内还有石舫、鸳鸯亭、夕佳楼、东水榭、桐音馆、印心石屋、诗碑等十余处胜迹。曾国藩在园中蹒跚着，他一边走一边颤颤巍巍地对曾纪泽说：“我这一辈子打了不少仗，打仗是件最害人的事情，造孽，我曾家后世再也不要出带兵打仗的人了。”父子俩说着话，这时候雨已经停了，两人来到了廊外，不知不觉走进一片竹林。忽然，一阵大风吹来，曾国藩连呼“脚麻”，便歪倒在儿子身上。曾纪泽和随从慌乱地把曾国藩扶到书房的椅子上。曾国藩端正了衣服、帽子，然后静静地坐在那儿，一点声音也没有。三刻钟后，曾国藩气绝身亡。
曾国藩去世的消息传出，朝野震惊。清廷追赠曾国藩为“太傅”，恩赐谥号“文正”，照大学士赐恤，同时赏银三千两治丧。入祀昭忠、闲良二祠，并于湖南湘江、江宁金陵建立专祠。生平政绩事实，宣付国史馆。一等侯爵即着子曾纪泽承袭。
曾国藩的师友亦纷纷表示哀悼，挽联、祭文一时堆积如山。由于人数众多，祭奠活动足足持续了百日才告结束！与很多大人物的情况相似，那些挽联、祭文大都不着边际夸大其词，有的纯粹是敷衍了事的客气话。倒是左宗棠、李鸿章和郭嵩焘各自根据自己与曾国藩之间交往的经历所题写的挽联颇为深情：
谋国之忠，知人之明，自愧不如元辅；
同心若金，攻错若石，相期无负平生。
——左宗棠
师事三十年，薪尽火传，筑室忝为门生长；
威震九万里，安内攘外，旷代难逢天下才。
——李鸿章
论交谊在师友之间，兼亲与长；论事功在宋唐之上，兼德与言，朝野同悲为我最；
考初出以夺情为疑，实赞其行；考战绩以水师为最，实主其议，艰难未预负公多。
——郭嵩焘
从某种程度上说，曾国藩的死是一个标志，那个颇有尊严、文雅、自闭、自给、自享、道德至上、鄙视物质、洁身自好的时代，在曾国藩逝去之后，已瞑然消逝。世界进入一个新的时代：那是一个光明的时代，也是一个黑暗的时代；是最美好的季节，也是最糟糕的季节；是信仰的时代，也是怀疑的时代；是富足的时代，也是贫乏的时代……在此之后中国很长时间风雨飘摇的历史，都适合这样的表达。只是那个湖湘大儒看不到这一切了，他的灵魂正缥缈地飞翔在空中，那股巨大的悲怆之气慢慢地烟消云散。一个人解脱之后，当然不愿意再回首。这个世界，已不属于他了，只是一个叫做曾国藩的人的所作所为，至今还让人难以忘怀。