一个人一旦忙碌起来便会忽略掉很多东西，自道光十九年（1839年）赴京就职以来，为了仕途前程，曾国藩已阔别家乡整整十二年。道光二十六年（1846年），曾国藩的祖母病故，他闻讣后即欲南归，但未能成行。第二年春天，星冈公身患重病，这位刚强一生的男子在他的晚年无奈地倒在了床上。
曾国藩闻讯后除写信给父母、几位弟弟详商治疗办法后，他决定一定要回家探望，但是。身为官场中人，很多事情是身不由己的。四千里关山，将一个游子的思乡之情阻隔。自京城往返湘乡，行程需要三、四个月，加上小住一两个月，最起码也得耗掉半年的时间。按照当时清朝的规定，这样的“长假”
是不予批准的，只能暂时离职，假期期满后回京重新补缺。而按正常情况，重新补缺往往需要一年左右，而且，将来能否补上“优缺”还是个问题。这是曾国藩难以下决心回乡省亲的重要原因。再者，往返费用开销也很多，当时曾国藩已经“负债累累”，如果再增加支出，对一个京官而言是不堪重负的。
因此，曾国藩给弟弟们写信讲回家的“三难”：兄自去年接祖母讣后，即日日思抽身南归。无如欲为归计，有三难焉：现在京寓欠账五百多金，欲归则无钱还账，而来往途费亦须四百金，甚难措办。一难也。不带家眷而归，则恐我在家或有事留住，不能遽还京师，是两头牵扯；如带家眷，则途费更多，家中又无房屋。二难也。我一人回家，轻身快马，不过半年可以还京。第开缺之后，明年恐尚不能补缺，又须在京闲住一年。三难也。有此三难，是以踌躇不决。而梦寐之中，时时想念堂上老人，望诸弟将兄意详告祖父及父母。如堂上有望我回家之意，则弟书信与我，我概将家眷留在京师，我立即回家。如堂上老人全无望我归省之意，则我亦不敢轻举妄动。下次写信，务必详细书堂上各位老人之意。
曾国藩的心情是如此，家人也同样盼望着久别的他能够尽早团圆，只是儿女私情跟国家大事比起来，总是显得那么渺小。家中老人为了不妨碍儿子的前程，给曾国藩写信时告诉他，让他一意服官，不必挂念家中之事。
曾国藩只好在信中回复父母，表示“男前与朱家信言无时不思乡土，亦久宦之人所不免，故前次家信亦言之。今既承大人之命，男则一意服官，不敢违拗，不作是想矣。”
不久，曾国藩升任内阁学士兼礼部侍郎，连升三级的佳绩也算是对曾国藩的一个补偿吧。
道光二十九年（1849年），曾国藩的父亲曾麟书年届六十。按中国人的传统习惯，花甲之年属于大庆，应该把寿辰办得更风光。在京城的曾国藩又不能自已，决定明年请假回乡再办。他去信跟几位弟弟说：“吾近于宦场，颇厌其繁俗而无补于国计民生，唯势之所处，求退不能。但愿得诸弟稍有进步，家中略有仰事之资，即思决志归养，以行吾素。今诸弟科第略迟，而吾在此间公私万事丛集，无人帮照。每一思之，未尝不作茫无畔岸之想也。吾现已定计于明年八月乞假归省，后年二月还京，专待家中回信详明见示。”
曾国藩虽然急切地盼望回归故里，但这次依然没能成行。不久，祖父病逝的消息从湖南老家传来。曾国藩闻讣后请假两个月，在京中寓所穿孝，以托哀思。他还向亲友同僚发讣帖五百余份，并特别写上“谨遵遗命，赙仪概不敢领”。由于不收银钱，曾国藩便将收到的祭幛做成马褂数十件，分寄家中族戚，即所谓民间的“分遗念”。回乡省亲待出山咸丰二年（1852年）6月12日，曾国藩在焦急不安中被钦命充江西乡试正考官，奏准回籍探亲。江西毗邻湖南，距湘乡尤近。因此，曾国藩次日递折谢恩时，奏请试竣后赏假两月回籍省亲。咸丰允准。
6月24日，满怀着为朝廷取士的“热望”和与家人久别重逢的喜悦，曾国藩驰驿而行。繁华的京城和威严的紫禁城被远远地留在了身后。他不会想到，这一次离京，一别就是十几年。他也不会想到，时代的激荡把他引向另一条道路。他更不会想到，这一次离京，儒生真的羽化成“蛟龙”，他的命运已与大清朝息息相关。
曾国藩乘坐官备驿站，经直隶，过安徽，经过一个月的旅行，于7月25日，行抵安徽太和县境的小池驿时，接到了母亲江氏已于6月12日逝世的讣闻。曾国藩想起十几年前的分别竞成永别，想到操持一生的母亲临终前竞没有见到身穿二品官服的儿子，他痛心不已，遂调转方向，由九江登船，急急奔回原籍奔丧。
曾国藩一到湖南，满耳朵听的是太平军节节北上，清军抵挡不住，形势如何紧迫的风声。实际上，在曾国藩逆长江行至汉阳时，湖北巡抚常大淳便告诉他：长沙已被“粤匪围困”，只得由水路改走旱路，经湘阴、宁乡而达湘乡。四十二岁的曾国藩扶棺痛哭09月22日，曾国藩的母亲江太夫人被安葬在下腰里宅后。此时的太平军已锐不可挡。
回家奔丧，本该好好祭悼生他养他，一别十几年，临终又未得见上一面的慈母。但是，这些却被太平军北进的消息冲淡了。长沙之围虽解，但太平军是主动撤围，意在加快北上的速度。不久便攻克岳州，攻占汉阳、武昌。太平军所到之处，清军不是一触即溃，就是闻风而逃。
咸丰二年（1852年），太平军出广西，入湖南，连克州县，湘省各地“会党蜂起应之”08月，太平军围攻长沙，全省震动，地主富豪纷纷逃命，郭嵩焘兄弟及湘中名宦左宗棠兄弟也率眷属避人玉池山梓木洞。年底，太平军兵指湖北，水陆并进，“帆帜蔽江，所过城镇，望风披靡”。与太平军的势如破竹相反，清军一触即溃，接连丢失重要城池，大有土崩瓦解之势。这一年年底，太平军以地雷轰塌武昌城墙，遂克武昌。这是太平军攻下的第一座省城，举国为之震动。眼看江南半壁江山换了颜色，咸丰皇帝气急败坏。虽然他早就知道八旗兵与绿营兵软弱涣散，但没想到竞如此不堪一击。前方局势的急转直下，促使清廷高层不得不寻找另外的救急之策，这就是令各省在籍的大臣举办团练，自卫桑梓。
咸丰皇帝让曾国藩留乡办团练既有一般性又有他特殊的背景。
此时，太平军势力浩大，清军无力对抗，清政府下令地方官举办团练，尤其命令回籍的官员为团练大臣，利用人地两熟，在地方又有号召力的官员组织地方武装，对抗太平军。如：1852年9月，任命刑部尚书陈孚恩为江西团练大臣；1853年2月，任命在家养病的广西巡抚周天爵为安徽团练大臣：不久，又命工部侍郎吕贤基办团练。仅仅1853年3月到4月，就先后任命四十五人为团练大臣，仅山东一省就有十三人，曾国藩也是在这时被任命为湖南团练大臣的。
咸丰二年十一月末，咸丰在给湖南巡抚张亮基的谕中说：丁忧侍郎曾国藩，籍隶湘乡。于湖南地方人情，自必熟悉。著该抚传旨令其帮同办理本省团练，搜查土匪事宜，必尽心不负委任。
中国封建社会历来讲究“以孝治天下”，清代更有明文规定，无论多高职务的官员，父母死了必须离职守制。如果朝廷特别需要这位官吏，必须发特诏命其不必去职，以素服办公，不参加吉礼；或于守制尚未期满之时，即令复职，这种制度称为“夺情”。有的人为了表示尽孝的诚心，甚至连皇帝“夺情”的命令也可以不听。封建社会讲“君要臣死，臣不得不死”的“忠”，但臣子要搬出一个“孝”字来对抗，君也无可奈何。当然，这要冒被君主厌弃的危险，但也可以大出个人气节的风头。
就被“夺情”的大臣而言，可谓各怀心事，不可一概而论。有的为了不离开权力核心，而自愿“夺情”；有的为了辅理朝政而不得不“夺情”。但结果大多招来士人的讥笑，有的甚至身败名裂。
明代张居正为内阁首辅时，万历五年，其父在湖广（明代为湖广省）江陵原籍病逝，万历皇帝年值冲龄，因此令张居正“夺情视事”。张居正听从王命，移孝作忠。但招来士人的强烈反对，张居正为此廷杖反对者。然而，历史十分复杂，正是张居正的“夺情”，推动了明代中后期的改革运动，缓解了大明王朝的统治危机。史书中说，张居正刚死去时，反对他的人为之举手称庆。但时间似乎是最后的评判人，若干年后，人们越来越感到了张居正的可贵。曾国藩熟悉历代掌故，他对清代理学家李光地的“夺情”也有自己的看法。当年康熙皇帝优礼汉人大臣，对福建籍的李光地尤为宠信。在收复台湾的重大决策中，康熙多次咨询李光地，李光地也直抒己见，为康熙皇帝做出正确决策献智献计。但“中年夺情”，对身为理学家的李光地而言，成为士人诟病的渊薮。一个半世纪过去了，曾国藩面临李光地当年的两难抉择。
不过，此时的曾国藩是有所顾虑的。其一，这时出山，有违孝道。亡母尚未安葬，若此时出山，必有违丁忧离职守制大礼。一直以来，自己整天都满口满纸的忠孝仁义，若也违制，天下人难免会耻笑。其二，投笔从戎，心里没底。自己只是一介文员，并不懂兵法，假如现在投身战场，肯定会有巨大磨难，一旦办理不善，可能连官职性命都保不住。其三，手中无兵，官场复杂。
他对清朝的官场腐败是有着深切认识的，明白要办一事，处处荆棘，若是率兵打仗，要人、要枪、要饷，就必然会同上下各级发生纠葛，办起事来一定困境重重，束手缚脚，举步维艰。
考虑到了种种难处之后，他便一边写信拒绝了张亮基的邀请；一边写折子，让张亮基代发，辞谢皇帝的圣意，并请求在籍守制三年。
没想到，就在这个时候，太平军攻克了武汉，很快就要反攻湖南。这使得刚坐到湖南巡抚宝座上屁股还没热的张亮基急得像热锅上的蚂蚁，立马命郭嵩焘连夜赶往曾家，劝说曾国藩出山。
恰巧在这一天，好友郭嵩焘赶到湘乡为曾母吊唁。县令朱孙诒清楚郭与曾的关系非常，故不敢怠慢，立即传官轿送郭嵩焘前往曾家。120里的路，郭嵩焘赶到曾家时已是深夜。两人秉烛畅叙，当谈及时事时，曾国藩说自己要守制，不能出来主持团练。郭嵩焘则“力止国藩日：公素具澄清之抱，今不乘时自效，如君王何？且墨经从戎，古制也”。郭嵩焘素知曾国藩野心勃勃，以整治封建秩序为己任，现在面临“乱世出英雄”的机会，你为什么不大大施展抱负，尽忠皇帝呢？郭又拿出“古已有之”的例子来说服曾国藩，情真意切，不可言表，给标榜“忠孝”的曾国藩一个很好的台阶下，但曾国藩为了表示尽孝的“决心”，仍表示不同意。郭嵩焘又反复与曾国藩的父亲谈“保卫家乡”的大道理，曾父认为讲得对，便把曾国藩HLf到面前教训了一番。曾国藩这才应允。但多日不见起行。郭嵩焘又同他的弟弟郭昆焘一同前往曾家劝说，但曾国藩却以郭氏兄弟入幕参赞其事为先决条件，郭嵩焘只好答应。
此后四年，郭嵩焘大部分时间都在曾国藩幕府中度过，成为湘军初创、曾国藩“大业”初起时的主要人物之一。
除了“忠”“孝”不能两全的矛盾外，曾国藩还是一个十分务实的人，他深知自己讲理学、佐朝政尚可称职，而对于兵法阵战、练兵打仗可以说是个外行，而且，打仗是人命关天的事，与写写文章不同。尤其是现在朝廷让地方乡绅自筹饷项，而自己平素所交之人，大多贫寒之家，拿不出银子，也招不到兵、勇。因此，当乡间名流好友及巡抚大员一再请他出山时，他最初均表拒绝。咸丰二年十一月，他写信给刘蓉，解释迟迟不赴团练局的原因：国藩之所以迟迟赴局暗诸君子之后者，盖自七月二十五闻讣，至十一月初五始克释缟素而更墨经。若遽趋县城，既不可以缟素而人公门，又岂可竞更墨经，显干大戾。且局中要务，不外训练武艺，催收捐项二端。国藩于用兵行军之道，本不素讲，而平时训练，所谓拳经棍法不尚花法者，尤懵然如菽麦之不辨。而侧闻石樵先生之胆勇，及左右与罗山、赵、康、王、易诸君子之讲求切实，国藩寸衷自问，实不能及十分之二三。至于催促捐项，无论斩焉在疚，不可遽登人门，即使冒尔从事，而国藩少年故交，多非殷实之家，其稍有资力者，大抵闻名而不识面，一旦往而劝捐，人将有敬而远之之意，盖亦无当于事理。是以再四踌躇，迟迟未出。
曾国藩办事讲究条理，往往从最根本处讲求。让一个身带墨孝的人出入乡绅富户之家，是对先人不孝，对他人不恭。况且，他的“人力资源”对于筹集饷项可以说没有大补。但是曾国藩又是一个有责任感的人。他对刘蓉说：“国藩居湘乡之土，为湘乡之民，义不可不同心合力保护桑梓，拟于百日之后前赴县门，以明同舟共济之义。”随即提出自己的意见：“鄙意以为壮勇贵精而不贵多，设局宜合而不宜分”，认为“但得敢死之士四百人，则固可以一战。”
12月15日，曾国藩又给他的内兄欧阳秉铨写去一信，请他前往京师，帮助将家眷接回湘乡，他还说自己在家服丧仅满四月，家中诸事尚未料理，此时若立即出山办理官事，则不孝之罪滋大。“且所办之事亦难寻头绪，若其认真督办，必须遍走各县，号召绅耆，劝其捐资集事，恐为益仅十之二，而扰累者十之八；若不甚认真。不过安坐省城，使军需局内多一项供应，各官多一处应酬而已。再四思维，实无裨于国事，是以具折陈情，恳乞终制。”为了取得昔日友好对他内心苦楚的理解，他还将折稿寄到京师，请内兄转交“相好中如袁、毛、黎、黄、王、袁、庞诸君，尽可令其一阅。此外如邵蕙西、李少荃、王雁汀、吕鹤田有欲阅者，亦可一阅。盖欲使知交中谅我寸心，不必登诸荐牍，令我出而办事，陷于不孝也。”
由此可见，曾国藩对出山办团练的困难考虑得十分细致、具体。这也可以看出他是一个务实的人。
在领命前去经办团练之前，曾国藩首先要安顿好家中之事。获知曾国藩要出山后，他的四个弟弟都要求随他离家参战，但他只答应带曾国葆一人离家，并叮嘱曾国荃、曾国华先在家守孝，等待更佳的时机再出来帮忙。
一切安排停当后，曾国藩再祭母灵，请求逝世的母亲的在天之灵能谅解他难尽孝道之举。为了对国家尽忠，他决定“墨绖（die）出山”，去迎接那不可预知的未来。