曾国藩请求解除实职，以散官留在军队继续效力，他在奏书中称：“朝廷体谅臣下的困难，不再让臣担负管理军队这样的重任，只是让我负责筹集军饷；不再让臣在军营中操劳，只让我回到官署调理身体。臣屡次陈诉病情，请允许我解除各项职务。臣认为，如果自己拒绝担任将帅，却乐意担任封疆大吏，便是一种追求安逸、避开危难的行为。臣一方面考虑自己的身体状况，一方面考虑国家大义，认为减少臣的事权是应该的，但直接回到两江总督任上，则是不应该的。因此，臣在前两次的奏折中，都请求皇上解除我的实职，但让我继续留在军营中效力。自从患病以来，我反复考虑这件事情，只有这样，臣才能安心。请皇上解除臣两江总督等职务，但准许臣仍留在周口军营中照料一切，维持湘、淮两军的军心，让所有的将领团结一心。只要臣身体许可，精力允许，一定会拼尽全力为国效忠，决不会因为已经解除军权而有所懈怠，以免违背古人鞠躬尽瘁的大义。”同治帝下旨：“曾国藩请求以散员的身份继续留在军营为国效力，充分体现了他发奋有为、不畏艰难的精神。只是两江总督的责任极其重大，而湘淮各军的军饷物资尤其需要曾国藩以两江总督的身份来筹办接济，所以说，担任两江总督与在前线指挥作战同样都是朝廷所依赖的。曾国藩自担任两江总督以来，一直都以忠诚勤劳著称，而且是朝廷特别选拔出来的，因此，完全不必担心招致逃避辛劳而贪图安逸的非议，从而过分忧虑。现命曾国藩遵照以前的旨意，仍任两江总督，以便李鸿章根据实际情况调动军队，而不必有任何后顾之忧。”曾国藩接到圣旨后，再次上奏，陈说两江总督的工作十分繁重，不是带病之躯可以胜任的。与其勉强回到原任，耽误工作，辜负皇上的大恩，不如考虑现实情况，将这个重要的职位让给贤能之人。请求皇上解除他的各项职务。同治帝再次下旨：“以前因为考虑到曾国藩患病没有痊愈，而军营中的工作又十分繁重，特地让他回到两江总督任上，以利于调养身体。后来又因他请求解除职务，以闲员的身份在军中效力，而多次下旨令他迅速回到两江总督任上，以便李鸿章能够相机而动，剿灭叛匪。曾国藩一直以来都是国家的心腹重臣，为朝廷所倚重，且以其忠心诚信长期以来为人们所信服。在这捻匪叛乱尚未平定，后方粮饷军火无人能够筹办的时候，曾国藩如此要求，怎么能不耽误战事呢。曾国藩应该充分体谅朝廷的用意，为国家分忧解难，怎么能够容许个人的些许迟疑和忧虑，更不能固执己见。要求曾国藩立即遵照以前谕旨，马上回到两江总督任上，以便李鸿章全力剿贼，早日取得成功。曾国藩回到两江总督任上后，遇到湘淮军事上的问题，李鸿章仍然应当向曾国藩请教，随时沟通联络。曾国藩不得再像以前一样固执奏请，只有这样，朕才能放心。”
曾国藩回到两江总督任上后，咸丰六年（1667），上奏称：“制造轮船是挽救时局的重要策略，请求准许将江关、海关的关税酌情留取二成，一成专门用来制造轮船，另外一成酌量补济淮军军需以及增加兵力之用。”上奏得到批准。七月，补授曾国藩体仁阁大学士，仍留在两江总督任上。十二月，捻军被平定，同治帝又赏曾国藩云骑尉世袭职位。
咸丰七年（1668）四月，又补授武英殿大学士。七月，调任直隶总督。十二月，曾国藩到京城履职，被赏准许在紫禁城骑马。咸丰八年（1869）二月，曾国藩查明了因积涝而减产的洼地每亩应征收的粮食，请求根据各地的情况加以减免。朝廷听从了他的建议。三月，上奏：“直隶的刑事案件积压太多，臣请求与直隶提刑按察使张树声加以梳理清查，现在刚刚有一些头绪，张树声却要调任山西。臣请求让张树声多留京城一年，以便清理遗留下来的案件。”同治帝下旨：“曾国藩担任直隶总督以来，做事认真扎实，致力于整顿吏治民风，大力改变原来的陋习。同意曾国藩的请求，以便张树声能助他一臂之力。”此后，曾国藩又先后两次对下属进行考核，评定优劣，并将结果列具名单上奏。得到皇上的同意后，根据考核的结果分别给予升降任免，以此整顿吏治。当时直隶的军务废弛，廷议决定选练六军。同治帝下旨让曾国藩根据以前制定的军队训练章程稳妥办理此事。
到了五月，曾国藩上奏：“臣看到朝廷内外大臣的奏折，其中关于直隶不适合驻扎外地招募来的勇丁这一问题，讨论得已经十分详细了。招募勇丁虽然不是长久之计，但东南一带募勇已有多年，其中有一些好的办法，可以作为本次练军的参考：第一是军中行文应当简单明了。招募而来的勇丁质朴耐劳，不事虚文，营规只有寥寥数条，除此之外，并没有其他的文告，管理上讲求职责安排，而不讲究官衔大小。用他们挖壕沟、筑堡垒，一天就能完成；运米搬柴，一个早上就能完成。而兵首先被编入兵籍，杂务差使都有仪式礼节，行军必须要用官车，驻扎当地必须征用民夫，油滑偷懒，是长期以来的习气所导致的。而此前所制定的练军章程，竟有一百五十多条，即使士大夫也不能很快背诵理解，更不要说目不识丁的勇丁了。这些规章制度文法太复杂，官僚气太重。这是应该参考东南勇营的第一个意思。第二是事权应当专一。一营的事务全由营官负责，统领不要干涉；一军的事务全由统领负责，大帅不要干涉。近来江楚一带的优秀将领在担任统领时能够充分施展才干，通畅无阻，都是因为事权集中。现在直隶六军的统领不断更换，统领所辖的各营各哨中的文武官员，都由总督一人选派提拔。作为一军的统领，在下有翼长分担其权力，在上有总督全权掌控，统领没有选人用人、管理粮饷等事务的权力，突然让他带兵赶赴前线杀敌，士兵又怎么肯听命？再加上总理衙门、户部、兵部的层层约束，就算良将也要瞻前顾后，不敢放开做事，又怎么能够充分发挥统领的才能呢？这是应该参考东南勇营的第二个意思。第三是军中的关系应当亲密融洽。东南勇营的制度是，营官由统领亲自挑选，哨官由营官亲自挑选，什长则由哨官亲自挑选，勇丁则由什长亲自挑选。这种层层选拔的方式就像一棵大树，统领是根，由根而生树干，由树干而生树枝，由树枝而生树叶，都是一气贯通的。因此，士兵的口粮虽然出自国家，但他们却都感激营官选拔的恩情，像是受了营官个人的恩惠。军中上下级平时就有这种恩情相连系，到了战场上自然也会共患难、相照应。现在练军的士兵，离开他们原来的军营和驻地，调入到新哨新队之中，他们的选拔都是原来军营决定的。新队伍的营官没有决定这些士兵去留的权力，而又没有其他可以优待、奖励士兵的方式，所以，上下级之间感情疏远，彼此的情意不相通，遇到危急情况，又怎么能够依靠他们呢？这就是虽然有参考勇营的意思，却难以做到的原因。
臣又听说各营的练军都有冒名顶替的弊病，防不胜防。士兵所分的粮饷不能养活自己，便经常做些小生意小手艺来补贴生计，这种状况各省都很普遍。直隶六军把其他地方的士兵调到直隶训练，一名士兵的练饷是二两四钱，在练营中支取；底饷一两五钱仍在原军营中支取。士兵不愿意离开家乡，往往选择留在原来的军营，再在练营附近雇用他人顶替，受雇的人替他参加点名和出操。一旦遇到战事需要远征，受雇的人又不肯出征，于是又转而雇用乞丐或者赤贫的百姓代替。这样一来，本来只有一名登记在册的兵丁，而所用的人却变了三次；十名练兵之中，冒名顶替的超过了一半，还怎么能期望他们有战斗力？现在寻求改变的方法，当然以杜绝冒名顶替作为开始。今后每挑选一名兵丁进入练军，马上裁减原来军营的员额。练军每增加一名兵丁，原军营就减少一名员额，底饷及练饷都归到一处发放。如果有兵丁因事被革除，便由练营招募补充，被革除兵丁的原军营不得干预。这样做，希望可以逐渐改变这种不良的风气。
此外，还有一些地方需要酌情改变。例如骑兵不应该掺杂在步兵的各哨之中，应该另外成立骑兵营，以免与敌人作战时陷入混乱。每一队不应该增加至二十五人，而应该仍保持十人一队，使队中的士兵便于沟通调遣。诸如此类的制度，臣打算拟定一个简明的章程来重整练军，争取练满一万人，以符合朝廷殷切的期望和要求。那些没有被选入练军的兵丁，各原来兵营仍在役的兵丁，也必须细心管理，不可以听任他们穷困潦倒、自甘堕落。臣打算效仿浙江减兵增饷的办法，不必大量裁减兵员，只需把老弱的士兵淘汰而不再补充，病故的士兵空缺也不再补充，节省下来的粮饷用来补发历年营中的欠款，使各军营都有一点公用经费，用来添置器械旗帜之类的物品。这样一来，应该可以让军队看起来更壮观，从而提振士气。多年以后，那些原来只能按军饷五折、七折或者八折发放的军营，全额地发放给兵丁。进入练军的兵丁，待遇本来就很优厚；即使那些留在原军营的兵丁，也完全可以养活自己。军务或许因此而逐渐而有起色，而直隶练军的事情，也不至于屡次提议屡次中断，如同儿戏。请皇上将臣的建议交由原来提议的各个衙门进行审核复议后施行。”不久，同治帝下令让曾国藩拟定练军的简明章程，上报朝廷决定。
曾国藩上奏：“臣认为用兵之道，是随地形、敌军实力的变化而变化的。最初并没有固定的规则和可供效仿的办法，即使古人著名的成功先例，后人效仿也并不能成功。今天取胜的策略，他日照搬反而失败。必须要明白过去的经验不能照搬，一己之见不能作为依靠。要随时随地采纳正确的建议，这才是长远的做法。就以扎营来说，湘军刚组建时，屡次被太平军打败。此后，湘军筑起高垒、挖深壕沟，先用来谋求自保，后来用于打击敌人。后来淮军兴起，也把深沟高垒作为自保与制敌的根本，善于扎营的军队就是精锐之师。后来围剿捻匪，便以每天行军的路程来评判各军的优劣，并没有时间去筑垒挖壕，而营垒坚固与否与胜败完全没有关系了。陕西、甘肃平定回民叛乱，贵州平定苗民叛乱，也不以扎营为第一要务。从这一点足以看出用兵没有一成不变的模式。然而扎营是自古以来打仗的常规方法，不能废弃不练。
臣愚钝，认为直隶练兵，应该增加学习扎营的方法。每个月拔营行军一次，每次行军二三百里左右。令士兵修筑堡垒、深挖沟渠，亲自运土劳作，通过这些让他们习惯于劳苦；要求士兵不坐差车，使其习惯徒步行走，增加劳工专门承担砍柴挑水这些重活。至于各部大臣所议论的士兵应该讲究穿戴仪礼，臣认为士兵们在大本营操练的时候可以整肃衣冠，借此学习仪礼；拔营行军的时候，仍然应该裹头巾穿短衣，方便行动。以上所说都是一张一弛、选择正确的方法加以实行的做法。