曾国藩认为，当自己的力量有限时，不可轻易地亮出底牌，与对方交手，因为这时出手的胜算是比较小的：当力量已经得到积蓄，就应该与对方正式交手。这在前面的治军打仗部分已经讲到了。其实，不只是对待敌人耍采取这样的态度，对待内部的合作伙伴，也可能要采取同样的策略。曾国藩认为，由于种种原因，做事要经常与别人合作才能完成，在合作的过程中，合作伙伴可能会不守规矩，当自己的力量有限时，或者是出于大局的考虑，应该委曲求全，暂时不与对方发生激烈冲突；但如果对方的行为已经对大局发展构成严重威胁时，则应该坚持"该出手时就出手"的原则，要及时地向对方下手，这样才能掌握主动权，才有利于大局向好的方向发展。曾国藩对清德和陈启迈的参奏就是他两次典型的"出手"。
曾国藩在兴办团练、组建湘军时遇到过一些麻烦。驻扎在长沙的绿营兵与曾国藩的湘勇没有什么关系，曾国藩本可专心训练湘勇，对绿营兵置之不理。提督是一个省的最高军事长官，训练绿营兵本是湖南提督鲍起豹的责任。
然而，提督鲍起豹没有才能，绿营兵的训练任务就落到了曾国藩的肩上，曾国藩令属下抚标中军参将塔齐布统一练绿营兵和湘勇。
曾国藩练兵标准很高，要求很严。不管天气多么恶劣，每天训练不懈。
湘勇主要来自田间，且刚编入团练，是比较能够吃苦的。而绿营兵则不同，他们可以称得上老兵油子，又因多年没有打仗而变得懒散，并逐新养成了喝酒、赌博、抽鸦片的恶习，无法忍受曾国藩的严格训练。长沙协副将清德瞧不起曾国藩和塔齐布，竟然带头捣乱。先是清德不出操，后是与提督鲍起豹公然在军中起哄：''这么热的天还要出操，这不是存心跟兄弟们过不去吗？"他们的做法无疑加剧了绿营兵和湘勇之间的矛盾。
绿营兵因战斗力差，颇受勇丁轻视，而勇丁的月饷，高出绿营兵二三倍之多，绿营兵也嫉愤交集。因此，兵与勇时生摩擦。一天，团练的湘勇正在训练，试枪时误伤了绿营军中的一个小头目。绿营军小题大做，他们吹起号角，举起旌旗，准备对曾国藩属下的湘勇发动进攻。曾国藩忍住内心愤怒，鞭打了试枪的湘勇，缓和了充满火药味的紧张气氛。
然而，鲍起豹等人却不断从中挑拨，双方愈来愈情同水火，渐至常生械斗。每次发生械斗后，曾国藩只是责罚湘勇，没有与绿营兵论理，想息事宁人。
然而，绿营兵越来越猖狂，胆子也越来越大。绿营兵气焰更盛，益发耀武扬威，公然凌辱勇丁了。正合了曾国藩的两句话——"君子愈让，小人愈妄。"曾国藩不得已而咨请鲍起豹按军法整饬，鲍置之不理。绿营兵于是胆子更壮了。他意识到忍让不能灭掉绿营兵的嚣张气焰。一八五三年五月，曾国藩写好保举塔齐布的折子。六月，撰写《特参长沙协副将清德折》，将清德所犯大清律法一一列举，望清廷能够严肃处理此人。清廷采纳了曾国藩的建议，将长沙协副将清德革职查办，由塔齐布补缺。
曾国藩的参奏无疑又加深了其与提督鲍起豹的矛盾。一八五三年八月四日，绿营军中的永顺兵和湘勇聚赌，并因此发生械斗。六日，绿营兵居然拉起队伍，带着兵器，鸣号击鼓，包围了参将府，要杀塔齐布，吓得塔齐布躲在菜园旁边的草丛里，没有被找到，才逃过一命。绿营兵找不到塔齐布，放火把参将府烧了，又一窝蜂拥到团练大臣曾国藩的府邸，照样团团围住，扬言要杀曾国藩。幸而曾国藩的临时行馆设在紧靠巡抚衙门的射圃中。曾见事已急，乃亲自去叩巡抚骆秉章的偏门，骆出来喝止，绿营兵才悻悻作鸟兽散。
然而曾国藩所统率的湘勇，日子却更难过了，进出城门的盘查斥骂，街头的公然侮辱，甚至拳打脚踢，都是常事。有人劝曾国藩据实参奏鲍起豹等人，而曾国藩则以不久前参革了副将清德，这时不便再动弹章，于是托言：
"做臣子的，不能为国家平乱，反以琐屑小事，使君父烦心，实在惭愧得很。"即日将所部湘勇分别遣驻外县，自己的司令部也移驻衡州。
一八五四年十二月，为保江西安稳，湘军主力移驻江西。作战期间，如果没有军饷，部队将无法生存。湘军保卫江西，军饷由江西提供，合情合理。
然而，江西巡抚陈启迈拒不合作，反对提供军饷给驻扎本省的湘军。
陈启迈，湖南人士，与曾国藩是同乡。不仅如此，他与曾国藩还是同榜进士，后在翰林院与曾国藩同事。二人渊源如此深厚，按常理，即使曾国藩的主力部队不在江西，如果需要帮助，陈启迈也应尽绵薄之力才对。然而，此人并不念及旧情，尽管曾国藩派军力保其管辖省稳定，他也不想出力帮忙。
陈启迈的做法的确不通人情，不合事理。
当时，曾国藩仅以兵部侍郎的身份领兵作战，并不能干预江西行政，军饷成了一个亟待解决的问题。此时，湘军在湖北、湖南、江西三省驻守，防范太平军，可见湘军在当时对清政府有着举足轻重的作用，俨然成了清廷支柱。如果曾国藩此时向清廷提出要求，只要不过分，清廷岂有回绝之理7曾国藩本想与陈启迈商议尽快解决军饷问题，可谁知陈启迈不识大体，竟公然与曾国藩唱起了对台戏。
这时，发生了另一个冲突。举人彭寿颐在江西办团练，与知县李皓产生了矛盾。经查证，彭寿颐并无过错，他颇有才华，为人耿直，一心一意办团练，而李皓却有受贿、弃城而逃等罪。然而，陈启迈却不以事实为根据，颠倒黑白，欲治彭寿颐的罪。为化解冲突，曾国藩与陈启迈商量，想将彭寿颐调到自己的军营。陈启迈并不理睬，反而认为曾国藩干涉了他的军务，于是派人将彭寿颐逮捕，将其屈打成招。
曾国藩已屡屡让步，而目前形势又如此紧张，不免愤慨。他立即撰写一折，向清廷陈述陈启迈罪状，请清廷惩办。清政府为了安抚曾国藩，对陈启迈及其心腹进行了严厉处置。