曾国藩认为，中国自古以礼教治国，不论遭遇如何的变故，圣贤的书不可不读，圣贤的遗教不可不守；中国几千年的传统文化，尤其是儒家学说，不可不继续发扬光大，万世流传。因此，军队的治理也必须合乎礼教的要求。
在礼治观念的驱使下，他以"礼"劝说、动员和吸引封建官僚士大夫以军旅为职业，与农民起义军为敌：他以"礼"要求、鼓励和诱导他的子弟、他的部属，去维护传统的儒家文化。维护封建专制制度，维护清王朝的统治，并不惜以死效忠。可以这样说，曾国藩之所以与太平天国为敌，实质上就是因为他受儒家思想濡染太深。他的头脑中，君君臣臣父父子子的观念超越了一切。因此，他要为维护清朝统治而战，为维护中国传统文化而战。
曾国藩特别注意用仁义礼教去陶冶、维系军心，培植绝对服从于自己的个人。曾国藩认为，农民起义之所以频繁发生，内忧外患之所以纷至沓来，八旗、绿营兵之所以在同太平军作战的过程中一触即溃，主要原因就在于中国固有的纲常伦理已大乱，人心涣散，尤其是清军缺乏为朝廷卖命的忠义血性。为了改变这种状况，曾国藩非常重视孔孟"仁"、"礼"那一套在治军方面的作用。
曾国藩治军的最终目的，就是要把孔孟"仁"、"礼"思想贯穿于士兵的头脑之中，把封建伦理观念同尊卑等级观念融合在一起，将军法、军规与家法、家规结合起来，用父子、兄弟、师生、友朋等亲谊关系掩饰、调剂以至弥补上下尊卑之间的关系，极力减少湘军内部将帅之间、士兵之间的摩擦和抵触情绪，使士兵或下级易于尊敬官长、服从官长，为官长出生入死，卖命捐躯，在所不惜。
为顺利达到这一预定的目的，曾国藩非常重视对士兵的思想政治训练。
在对士兵的思想政治训练方面，曾国藩着重强调"恩威并用"，即一方面要"仁爱"，一方面要"严肃"。
曾国藩认为，军人应以军营为家庭，那么在这个第二家庭里，家长对子弟，即官长对士兵，也就应该讲仁爱，兵勇之间也应该以仁爱相待。因为，平时大家和睦相处，互相仁爱，建立了一种牢不可破的感情，那么到了战时就会互相照应，争先恐后，勇往直前。
曾国藩对士兵的训练，特别重视"训"字的作用。他认为，"训"有两方面的意思，"一日训营规，二日训家规。"营规就是"点名、演操、巡更、放哨"；家规就是"禁嫖赌、戒游惰、慎语言、敬尊长，此父兄教子弟之家规也"。
如果一个营官，能"待兵勇如子弟，待人人学好，个个成名"，"则众勇感之矣"，同时他本身就是一个好营官。在具体做法上，曾国藩对部署谆谆诱导，反复强调要以三纲五常为基本内容，而忠君事长则是其核心。
他在给各将领的书札、批牍中，以自己的实践经验，字字句句用肺腑之言去开导他们，要以父母仁爱子弟之心去教育兵勇。他认为将帅对士兵如父兄对子弟一般仁爱慈祥，那么士兵就会像子弟对父兄那样忠义孝敬。他反复强调，这其间首要的问题是，将帅应以身作则，做出榜样，才能影响兵勇的言行。
曾国藩认为，军事不同儿戏，行军作战是一件不寻常的事情。因此，在强调仁爱的同时，他还要求在"严肃"二字上痛下工夫。
这里所说的"严肃"，实际上强调的是军队的纪律性。曾国藩考虑到，兵勇如有娇气，即是覆败的预兆。所以，他劝导将士要时时体察营中是否有娇气。有，则应及时采取补救措施，决不能听之任之，姑息迁就，酿成后患。
他从见闻中体验到，清朝八旗、绿营兵纪律松弛，时常扰害百姓，因而得不到下层民众的支持：所以他力求在湘军中挽回这种风气，反复申说，要求兵勇勿扰百姓，并且规定，兵勇不许此营议彼营之过，以免互相发生争端。总之，曾国藩认为，严肃军纪，应从日用眠食上下手，尤其要脚踏实地，克勤小物，而后才有成效。
为了严肃军规，使兵勇都能遵守纪律，针对他们大多不识字的情况，他用浅显的语句，将兵勇起居生活、营房驻扎、出阵攻守等方面的规章与告诫之言，编制成种种歌词，如《爱民歌》、《得胜歌》、《保守平安歌》等，要求兵勇口诵心记，于无形之中印八脑海，在日常言行中约束自己，以期收到积极的效果。
曾国藩在驾驭下属的时候，利用软硬兼施、恩威并重的手段，使得效力之人尽职尽忠。
刘铭传是淮军中有名的将领。他出生淮北，身上带有一股粗野豪迈的味道。十八岁那年，他一人将勒索其家人的土豪脑袋砍下。从此，刘铭传在当地出了名。他招兵买马，组织了一支队伍，横行乡里。
一八六一年，李鸿章开始招募淮勇，并且立即将刘铭传的队伍扩充到淮军中，并起名为"铭军"，由刘铭传指挥。李鸿章看好"铭军"，花了不少财力来改进该军装备。刘铭传没有辜负李鸿章的期望，带领铭军立了不少军功。
但让李鸿章烦心的是，刘铭传为人狂妄，难以培养。
拔捻的时候，曾国藩要借用淮军，李鸿章索性将铭军调给他，由他指挥。
当时，曾国藩手下还有一员猛将，他就是陈国瑞。陈国瑞是湖北人，少年时曾加入了太平军，后来他投靠了蒙古王爷僧格林沁。此人骁勇善战，很有胆识。
两名猛将都没有读过书，有才无德，难免发生矛盾。二人所带军队在军营里发生过两次械斗，令曾国藩很头疼。曾国藩苦苦思索，欲寻找一个好好使用二人的方法。
刘铭传有勇有谋，所率铭军装备先进，战斗力强。为了让刘铭传听从指挥，曾国藩用了独特的办法。每当刘铭传有过，曾国藩总是对他进行严厉批评，但对其过失并不追究。刘铭传也因此对曾国藩有了敬畏之心，不再狂妄。
曾国藩知道陈国瑞因为佩服僧王才为他效力的，要想使这个桀骜不驯的人为自己效力，自然应该让他对自己心服口服。陈国瑞违反军纪后，曾国藩先是义正词严，尽数落之能事，灭掉他的嚣张气焰，然后转移话题，夸赞他的优点，称赞他是一个可造之才，将陈国瑞治得服服帖帖。然此人本性难改，一旦回到营中，便将曾国藩的命令抛诸脑后。曾国藩见软方法不行，立即向清廷请旨，要求撤去其职位。陈国瑞知道后，顿感惊慌，向曾国藩求饶。
曾国藩就是通过这种恩威并用的方法把如此强悍的两位猛将驾驭有余。
其实，也正是由于曾国藩会用人，才会有很多出色将领敬畏他，愿意为他出生入死。