曾国藩认为，做事要有大局观，他曾经说过这样一句话："军中阅历有年，益知天下事当于大处着眼。"其实，不只是在用兵打仗方面，曾国藩在其他的许多方面也都能够比常人看得更远。曾国藩的成功，首先是他在大局把握上的成功。
曾国藩建立湘军，就是从大局考虑作出的一个明智抉择。清朝自道光皇帝开始，各地农民起义连绵不绝，到成丰皇帝时期，太平天国运动蓬勃兴起，西部的苗民、西北的回民和各地的天地会也举起抗清大旗，清朝面临着严重的统治危机。然而，清朝建国之初十分强大的绿营兵和八旗兵在镇压反抗运动中简直不堪一击，屡战屡败，根本不能让清王朝的最高统治者有安宁感。在这种情况下，必须有一支新的武装部队来镇压叛乱，维护清王朝的统治。正是在这种形势下，以曾国藩为首的湘派人物组建了一支全新的武装力量——湘军。
曾国藩从大处着眼，要把湘军建设成为与绿营兵完全不同的队伍，为了加强作战能力，曾国藩采取了大刀阔斧的军事改革，针对绿营兵的腐败，用新的战略思想、新的营制、新的招勇办法，使湘军成为一支完全不同的队伍。
后来的事实证明，曾国藩的治军思想是非常正确的，如果不是湘军，也许清政权会在太平军的进攻下陷入崩溃。
在用兵打仗上，曾国藩也注重把握大局，善于从全局的角度来考虑战胜，而不是局限于一战一役的胜负。曾国藩以一介书生的身份初练湘军时，对于用兵打仗的道理并不懂得多少，但是他却把中国历史上最大的一次农民起义给镇压了下去。实际上，曾国藩的战役指挥能力并不强，他亲自指挥的战役，也是以失败居多。然而曾国藩的长处在于他具有丰富的历史经验，具有超出常人的战略头脑，长于从大处落墨，长于整体的战略谋划。
一八五三年，在战争初起之时，曾国藩就论述过当时的军事形势，提出"湖北省的存亡，关系到天下全局的安危"的观点。这个观点，可以说是眼光独具。当时清政府为了扑灭太平天国，在南京周围相继建立了江北大营和江南大营，然而清政府的注意力只局限于东南一隅，用兵的重心也在南京一城的得失，而并没有意识到必须着眼于与太平军争夺整个长江流域，才能最终攻下南京。曾国藩从全局出发，根据地理形势，认为必须首先控制长江中上游地区，先武汉，次九江，次安庆，只有这样，才能由上制下。克复南京。
这个计划，表现出他在战略眼光上要高出清政府不知多少倍。一八五四年初，太平军西征部队由安徽挺进湖北，先后克复安庆、九江、汉阳，湖北省城武昌戒严，清政府在太平军的强大攻势面前无所适从，一会儿救东，一会救西，被太平军搞得团团转。曾国藩在这个时候给成丰皇帝上了一个奏折，认为不能光顾眼前的得失，还要考虑到大局的发展。他说：论目前的警报，那么庐州是燃眉之急：论长远的发展，则武昌为必争之地。为什么呢能保住武昌，就能控制金陵的上游，就能巩固湖北的门户，就能打通两广四川的饷道。如果武昌不保，那么就会成割据之势，这是最值得担忧的。因而他极力主张集中两广、两湖、江西、安徽的兵力，与太平军争夺武昌，进而由上而下，沿江攻占两岸重地。以着眼于发展为原则，湘军先是攻占了武昌，接着顺江东下，连连突破太平军在田家镇、半壁山的防线，包围九江，占领湖口，使太平军遭受了重大损失。这是曾国藩战略的初步胜利。
一八五九年二月，曾国藩针对石达开率数万太平军入浙、入闽，又转入赣南，使江西湘军处于东、南、北三面受敌的不利形势，及时向咸丰皇帝上了一道很有战略眼光的折子，这也就是著名的《通筹全局折》。在这个折子中，他全面论述了当前的形势和湘军应该采取的应对之策。在这个折子中，他提出了两个原则：第一个是论全局和局部的关系。他说："就全局来看，如果两样都有利，就应当取其大者；如果两样都有害，就应该取其轻者。要敢于舍弃小利而图大利，舍弃枝叶而图根本。"第二个是要分清轻重缓急，在一个时期，只能保持一个主要的战略方向。从这两个原则出发，他指出："论大局的轻重，应该集中力量进攻江北，以便早日肃清中原，论目前的缓急，则应该先攻景德镇，以便保全湖口，先巩固南岸。"于是湘军收拢兵力，集中进攻赣北重地景德镇，不仅改变了被动局面，而且为后来进军安庆奠定了基础。
一、五九年十一月，曾国藩又向清政府提出了全力进攻安庆，迫使太平军进行战略决战的战略计划。这个计划，可以说最充分地体现了曾国藩的战略水平。太平天国的首都是南京，清政府一直是盯着南京用兵，为此还先后组织了江南大营、江北大营，结果打了几年，不但南京没有打下来，江南、江北大营却全军覆没，清军在整个战略形势上也更加被动起来。曾国藩认为，清政府之所以越来越被动，从根本上说，是战略指导上的错误。他认为要想攻破南京，必先驻重兵于滁州、和州，而后可以打破南京的外部屏障。而要驻兵滁州、和州，又必先围攻安庆，以攻破陈玉成的根据地，并迫使陈玉成前来决战。事实证明，曾国藩的这个见解是十分高明的。由武汉而九江，而安庆，而南京，清军一步步地控制了长江流域，在战略上占尽了优势。
由于曾国藩始终坚持耍站在战略全局的高度，根据敌对双方的形势来制订战略计划和进行战争指导，把总揽全局作为制定战略的出发点，始终具有强烈的全局观念，所以湘军虽然在局部的战斗中不断吃败仗，但在战略态势上却越来越有利。而太平天国尽管在局部的战役上取得了一些胜利，但整个战略态势却越来越不利，这是湘军最终能够将太平天国镇压下去的重要原因之一。用兵如对弈，谋势不谋子。用兵如此，为政之道，也是如此。战略的根本特点，在于它的宏观性和长远性。
曾国藩又一个从大处着眼的鲜明例子，就是倡办洋务。曾国藩从大局出发，考虑到想要富国强兵抵御外侮就必须建立洋务工厂，走发展经济的路子来改变中国。一向被视为天朝大国的清王朝，在道光年间突然遭遇外国势力的进攻，在"船坚炮利"的"外夷"炮火之下，清军虽然不乏勇敢作战、坚决抗敌的将士，但还是一败再败，结果在两次鸦片战争中都被迫签订了屈辱条约，使中国沦为半殖民地。清军在两次鸦片战争中的惨败，让曾国藩体会到了洋枪洋炮的厉害，于是在借助洋人镇压太平天国起义的同时，他也在思考着将来对付洋人的办法。当时，清朝内部有许多人提出购买外国的火轮船镇压太平军，得到了清政府的批准，并从英国购买了七艘轮船，打算"先以火轮兵船扫清江面，即以炸炮、火箭等器用攻坚城"。对此，曾国藩也持赞成意见，但是他又认为应该将目光放得更长远一些，主张购买外国武器不仅是为了镇压太平军，还应该保卫海上安全，要将抵御外侮与镇压起义军放在同等重要的位置上考虑。
曾国藩提出，购买洋人武器以后，耍招募能工巧匠进行模仿制造，因为曾国藩的目的是要创办自己的军械所。一八六二年，曾国藩在安庆设立了中国第一所军械所，这是近代中国人学习西方的第一次尝试。为了学习外国先进技术，曾国藩还专门聘请外国工程师和工匠指导中国人，又派专人编译图书，翻译有关的外文书。而另一个更大的举措是派遣留学生出国，开了中国留学的风潮，对中国社会在之后发生翻天覆地的变化起到了巨大影响。