1877年冬或者1878年初春，时值河南大旱，袁保恒奉命到河南开封帮办赈务，袁世凯也随同前往，学习办事。袁保恒遇有机要密事，均令他查访，参佐一切，多方面培养他做官、做事的本领。时届严冬，袁世凯驰驱于冰天雪地之中，手足冻裂，毫无懈意，勤奋从公。1878年5月，袁保恒病故于任上，袁世凯为叔叔料理身后一切事，并检点公私未了各项事宜，措置一丝不苟，井然有序。
在交接公事过程中，有一件事很能说明袁世凯的为人。
因为袁世凯办事妥帖，新任巡抚涂宗瀛决定拟按月给予他30两银子作为薪资，袁世凯却坚辞不受。他说：“先叔办理赈务，自备资斧，未支公帑，今于身后背之，可乎？”由此可见，年轻时的袁世凯，并不是一个贪婪钱财、做事情没有原则的人。
在护送袁保恒灵柩返回原籍后，袁世凯即与嗣母牛氏、妻子于氏搬到陈州居住。
起初，袁世凯不想辜负父辈们对他的期望，仍打算走科举入仕的道路，所以在家读书，准备再考。由于此时他已自立家门，不再有长辈们的管束，加上欲念并不在读书上，所以着实放纵了自己一阵子。他经常嗜酒骑马，倜傥不羁，性任侠，喜为人鸣不平，慷慨好施，以善为乐，因此，寒士多依他为生，士绅推戴，很自然地他的身边聚集起了一批文人学子。为此，袁世凯办起了“丽泽山房”和“勿欺山房”两个文社，袁“主其事，捐资供给食用”。袁还与陈州知府吴重熹约为“诗酒友”，过了一段诗酒流连的悠闲日子。1879年，袁世凯的姑丈张向宸办理河南赈捐，委托他“分办陈州捐务”，袁世凯办得非常出色，“集款独巨”。为此，张用袁保恒生前的捐款，为他捐了一个从七品的“中书科中书”——一个相当于今天科级干部的虚衔，以资奖励。当年秋天的乡试，踌躇满志的袁世凯再入闱场，却不料再次落榜。
大丈夫当效命疆场
袁世凯自幼受教于名师，又兼走南闯北，见多识广，人情练达远过于本地莘莘学子，他对此也很自负。然而此次秋闱，他主持的文社中有两人中举，自己却名落孙山，感到十分丢脸。于是，激愤之下，经过慎重的思考，他将自己所作诗文付之一炬，誓言：“大丈夫当效命疆场，安内攘外，乌能龌龊久困笔砚间，自误光阴耶！”大有汉代班超投笔从戎的气概。
此后，袁世凯决意北上京城，计划以自己的官场经验和父辈们的人脉关系为自己谋取前程。可是，因为他居乡两年，不事生产，坐吃山空，家产已经挥霍殆尽。为了筹措进京活动的川资路费，他不得不向亲友借钱，到京后遍访父辈们的门生故旧，试图谋取个一官半职，结果事与愿违，官没谋到，钱却花光了，还是靠了自己的故交徐世昌的资助，才有了回乡的路费。这段经历，使袁世凯看到了世态的炎凉、人情的冷暖，也使他的头脑变得冷静、现实起来。后来，在得到周馥一封写给李鸿章的推荐书时，他并没有欣喜若狂，而是反复权衡，感到自己这个一无位二无名三无财的三无人员在李鸿章人才济济的幕府中很难出头，就放弃了这个机会，决心弃文从武，便投奔了自己嗣父的好友、督办山东海防的吴长庆，从此开始了他的戎马生涯。
袁世凯的选择，在我们今天看来或许稀松平常，不值得大惊小怪。但是不要忘记，他放弃科举，走军功道路是在“书中自有颜如玉，书中自有黄金屋”观念盛行的晚清。当时，只有少数先知先觉者才能敏锐感觉到西方的入侵，可能会造成中国人价值观的一个彻底的变化，至于大多数人，仍然还是把传统的科考之路作为进身的重要出路。在这种科举大于军功价值观盛行的时代，袁世凯敢于冒失败的风险，顶住家中亲人的压力，舍科举而走军功的道路，说明他不仅眼光独到，而且是颇具勇气的。
综观袁世凯在投军前的所作所为，可以看出，他已经具备了日后成功的重要政治潜质。有人曾把能成大事者的基本素质概括为三点：爱才如命；挥金如土；杀人如麻。第一条是说人才对成就大事的重要性；第二条则说明成就大事者必须有不吝啬钱财、乐善施人的素质；至于第三条，则说明要想成就一番大事，就必须具有心狠手辣、消灭对手的本领。此时，袁世凯还未掌握生杀予夺的权力，第三条暂时还无法表现出来。但前两点素质，他不仅具备，而且已经发挥得淋漓尽致。古人说，文人相轻。袁世凯能把家乡的读书人聚集在自己的旗帜之下，绝非易事，这说明他具有很高的领导才能。袁世凯不看重金钱，而是将它视为实现愿望和目的的工具。他有慷慨好施的习惯，所谓“天生我材必有用，千金散尽还复来”，做大事者多有此豪阔气概，大概是因为抱负远大，才不看重眼下手中的钱财吧。
袁世凯得到周馥写给李鸿章的推荐信，但袁世凯却没有用此前去投奔，成为李鸿章身边的一个幕僚，而是斟酌再三，投奔了身居前线的庆军将领吴长庆，这说明，袁世凯不仅有自知之明，而且具有极强的现实感，这也是成就大事不可少的一种素质。两次落榜后，他能断然放弃科举之路，立志从事功上出头，证明他有现实感，有自知之明；也说明他早看透了四书五经中的穷酸和迂腐，知道不能再凭借它来立世。一般人如果能得到接近当时权势如日中天的李鸿章的机会，不知该有多么的狂喜，肯定会忙不迭地前去投靠，可能还会作为炫耀的资本，可是袁世凯却能冷静地权衡利弊得失，放弃来之不易的机会，扬长避短，改投权势、名气都要小得多的吴长庆，这证明他不仅知道李鸿章幕府人才济济，自己在那里很难有出头之日，而且还知道自己的长处在何处更能得到发挥。此后，袁世凯在其一生的许多重要关头，都多次表现出了这种现实感，这是他能不断取得成功的一个重要因素。
命根子
八旗和绿营
军队是清政府的命根子，一个国家和政权不能没有自己的军队。清王朝所以能够得天下，就在于它拥有当时能够横扫天下无敌手的八旗兵和绿营军。正是凭借这两支强有力的军事力量，清王朝成功地灭亡了明朝政权和李自成、张献忠的政权，在全国范围内有效地建立了自己的统治。
八旗兵由清太祖努尔哈赤所创，包括满洲八旗、蒙古八旗和由入关前降清明军组成的汉军八旗，共20余万人。八旗兵兵籍世袭，占有圈占的土地，不同于一般军队，是享有一定特权的军事集团。入关后，八旗仍沿用以旗统兵的建制，分为“禁旅八旗”和“驻防八旗”两种，但已不归旗主所有，而直属皇帝指挥调动。禁旅八旗接近10万人，负责守卫宫廷和京师。驻防八旗10多万人则分布在全国各个战略要地。
绿营兵是入关后清政府招募和收编的汉族地主武装，以绿旗为标志，约60万人，主要配合八旗屯戍全国各地。
因为绿营不是满洲人一手创建起来的武装部队，因此，清政府一直放心不下，驻防地方的绿营，要受驻防八旗的监视与控制，绿营中的重要官职也必须由满洲将领担任。八旗兵的训练、装备、兵饷待遇都远比绿营兵优越。八旗和绿营的正规军直接归皇帝统辖，不另设统一指挥全国军队的统帅。所有军队调防均须向皇帝奏报，各级军官的任命亦须经皇帝批准，比起历代皇朝，军权更加集中。
清中期后，八旗和绿营已经腐败虚弱，清政府主要依靠乡勇的力量来镇压人民的反抗活动，团练逐渐演变成为正规的“勇营”。
19世纪五六十年代的太平天国运动，基本上摧毁了清政府作为其军事支柱的八旗、绿营武装，使满洲贵族失去了控制国家武装力量的实际能力。除了依靠地方的政治与军事力量，清政府已经难以再同太平天国进行对抗与较量。这种机会，最终造成了湘、淮军取代八旗军和绿营兵而成为清王朝此后30余年的统治基础。
曾国藩与湘军
太平天国运动给地方军事武装的扩张提供了一个极好的机缘。这次起义的规模之大、组织之精良远非白莲教起义所能比拟。在这支强大的造反队伍面前，本来就已经很虚弱的八旗、绿营军队更是不堪一击。太平军所到之处，广泛开展政治动员，动摇了地方政治秩序。对于地方士绅来说，他们发现地方利益与地方秩序受到了严重威胁，而清朝官方的保甲制度对于地方日益扩大的混乱局面竟然无能为力。士绅们在对清政府的军事力量感到失望的同时，不得不依靠自身的力量来保护地方利益，维护地方秩序。于是，他们便利用自己的家族组织或地方势力组成非官方的地方武装，起来同太平军对抗。
1852年，曾国藩回到家乡湖南，便着手领导地方团练与太平军作战。但是不久，他发现团练远远不是太平军的对手，而且团练自身组织也存在种种弊端。于是，他自作主张重建起一支新式的地方军队，这就是湘军的开始。很快，曾国藩便依靠这支地方武装肃清了太平军在湖南的势力。
最初，湘军建立主要是对抗湖南地区的太平军，其目的在于保境安民，因此，湘军在初期也不过是一支地方武装。后来湘军越出湖南，在东南各省纵横驰骋，成为对抗太平军的主力，成为维系清朝统治的主要军事力量，这是曾国藩与清政府当时都未料想到的。
湘军之所以能成为一股强大的政治军事力量，与其特殊的组织形态与发展过程有关。湘军既不同于一般的地方团练，也不是受清廷直接指挥的经制之师，它是曾国藩一手创立的私人武装，其特征主要有四。
一是兵为将有。清廷的绿营兵是世袭兵制，兵为国有。将领平时各驻其府，遇事由清廷授予兵符，率兵征战，事后则兵将各归其所，兵将并无私谊，难以结党营私。现在，曾国藩改世兵制为募兵制，规定士兵归将领所有。统领由大帅挑选，营官由统领挑选，哨弁由营官挑选，什长由哨弁挑选，士兵由什长挑选，层层招募，各有宗派，上下一气。这样，兵权不再是国家所有，而是落入将帅个人的手中。
二是私谊至上。由于湘军是自行招募而成，将存兵存，将亡兵散，其上下之间的利害关系颇为一致。将领在招募士兵过程中，十分重视利用同乡或家族关系，将领之间往往也是同乡、同年或师生之类的关系。整个湘军都是依靠这种私人关系来维持的，这就助长了湘军的派性观念。曾国藩本人就十分重视这一点，无论是战时调兵遣将还是平时向朝廷举荐官员，他都强调从私人关系出发。
三是军饷自筹。绿营兵由于是清廷的经制之师，故其兵饷均由政府提供。湘军初建时，军饷尚由官方提供若干，后来曾国藩发现中央财政枯竭，索取无望，于是决定自筹钱款。湘军军饷一般由大帅就地自筹，然后自上而下分发，事后向中央核报。自筹军饷不仅提高了湘军的团结，而且也增加了湘军的独立性。曾国藩本人后来承认：我朝之制，一省所入之款，报明听候部拨，疆吏亦不得专擅。自军兴以来，各省丁漕等款，纷纷奏留，供本省军需，于是户部之权日轻，疆吏之权日重。
四是各尊其长。由于从招募到发饷、升官都由曾国藩说了算，在湘军中便养成一种风气，除非招募、选拔过自己的顶头上司，其他人无论官职大小、地位高低皆拒不从命。所以，不仅湘军以外的人无法进行指挥，即使湘军内部亦必须节节钤束，层层下令，除了曾国藩，任何人难以越级指挥下级部队。
湘军的这些特点表明，湘军不仅是有别于八旗、绿营的军队，而且具有很大的独立作战能力。在与太平军的对抗中，湘军不断发展壮大，地位也一再提高，用自己的作战实力充分证明了这一点。
李鸿章与淮军
李鸿章，字少荃，安徽合肥人。太平天国运动爆发后，他成为曾国藩的门生、幕僚。1861年，他奉曾国藩的命令，收编安徽的地方团练，仿照湘军营制，开始组建淮军。次年，他率领淮军6000多人到达上海，大量购买洋枪洋炮，装备淮军，雇用外国军官教习。此后，他联合上海的买办势力，开办江南制造局和金陵机器局等大型兵工厂，制造用于自己武装的军火。他依靠这支使用洋枪洋炮的军队，伙同曾国藩的湘军，绞杀了太平天国革命，接着，他又用淮军把捻军镇压下去，由此，他被朝野上下推崇为“中兴名将”。消灭太平天国后，曾国藩为了躲避功高震主的嫌疑，自剪羽翼，大肆撤裁湘军，李鸿章的淮军就代替曾国藩的湘军成为清政府赖以维系统治的支柱。由于李鸿章手中有强大的武力，清政府不能不依靠他维护统治。1870年，李鸿章接替曾国藩成为直隶总督兼北洋大臣。为了保持北洋地盘，巩固和扩大淮系集团的力量，他创办了轮船招商局（1872年）、开平矿务局（1878年）、天津电报总局（1880年）、上海机器织布局（1882年）和天津铁路局（1887年）等一大批近代民用企业。同时，还修筑大沽、旅顺、威海卫等处军港炮台，1881年，又成立当时亚洲最大的海军舰队。他又派淮军军官分赴德、英、法、日各国学习陆海军，设立天津水师学堂和北洋武备学堂，大力培养洋务军事、交涉“人才”。一时间，李鸿章及其淮军一跃而成为清政府赖以生存的重要基础。