道光二十五年（1845年）冬，林则徐写信劝胡林翼出山效力，不久，两江总督陆建瀛、安徽巡抚王植、座师藩世恩等也纷纷函劝胡林翼出仕。但如果按原官起复，胡林翼只能是从七品的内阁中书缓慢升迁，如果按部就班地晋升，什么时候能做到督抚大员？这与他的才干确实不相称。
于是，胡林翼在姻丈两淮盐运使但明伦的帮助下改从捐纳之途发展。用现在的话说就是买官。
道光二十六年（1846年）他遵例捐银15000千两，谋得知府之职。捐官之法，是清朝政治的一大弊政，然而也正因为有此一种办法的存在，才可以使胡林翼由一个待补缺的七品中书，一跃而为四品知府。出身正途的胡林翼无奈出此下策，确为难堪，但也正因为有这样一番刺激，才使他对于做官出仕的观念有了全新的看法，对他的功名事业前途，毋宁正是一个很好的转变。
根据当时捐例，捐纳为官可以自主择地，胡林翼完全可以选择一个发达的地方，挑个肥缺做官。但他是正途出身，捐纳为官已让他蒙羞，所以宁愿到边远之地，以区别于那些输金为吏者。胡林翼选取了地瘠民贫、向来被人们视为畏途的贵州。
贵州是胡林翼事业开始的地方。在贵州任上，胡林翼先署安顺知府，后调镇远知府、黎平知府。
此时太平天国起义风起云涌，咸丰三年（1853年）洪秀全定都天京（今南京），对清廷造成严重威胁。云贵总督吴文镕调任湖广总督，督师进剿。吴文镕深知胡林翼是一位难得的将才，他奏调胡林翼带黔勇赴湖北协办军务。咸丰四年（1854年）胡林翼率部出黔。他终于有了在更广阔的范围内大显身手的机会，效忠王朝与建功立业在儒生出身的胡林翼那儿是合而为一的。
此后的7年中，胡林翼率部在湖北、安徽、江西战场与太平军主力进行角逐，身经百战，艰苦备尝，相继攻克武昌、九江，并曾围困太平军江北重镇安庆，为清军攻陷天京，做了军事铺垫。在此期间，他兼任湖北巡抚，整顿湖北的吏治与财政，并督练出一支善战的楚军，为清廷镇压太平天国运动立下了汗马功劳，直至生命的最后一息。