他与后来投奔吴长庆的袁世凯（1859~1916）一起成为吴长庆的文武两大幕僚，这是他与袁世凯渊源的开始。在朝鲜战争中，吴长庆听从张謇建议，起用新人，并推荐了袁世凯，袁世凯从此在军营中渐渐崭露头角。1884年，如袁世凯所预言，中法在越南开战，战事往北蔓延。1884年5月，吴长庆率三营淮军回防中国北方。日使和朝鲜国内亲日派勾结发动政变，劫持朝鲜国王，处决亲华派，这就是朝鲜历史上的“甲申政变”。在来不及向国内请求的情况下，袁世凯一人带队直冲王宫，苦战一日一夜，将朝鲜国王救出带往清军大营。此事引起了清政府对袁世凯的关注，此时袁世凯尚不足25岁。
但在1894年中日甲午战争中，在主战和主和立场的选择中，袁世凯背弃了主战的吴长庆，投靠了主和的李鸿章，这让张謇气愤不已，他亲自执笔，联名数人给袁世凯写了一封长达8000余字的谴责信，不久便和袁世凯断交。到李鸿章甲午一役身败名裂后，袁世凯又马上巴结荣禄。及至荣禄一死，他又搭上庆亲王奕劻。就这样，袁世凯一步步登上了权力的巅峰，这是后话。
甲午战争后，李鸿章签订了《马关条约》，这一丧权辱国之举，遭到了清流派、维新派的强烈谴责。时值18省1300多名举子在京会试，37岁的广东南海考生康有为在一夜之间赶写万言书，提出“拒和、迁都、变法”，强烈要求光绪皇帝“下诏鼓天下之气，迁都定天下之本，练兵强天下之势，变法成天下之治”，这就是震惊天下的“公车上书”。
张謇也义愤填膺，那时张謇正在守制，没有任官，这一事件加深了他对软弱的清政府的失望。在张之洞相邀之下，张謇最终带着“舍身喂虎”和替书生争口气的心态，走上了办实业这条道路。这是他的不归路，尽管也有气馁和抱怨，尽管没有完全脱离政治，但从此，他热衷于举办实业，并将主要精力放在了兴办工厂及举办教育等公益事业之上。
如果说在张謇人生的前42年里，翁同龢是他生命里的贵人的话，那么他后半生的恩人便是张之洞。张之洞与张佩纶一道，是北清流派的代表人物，都来自河北。两位与清流为伍的官僚，在生命的最后20多年里，都顺应时势、不知不觉地擎起了洋务大旗。
张之洞与曾国藩、李鸿章、左宗棠，并称晚清“四大名臣”。毛泽东对张之洞评价甚高，曾说“提起中国民族工业，重工业不能忘记张之洞”。对于刚中状元不久的张謇来说，张之洞就像一面旗帜，成为他生命中冥冥的坐标。
换句话说，同样的清流意愿、同样的主战态度、同处转型背景之下，张謇对于张之洞的认同，无意间让张之洞成为中国从洋务思想向更进一步的“实业救国”思想过渡过程中的一位关键人物。尽管张之洞在吸引有才干的商人方面，与李鸿章相去甚远，对张謇的指引却是其识人的一大亮点。
到第一次世界大战前夕，张謇已兴办各类企业二三十家，形成了一个以轻纺工业为核心的企业群，一个在东南沿海地区独占鳌头的新兴的民族资本集团。这么多企业集中在江苏南通城北外6公里的小小唐闸，有人说这里俨然一个“小汉阳”。只不过，张謇不像张之洞那样能调动国家投资。作为开埠城市，汉口活跃着外国资本势力、晚清政府阶层、武汉近代民族工商业阶层，而南通主要依靠民间投资。张之洞在武汉主持的多是重工业，张謇在南通则主持轻工业和民生工业。武汉三镇历史悠久，在三国、汉末和明末前，武昌、汉阳及汉口三镇已分别形成，而南通在张謇经营下，也奠定了一城三镇的城市格局。唐闸是工业区；西北的天生港有码头、海关、火柴厂、电厂等，是港口区；城南是文教商贸金融休闲区。
张謇在南通20年间所参与的企事业数量高达180余家，囊括工业、垦牧业、交通运输业、金融商贸、商会民团、文化教育业和公益事业。即使到现在，大多数南通人的小学、中学甚至大学生涯都还是在张謇所创办的学校里度过的；大多数南通人最常去的电影院是更俗剧场，张謇当年在这里接待过欧阳予倩、梅兰芳、袁克文；大多数南通人都在濠河岸边的公园里散过步，晒过太阳，打过水漂，这个公园是张謇当年规划的5个城市公园之一。
清华大学教授、两院院士吴良镛先生说：“南通是近代史上中国人最早自主建设和全面经营的城市典范，其起始之早、功能之全、理念之新、实践意义之强，堪称‘中国近代第一城’。”《南方人物周刊》在《张謇：近代实业第一人》一文中这样评价张謇对于南通的意义：
如果说城市也有血脉的话，那南通的血管深处，永远活着一个张謇。这个城市里有个说法叫“一山一水一人”，山是狼山，水是濠河，人是张謇。
在20世纪初的中国，南通仿佛是一个黄金城市。举国动荡，这个江苏一隅的县城却在张謇的主持下建立了一个相当完善的城市系统。
张謇的事业并不是苏商里做得最大的，但他的影响却是最大的，这种影响已经远远超越了苏商的范畴。晚清状元、实业先驱、民间首任实业部长，这些荣誉与头衔让他成为历史标签。尽管在胡适看来，张謇是中国近代史上一位伟大的失败英雄，但他高擎的“实业救国”大旗，用一位读书人不同凡响的报国热忱和情怀，共鸣了一个时代，引领和启蒙了一个时代具有理想和抱负的中国人，这是他远非一般实业家所能比拟的高度和境界。
张謇，似官而非官，似商而非商，既无大权，也非巨富，但社会地位很高。他是那个时代政府鼓励创富所树立的一面旗帜，也是中国早期商业经济领域教父级的人物。
无锡商人镜像
张謇曾说，南通事业由其个人主持，较有系统，但要维持久较难，不若无锡之能人自为战，可以永兴不败。
清末时无锡已有新式学堂120所，20世纪20年代，在无锡商人的积极参与下，无锡的新式学堂陡增至380所，形成了初等、中等、职业教育相并举的格局。在无锡市中心的崇安寺附近，有一座城市公园，名叫公花园，建成于1905年，这是江苏省历史上第一个供市民免费游乐的公园，由无锡工商界人士集体捐资建造。
另外，荣宗敬、荣德生兄弟修建的梅园、锦园，王禹卿修建的蠡园，杨翰西修建的横云山庄、澄澜堂、长春桥，王心如、王昆仑修建的七十二峰山馆等景点，都在建成以后，免费向市民开放，使无锡变成了被众多公园簇拥的花园城市。
京杭大运河全长约1794公里，在无锡境内长40.8公里，流过无锡市区的长度是14.96公里。运河两岸鳞次栉比排列着前店后坊的江南民居建筑，在河水的映衬下，处处荡漾着江南小城的韵味。就是这座小城，在100年前相继涌现出周舜卿，杨宗濂、杨宗瀚兄弟，祝大椿，唐骧庭（香港财政司司长唐英年曾祖父），薛寿萱（曾任中国驻英、法、德、意4国公使的薛南溟第三子）等众多民族工商业的巨子，他们在无锡沿大运河两岸或在上海及其周边地区、武汉、郑州等地，用跌宕起伏的人生，抒写了一段段传奇。
1904年，周舜卿（1852~1923）在家乡周新镇创办了无锡第一家机器缫丝厂——裕昌丝厂。更让他扬名的是，1906年，他按有限公司体制集资50万两白银，在上海创设信成商业储蓄银行，取“有信必成”之意，这是中国民营银行的鼻祖，也是中国第一家有货币发行权的民营金融企业。
在张謇实践着一个实业家之于一座城市的理想的时候，周舜卿也在无锡通过辟道路、创工厂、设店铺、开邮局、办中小学校和养老院，使一个名不见经传的小村落发展成了一个新兴市镇——周新镇。1933年，年仅23岁的曹禺写成了多幕话剧《雷雨》。剧中的老爷周朴园，给观众留下了深刻印象。有趣的是，《雷雨》上演后，便有了周朴园的原型实是当时上海滩的大富豪、锡商代表人物周舜卿的传闻。从开矿到休妻，周朴园与周舜卿之间的确有许多相似之处。
在中国商业史中，兄弟默契配合创立家业的例子不在少数。1904年后，张謇与张詧弟兄俩情深意笃，配合相得益彰：张謇主外，操控全局；张詧主内，沉稳干练。1906年，广东佛山人简照南、简玉阶兄弟在香港创办南洋兄弟烟草公司，1907年广东香山人郭乐、郭泉兄弟在澳州创办了永安百货。这种情况在无锡杨宗瀚和杨宗濂、荣宗敬和荣德生兄弟身上再次得到体现。不同的是，杨氏兄弟只专注在南通一处，整理和实践着自己的抱负；荣氏兄弟则先立足于无锡，后放眼上海滩，尔后环视汉口、徐州、郑州等地，事业走得更远。
作为无锡第一家近代企业和无锡近代工业的奠基人，业勤纱厂和杨氏兄弟已经永远融入了无锡工业发展史，但真正让无锡这座城市扬名中国的，却是比杨氏兄弟晚一代的荣氏兄弟。
无锡荣宗敬、荣德生兄弟为什么会走上实业之路？荣宗敬给出的说法是，自己年轻时崇拜张謇，认为只有多办工厂，发展工业，才能“杜侵略”、“抵外货”。荣德生平生也处处推崇并仿效张謇，这是榜样的力量。张謇一生，最喜欢用的花押是“自强不息”四字，有时简写为“自强”二字。他儿子评价父亲说，“时时刻刻，抱着用世之心和创造事业的大志。他做事，嘴里不说空话，只管做实事，笔下写出来的，也是可以做得到的事。碰到棘手困难的事，只是不声不响，一不求人，二不气馁，终日终夜，想应付解决的方法。有时越碰钉子，越提他的勇气，越经困难，越振作他的精神。他的成功，没有一件不是从劳苦困难中得到”。
张謇曾对下属说过：“一个人到了危难的境遇，还是要抱定牙齿打落在嘴里和血吞，连手都用不着去摸肚子。”大生纱厂的初创和通海垦牧公司的初创，靠的都是他的这股子劲。荣氏兄弟的创业历程靠的何尝不是这股子劲呢？在祝贺兄嫂60岁的文章中，荣德生写道：“家兄一生经营靠的不是充实的资本，而是充实的精神，精神才是立业之本，而这个‘精神’，就是《易经》里‘“天行健，君子以自强不息’。”
以大生纱厂为起点，张謇着力建设家乡南通。荣氏兄弟同样以实业为基础，开发无锡。梁启超说起中国地方自治，常以无锡与南通并举。1943年荣德生70岁时，钱厚基将无锡与南通、荣氏兄弟与张謇兄弟相提并论。而通过荣毅仁、荣智健的传承，荣氏家族成为中国近代史上屈指可数的具有百年商业基因传承的家族。
追溯荣家的百年历史，我们可以看到，在一个动荡的时代，朝代的更迭、军阀的混战、外国的侵扰、政治的腐败等，每一种情况背后都藏着不为人所知的险境，我们很难想象当年创业的艰难和创业者性格的坚韧。
用傅国涌的话说，以荣氏为代表的民族企业家一直致力于国家的重建与复兴，然而悲剧性的是，每隔30~40年，这个进程就会被外乱和内患所打断，所以对于那个时代践行“实业救国”的商人们，我们要致以最崇高的敬意。