但是这时候更让张謇感到高兴的是两宫在流亡西安的时候所颁布的一个变法诏。1900年1月10日，朝廷诏谕变法。两江总督刘坤一在西安上谕下达的第十三天，就邀请张謇等人到南京商议“要政”，实际是为他起草一份建议书。经过数十天的辛劳，3月末，这份题名为《变法平议》的疏稿终于出台了，这篇文章比较全面地反映了张謇自己对变法的态度。他认为当今变法是必然的，“法久则弊，弊则变亦变，不变亦变”。他提出变法应“因革损益之宜，第轻重缓急之序”，如果不这样，则会“欲速而不达”。
他认为变法有三种选择：一是必先更新而后破旧者；二是必先除旧而后布新者；三是新旧融合。他认为新旧融合比较符合中国的实际，只有取“平和中正渐变的改进”，最后才能达到“亟求立宪”的目的。同时他对变法的具体措施也有自己的设想：第一阶段：“请设议政院，各府、州、县城设中学堂，先设测绘、师范、警察，各省设局编小学堂、中学堂课本书，译各史及各学科书，户部及各省布政使、各府、州县行豫计表（预算表）。”第二阶段：“分职、省官、定俸，各府、州、县实行测绘、警察，订税目，增法律章程，罢厘金，停捐纳，变科举，行决算法”，“设府、县议会”。第三阶段：“令各府、州县分设各乡小学堂，兴农、工、商业，抽练营兵，减官府仪卫。”刘坤一在看了文章后的第三天和张謇谈了话，他仅同意对州县以下官吏的职责进行变更，其他毫不提及。张謇听后“意绪为之顿索”。
由于这个挫折，张謇对政治的热情大大降低，他开始全心全意地发展实业，创办教育。从1901年到1903年，张謇除了扩大大生纱厂外，还进行了通海垦牧公司和通州师范学校的创建工作。张謇决定创办垦牧公司主要是为了解决大生纱厂的原料问题。1901年，通海垦牧公司正式筹备，张謇以每亩1.89钱的价格从政府手里买了123279亩海滨荒地。这些荒地“弥望皆水，浪花飞洒”，“凫雁成群”，“獐兔纵横”。原以为这都是无主的荒滩，但开始开垦，不料却有错综复杂的产权关系。这里的地皮产权大致分为四种：第一部分为官产；第二部分是营产，就是军队的用地；第三部分为民产；第四部分为灶产，就是海滨地区煮盐人的土地。这其中最难纠缠的就是灶产，当时盐场仍然用蓄草煮盐的办法采盐，成本高昂。同时盐税也是政府极其重要的财政收入，又是地方官、盐务官员贪污之源，因此，他们要维护这种制度，许多盐户在盐运使的唆使下，多方刁难垦牧公司，张謇在忍无可忍的情况下，决定跟灶户和盐运使打官司，在张謇看来：“既任其事必达于成，不当畏难而退缩。”
张謇用1901年朝廷颁布的鼓励垦荒的谕旨，作为法理依据，一再寻求两江总督刘坤一的支持，并通过当地大绅粮李审之、张云梯等出面疏通。这场官司终于以垦牧公司胜诉而告终。但是前后却花了近八年的时间才把这块地的产权关系清理清楚。
垦牧公司在解决产权纠纷的同时，还面临着海潮的破坏。1905年夏天，通海垦牧公司已建成七条长堤和一部分河渠，并垦出了第一堤西圩七千余亩土地，佃工们开渠引水，改造土质。不料9月，风暴从海上袭来，海滩上的堤坝垮了，海水卷着狂涛巨浪冲上滩地，将刚刚建成的所有堤坝全部冲毁，新开的牧场也全部毁坏。目睹这一凄凉景象，公司股东的心一下子冷到了极点，大家都不愿承担巨额的修复费用。张謇却没有被自然灾害吓倒，他四处筹措资金，不久，他在刘坤一的支持下从江宁藩库筹到了一笔款子，购买了棉衣、粮食到垦区实行“以工代赈”。1906年，三千多名勤劳贫困的通海农民“荷畚锸而至”，在阴雨连续不断的恶劣条件下，陆续修复了被毁坏的堤坝。经过十年的开垦与建设，张謇以百折不挠的精神，克服了一个又一个艰难险阻，垦牧公司终于有了十分气派的规模，“堤成者十之九五，地垦者十之三有奇”，并建立了“自治公所”、初等小学、中心河闸等设施，各垦区基本实现了“栖人有屋，待客有堂，储物有仓，种蔬有圃，佃有庐灶，商有廛市，行有涂梁”，远望通海垦牧公司，阡陌纵横的棉田、堤、河、路、闸、农田井然有序，好像一个围棋盘铺在大广场上。这是中国第一家近代化的大农业企业，张謇看着昔日的荒滩变成了良田，踌躇满志。
在张謇首倡通海垦牧公司的带动下，苏北沿海地区迅速掀起了创办近代农垦事业的热潮，1912—1922年，在苏北范翁堤以东，南起长江口之吕四场，北达灌河南岸之陈家港，先后创建了45家垦牧公司，资本总额达26616万余两，拥有土地523亩。这里成为中国近代最大的农垦区。随着张謇的事业不断发展，对专业人才的需求日益迫切，张謇在通州创办了师范学校。
1902年，张謇在通州选定荒废的千佛寺作为通州师范学校的校址，开工时，工人怕冒犯菩萨，视为畏途，张謇破除迷信，带头示范，率先拿起绳索拉动一尊佛像，其他人这才跟着他动手。从建设开始，张謇事无巨细，都亲自督率，加之同时更为紧张辛劳的垦牧公司筹建工作，使他心力交瘁，疲惫不堪，甚至于“腰酸咳血”。经过七个多月的修建、筹备，1903年4月27日，学校正式举行开学典礼。这是全国第一所中等师范学校，学校主要培养小学教师。首批延聘的教师文化水平都很高，其中有著名的王国维，还有十余名日本教师，学生来自原来的贡、监、廪、增、附五项生员。张謇在开学典礼上说：“欲雪国耻而不讲求学问则无资，欲求学问而不求普及国民之教育则无与，欲教育普及国民而不求师则无导，故立学校须从小学始，尤须从师范始。”他自豪地说：“夫中国之有师范学校光绪二十八年始，民间之自立师范学校自通州始。”为了引起社会重视师范教育，他还撰写了《中国师范学校平议》《通州师范学校议》《师范章程改订例言》，阐述师范教育的地位与作用，呼吁政府提高师范教师的社会地位并“优予俸给”，以鼓励人们从事和兴办师范教育。他说：“凡大学、高等、中等师范本科生毕业，准作贡生、举人、进士，给凭后试教各高等、中等及小学四年，比较成绩（以教成学生分数多少为最优、次优之分）。进士教高等学，最优者除国子监丞，次优者除博士。举人教中学，最优者除博士，次优者除学正。贡生教小学，最优者除学正，次优者除助都。其廪、增准作贡生教小学者，最优除府教授，次优除州学正。监、附准作贡生教小学，最优者除县教谕，次优者除县训导。积资累绩，可递升至祭酒而上为管学大臣。菲是则虽除官以后，终身于教育一事，而仍得与他科进取之人，同享人间之福利矣。”
关于教师的薪俸，他提出：寻常小学校约每月20或30元，高等小学校约每月30或40元，中等学校约每月40或50元，其专科教师约每月70或80至100元。在学校的教育中，张謇十分重视“实业知识”教育，他在师范学校附设测绘、蚕桑、农、工等科，在通州中学附设国文专修科。同时他还创办了各类的职业学校，如当时的通州蚕桑讲习所、法政讲习所以及伶工学社、女红传习所。其中伶工学社和女红传习所最为有名，著名的戏剧家欧阳予倩和刺绣大师沈寿曾分任这两所学校的教师。他主张学生应该重视实践知识，1914年，南通纺织专门学校实习工场向英国订购了纺纱机器，张謇让学生在教师的指导下学习安装。
他还在上海创办了吴淞商船学校、铁路学校。1903年，马良毁家办学，张謇协助他在上海徐家汇创办了复旦学院，复旦开学时，张謇被聘为院董。他注重为教育提供后备人才，还在各地创办了一大批中学和小学。作为一名杰出的教育家，他没有忘记残疾人教育，他根据西方人口调查提供的数据分析，估计当时中国有至少80万盲哑人。“盲哑累累，教育无人”，在他的努力下，1916年，全国第一所盲哑学校开学。他认为教育是国家发达的根本，他说：“一国之强，基于教育”，“中国之不振，是民智不开，公理不明之故”，因此必须“开民智、明公理”。他认为教育应该提倡优良的教风、学风、校风。要教育学生懂得做人的道理，他说：“国家前途，舍青年无望，青年前途，舍敦品力学无望，敦品力学，舍专静无望”，“爱国当先爱身，爱身当先爱学，爱学当自爱其可宝贵之光阴”。他还谆谆告诫学生：“在校不能为良好之学生，出校必不能为良好之公民，学校之规则可抗，乡里之讥评不可抗，师长之督责可逃，社会之制裁不可逃。”希望他们多看多读，少发议论。
张謇开创的教育事业影响很大，今天许多的水利专家、科学家都在他创办的学校中受过教育。就在当时也是“影响及于全国”，甚至引起了日、美等国的重视，经常派人到通州各校参观访问。在张謇的影响下，我国的师范教育、职业教育在各地都发展很快。