张耀曾毕生耿耿于怀的是宪政救国，即使退出政坛之后，他仍不断为此努力。宪政立国、以法治国、保护人权是他长期的主张，他提出的方案往往不唱高调，而是兼顾理想和实际，“远有方向目标，近有可行措施”。面对国民党的专政，“虽有力之大多数人，亦不获闻政”，他认为非改不可。
一九三一年九月十九日，“九一八”事变次日，他日记中说：“国人无心，事过便忘。济南惨案才了，当局便酣嬉荒乐，从事内争，决无顾及国防者。今又遭此奇辱，曾无可资抵御，真可痛恨。”十月十五日，他得知李烈钧等提案要求国民党当局尊重人民集会、结社自由，并准许人民组党。受民族危机的刺激，他也想发表良心上的主张，又顾虑犯忌而无实益，征求朋友的意见，大家都说应该发表，他才下了决心。十月二十日，他草拟《敬告国人书》，交给几家大报，结果到二十三日只有《申报》一家发表，而且删节之后只剩下了三分之一。十一月八日，他日记中说：“须知国民党只有一党，并无他党之监督改错，此党内日趋涣散日陷腐败之原也，故准人民自由组党，则国民党转可团结上进。且国民党历史甚长，主义亦佳，把握政权既四五年，纵有新党，亦不致遽失政权，转得他山之石，有何可畏。”
当年十二月二十三日，他在国难理事会上提议致电南京国民党一中全会，主张保障自由，实行宪政，因李烈钧等有正式提案，为之声援。一九三二年二月十二日，国难理事会，他提议发电主张废除一党专政，大家推他起草。二月十七日，他所拟《取消一党专政》的通电，各报都不敢登，只好自己印刷散发。国民党邀请他参加将在洛阳举行的“国难会议”，三月二十三日，他在国难会议干事会上主张会议讨论自由，请政府明白承认，至宪政具体方案，似不能提前事先承认。四月五日，他们决定不参加此会，议发电至洛阳说明不赴会理由，以合作为本旨，主张消除杜绝合作之党治，实现全民协力之宪政。署名者六十五人，上海实业界、金融界精英几乎都参加了，本来说好马相伯领衔，等到定稿时，马忽然来信，已派代表去洛阳，不便列名。最后由他领衔。会议时又决定组织“民宪协进会筹备会”，他表示赞成。
四月十四日午后，他和同人商量民宪协进会筹备的事。四月十五日早，黄炎培、左舜生找他，商量草拟民宪会纲领。他提出四条，对他绝对排斥内战的态度稍有讨论，可见“不得已而用武力，亦属政治上应有”的思想尚未消灭，这一点他认为可虑。武力革政，本是进化一法，不可绝对排斥，然而中国二十年来，实际上是假革命之名，行攘夺之实，以武力改革政治，绝无希望，只能增加痛苦与扰乱。
四月十七日，他觉得左舜生所拟《民宪协进会发起旨趣书》“稍觉不足”，动手另拟一缘起。四月十八日上午，他和黄炎培讨论此稿，午后开会讨论。四月二十二日开民宪会，商量发起人问题，因为限于学者、实业家、自由职业的范围，他感到人选颇难。五月四日，自从他们标举速行宪政的主张，汪精卫、胡汉民等都表示反对，虽言论多不合理之言，但因为他们在国民党内的显赫地位，足以摇撼人心，他想辩驳批评，下笔之时又有点害怕。他自知政治上不甚成功，“实由勇力与毅力缺乏之故。否则，所就决不止此。”五月五日晚，他和孙科见面。因为孙科发表的宪政主张，与他们所见略同，他对孙科说：“中山在日，系联合国民与军阀奋斗；中山既没，国民党掌握政权，局势一变，乃以国民党之名，行军阀之实，党为军阀利用，成为军阀之护符，而专以压迫民众为事，其所为全与从前相反。现主实行宪政，即主张恢复党与民众之合作，而一致抵制军阀耳。孙言语不大锐利，而面貌则颇似中山。”五月七日，黄炎培报告办民宪协进会以来，接到各方劝告，措词不同，都说不应与某派某派（指政学会）合作云云。他这才知道黄的态度为何由热而冷。他表示，做政治的事，毁誉荣辱应置之度外，受骂乃是常事，万不可因外论而动摇自己主张，否则断不能做政治活动。
五月十二日，他们审议民宪协进会章程。六月二十八日，民宪协进会筹备会在银行公会举行成立会，到会的约四十人，他被推为干事。七月六日晚，穆藕初约民宪协进会的人便饭，饭后报告民宪筹款，说已约杜月笙、张啸林商量，允为设法。他心中叫苦，而又不便反对。这是出于他意料外的事。
九月四日，他在北平，和民宪协进会的朋友谷钟秀、胡石青、李璜、张东荪等谈话，饭前饭后共谈宪政数小时，商定大纲数条，由他带到上海再商。九月二十三日，黄炎培来，谈及民宪协进会事，都以暂缓进行为妥，又要介绍他加入上海地方协会，他认为会长史量才“尚为读书人”，而副会长杜月笙、王晓籁都是他所鄙视的，婉言谢绝。一九三二年四月十三日，他在上海地方维持会讲话，“今日武力所以据国内最高地位，皆频年武力解决政治之故也。又联络政治上要人，以图改良政治，亦不可靠，此不过彼此利用，维持一种小局面，若图全部改良，不可能也。”他主张生产阶级与统治阶级合一，生产者自行统治，方法就是生产阶级联合起来，以调和生产全阶级的利益为目的，要求统治阶级采纳实行并监督之。
一九三三年四月十九日，他静坐默想，思考宪法运动能否挽这一危局，产生一些疑虑，感到一般人民智能不足，想以民主图治，几乎近于伪善自欺。民主固然是向上合理的目标，但从当时救亡的急迫来看，他甚至觉得发挥政治力的效率成了当务之急。六月二十一日，他从李烈钧那里得知，国民党开放政权的事又发生变化，以后政局的改良，难再指望于国民党了。
这一轮热闹的宪政运动，起自“九一八”后的民族危机，到一九三三年渐渐落幕。一九三四年一月二十四日，他在日记中感慨：
余辈以领导政治自命，不能为当局者设词，亦不能专作民间无责任之论。应有确信为必须而又可行之主张，在野以此倡导，在位以此实行，然后不致欺民误国。如在野则阿顺世论，取悦群众，得位则又顾虑环境，抛弃持论，言行不相顾，实属不信不忠，今人陷于此病实多，余辈宜切戒也。
一九三七年，他身体很不好，当他从张群处得知，国民党当局征询宪法、外交、经济等方面的建议时，他“决计全力研究现拟《宪草》及各方评论，从国家见地构成余之意见，以资当世”，抱病研究各国宪法、比较宪法等，七月八日，他跟同人谈自己对宪草的意见，“要点为一党专政和总统独裁”，主张从国策上、法制上予以修改。