伍廷芳就任驻美公使期间的首要任务是保护华工，但他并没有把自己局限于这一琐碎的事务。在出使美国后，伍廷芳对美国的了解逐步加深，意识到美国和日俄等强权国家有区别。他逐步将美国与英国同等对待，认为中国可以指望得到英美的帮助，从而制衡俄、法、日等国对中国的蚕食。而要达到此一目标，必须把美国更深地拉进中国事务，为此，他开始构思在中国实行“门户开放”的政策。
1898年2月，伍廷芳向清政府呈递了《请变通成法折》，表达了他依据世界大势的发展而提出的主动应变的“门户开放”观。奏折中说，通过和美国、英国互相贸易的办法可以促成均势，有利于中国自身的繁荣。他把美国描述成列强中最恭顺的国家，如果能对其善加利用，完全可能起到远交近攻的外交效果。他在奏折中提议“全国开放，重门洞开，示人以无可欲——欲国一劳永逸之谋，则莫如开诚布公之策”。并为此一方略描绘了美好的图景——“如此，则中国政令一新，方图自强”。伍廷芳的见解一举突破了过去清政府在对外交往中屡屡失败的“师夷长技以制夷”的老方略，无异于为正在为列强即将把中国“瓜分豆剖”而担忧的清政府打了一针强心剂，让晚清政府仿佛看到了挽救自己的曙光，清政府对此提议颇为心动。按照伍廷芳的“门户开放”设想，如果中国要实行门户开放政策，需要做到这样几点：中国要收回治外法权；通商部分要加重关税；门户开放的各方应实行互利互惠的政策。
令人啼笑皆非的是，翌年，美国正式提出了门户开放宣言，并正式要求清政府实施门户开放政策。伍廷芳当然极力赞成，他以为美国将如他所信任的那样，是一个守法守约的国家——毕竟，伍廷芳在与美国的侨务交涉中，并不乏依照美国法律交涉成功的先例。
伍廷芳是历史上最早提出“门户开放”政策的外交家，我们认为他的设想并没有错误，而且称得上是高瞻远瞩。如果说伍廷芳的这一设想有什么问题的话，那是时代的局限。在那个时代，伍廷芳没能认识到帝国主义列强贪婪的本质，也不明白西方主导的国际关系的规则是“强权即是真理”，实行的是丛林法则。换言之，弱国在国际外交舞台上是没有发言权的。要利用列强之间的相互制衡，谋求自己的发展，这种策略即使确实可行，那也需要一个前提，即该国自身也必须具备相当的实力。否则，任何相关的计谋，都一定是与虎谋皮。
1902年12月，伍廷芳回到了阔别7年之久的祖国，随即投入到了“清末新政”中去。在以后的5年中，伍廷芳被任命为修律大臣，按照近代西方法学原理，参与对中华法系进行全面的删改与增设工作，为初步形成具有中国特色的近代法律体系的初步形成作出了贡献。
1907年9月，伍廷芳再次被委派为出使美、墨、秘、古国大臣，直到1910年。其间，其最大的收获是与秘鲁政府签订了旨在保护华侨的《中秘条约》，签署了《中秘废除苛例证明书》。
第二次从美洲归来后，伍廷芳称病请假，寓居上海。他将自己的寓所命名为颇有深意的“观渡庐”，自号“观渡庐主人”，其不问世事、坐看云起云落之态，呼之欲出。
一贯积极入世的伍廷芳，在历史的关键点上，却选择了消极避世，不是没有原因的。他虽然官至二品大员，可谓“受朝廷恩遇不薄”，但是内心的再造文明之梦终究仍不过是梦想而已！初时，他对清廷抱有相当期望，然而时间越久，参与越深，他就只有失望越大罢了。早在甲午战争失败后，他痛感保守分子阻挠改革，就曾悲愤地说过“中国没有革新希望”。主持修订法律时，他对北京官场风气又大为不满，以致对外国记者抱怨“我看中国没有希望！”总之，他“劝导改良，几于唇焦舌敝”，可惜言者谆谆，听者藐藐，最后只能“事事失败，见挫强邻，民心乖离，酿成党祸，令朝纲隳于一旦”。长期服务于清廷的他，不屑于做一个迂腐的遗老，他以七旬高龄，“而今迈步从头越”，重新作出了政治抉择。