吴敬琏在耶鲁的学习时间，从1983年的1月到1984年的7月。这一年半，对于他的学术思想的成熟至关重要。他在《吴敬琏选集·作者自传》中说，“在耶鲁的这3个学期，使我能够对近百年国外经济学的成果进行一次集中的补课”。他的老朋友周叔莲说，吴敬琏从耶鲁回来，头发都白了。
他是以中国社会科学院经济研究所研究员的身份去耶鲁当访问学者的，这一职称在美国方面看来，相当于教授。可是，去了之后，吴敬琏才知道问题的严重。
他去参加学术研讨会，根本听不懂；参加博士班的讨论课，准备一个简短的评论，也往往要几十个小时；再去听研究生班的基础课，仍然是听不懂。听不懂，既有语言上的问题，也有学术框架的问题，更有认知价值观上的问题，吴敬琏只好从头开始，从本科生的普修课听起。
在后来的日子里，吴敬琏度过了一生中最辛苦艰难的求知生活。他从非经济专业的经济学原理课程补起，循序而进，大量接触各种理论和新知识。好在他天资聪慧，特别善于融会贯通，语言和专业能力几乎日日进步，不久后就能够参与学术讨论了。那段时间，他的日常生活极端清苦和枯燥，很多时候吃的就是面条、清水熬白菜。
日后，吴敬琏回忆说，他在耶鲁期间之所以收获颇多，除了自己的拼命苦读外，还有两个客观的因素。
第一，20世纪80年代初期正是西方经济学的一个“地震期”。当时，主张新自由主义的芝加哥学派迅速崛起，米尔顿·弗里德曼、乔治·斯蒂格勒等一大批中青年经济学家秉承哈耶克的新自由主义精神，对第二次世界大战以来一直占主流地位的凯恩斯主义发起了挑战，他们相信“没有政府干预的竞争市场能使经济最有效地运行”。在控制货币供应的前提下，他们提倡让公司、消费者在政府有限制管制下作出自由决定，其捍卫的核心价值是反对任何形式的干预，反对计划经济跟凯恩斯主义。在这一思潮的引领下，西方经济学呈现出全新的面貌，出现了货币数量学说、产业经济学、信息经济学、新制度经济学、货币主义和理性预期等多个新学科。这一学派的众多领军人物，如弗里德曼（1976年）、斯蒂格勒（1982年）首先获得诺贝尔经济学奖的殊荣，后来得到此奖的布坎南（1986年）、科斯（1991年）、诺斯（1993年）、福格尔（1993年）、贝克尔（1992年）和卢卡斯（1995年）等人此时也已崭露头角。
更重要的是，芝加哥学派的理论深刻地影响了西方经济。在吴敬琏赴美前的1981年，好莱坞演员出身的共和党人罗纳德·里根当选美国总统。他采纳了新自由主义的货币主义和供应学派观点，用减税、解除管制等措施，激活了美国企业的竞争力，让美国经济一举摆脱了20世纪70年代以来的滞胀，呈现复苏景象。而同期在欧洲，英国的女首相撒切尔夫人与里根遥相呼应，1980年当政后采取同样的政策，也使英国经济走出了低迷。日后，这一时期被称为“里根——撒切尔主义”时期。
吴敬琏身处老的主流经济学——新古典综合重镇的耶鲁大学，也同样感受到新理论对经济学和经济政策的冲击与改变。他密切观察市场经济的运行机制，然后与熟悉的中国经济相参照，从中寻找改革的契机。
第二，吴敬琏在耶鲁大学的经济系和社会与政治研究所当访问学者。幸运的是，这里正是比较经济体制学科的“祖庭”。耶鲁经济系的老主任L·雷诺斯在美国经济学界桃李满天下，他对吴敬琏关爱有加，给予了许多指导。吴敬琏在研究方面的主要合作者迈克·蒙蒂亚斯，是比较经济体制学领域的开山式人物，正是他与库普曼斯（1975年诺贝尔经济学奖得主）一起，最先提出了比较经济体制这门学科的基本框架。吴敬琏在国内就对比较经济学充满了兴趣，到了耶鲁之后，算是投对了门庭。在耶鲁的一年半时间里，研究所聚集了来自东欧、韩国、日本和南美的众多学者，难以细数的座谈会、研讨会，让吴敬琏眼界大开，学问精进。日后他回忆说：“耶鲁的比较经济体制理论框架好像一张色谱，一端是命令管制的计划经济，一端是自由放任的市场经济，中间的过渡状态千差万别，这种分析方法显然带有很重的新古典经济学的色彩。然而在每个星期，都要会举行多次理论讨论会，又可以听到来自不同国家、不同学校学者的声音。其中包含了许多新自由主义、新制度经济学的观点。有了这些理论背景，考虑起中国问题来，就清楚多了。”在这段时间里，他还结交了很多学术界的朋友。
一个颇耐人寻味的问题是，为什么身处芝加哥学派和里根主义崛起的年代，以新古典经济学为基础的比较经济体制学科正在向具有更多新制度经济学影响的比较制度分析转变，吴敬琏却没有成为新自由主义的“信徒”？晚年的他自己也对此很好奇。
答案可能有很多个。首先，年过半百的吴敬琏已经不是一张白纸，他有自己的价值观和理论素养，不太容易被一套理论——特别是以放任自由为最高准则的经济学所“征服”；其次，耶鲁大学是新古典综合的重镇，在经济学理论上向来与芝加哥大学抗衡，该校的詹姆斯·托宾（1981年诺贝尔经济学奖得主）是最重要的凯恩斯主义经济学家。而更直接的一点则是，吴敬琏远赴美国学习，目的在于寻找中国经济改革的发展之道，从本质上来说，他从来是一个注重应用的经济学家——这使他更容易与仍然强调宏观经济管理的新凯恩斯主义接近。
在耶鲁的最后一段时间，吴敬琏用新学到的经济学理论工具总结和梳理了前几年在国内参与改革讨论中形成的片段想法，渐渐形成了自己的中国改革理论思想。其中最主要的、日后对中国改革路径设计影响最大，也是引起不少争议的，便是他对“行政性分权”和“市场性分权”的模式区分。
一个计划经济体制下的国家经济权力分配，主要是在两种关系上展开的，一是中央政府与地方政府之间，二是政府与企业之间。在中国，1978年之前，企业全数为国有化，被捆得死死的，无所谓权力下放的问题，所以，分权的问题主要发生在中央与地方之间。在相当长的时间里，分权的逻辑和办法是紊乱的，而且集了又分，分了又集，数度反复：
——先是中央高度集权。建国之后的1950年，政务院颁布法令，决定实行集权管理和统收统支的财政体制，规定地方的财政收入一律上缴中央，地方的支出一律由中央拨付，实行收支两条线，地方财权几乎为零。
——接着是充分放权。1956年，毛泽东发表著名的《论十大关系》，其中关于中央与地方的关系部分，他提出要充分调动地方积极性。于是两年后，中央向地方大规模放权，其中包括向地方政府下放计划权力、企业管辖权、物资分配权和劳动管理权、财政和税收权，以及投资和信贷的审批权。总之，能放的权都放了。
——就在中央向地方大分权的同时，在工商界和农村则发生了相反方向的运动。前者是开展了“社会主义改造运动”，全中国的私营工商业全部实现了“公私合营”，“已经跑步进入社会主义”，私人资本在中国从此“绝种”。后者搞的是“归大社”运动，把原来只有15~20户的高级农业合作社归并为“大社”，到1958年就变成了“一大二公”的人民公社，农民从此失去了对土地的所有权。这两个运动造成的后果就是企业及农村生产积极性的全然丧失。日后吴敬琏在《共和国经济50年》一文中论证说，这是1958年之后国民经济陷入混乱的重要成因。
——然后又是一次大集权。在经历了荒唐的“大跃进”及可怕的三年大灾害之后，1962年中央政策再度大转弯，在1月份召开的“七千人大会”上，中央强化了集中制和全国一盘棋的思路，随后从地方收回了绝大多数原来下放的权力。
——接着又是大放权。1966年，毛泽东在杭州政治局会议上提出“虚君共和”的口号，在他看来，中央政府只应是个象征性的“虚君”，经济实权还是应分散到各地区去，用他的话说就是“连人带马全出去”。于是，又是一轮手忙脚乱的大分权。这之后，紧接着就爆发了“文化大革命”，国民经济已无效率和秩序可言。
如此集了再放，放了再集，最终造成的局面是，中国经济陷入“一放就乱，一乱就收，一收就死，一死再放，放了再乱”的恶性循环。它实际上表明，在集中计划体制内寻找集权与分权之间的平衡，无论在经济意义上还是政治意义上，都是一项不可能完成的任务。在这一个时期，以孙冶方为代表的一些经济学家一直都反对把“体制下放”作为经济管理体制改革的主要措施。早在1961年，孙冶方就指出，经济管理体制的中心问题，不是中央与地方的关系、“条条”与“块块”的关系，而是“作为独立核算单位的企业的权力、责任和它们同国家的关系问题，也即是企业的经营管理权的问题”。“文革”期间，孙冶方的这一理论被认为是修正主义，理所当然地遭到了批判。
1978年之后，随着改革开放的展开，放活企业成为一种共识，从十一届三中全会之后，对企业的放权让利便成了改革的主轴。而与此同时，由于中央财政十分羸弱，已无力大规模拨款投资，所以中央也大胆地向地方放权，比如在南方开辟特区，从1980年起推行“分灶吃饭”的财政包干制度，此外还批准了一些“计划单列”的城市，给予地方更多的权力。对于这一系列政策的得失优劣，后世有截然不同的评价，不过其形成的局面却是大家都看到的，那就是，充分发挥了地方政府的经济发展积极性，出现了万马奔腾的亢奋景象。与此同时，也出现了地区之间以邻为壑、互相封锁和分割市场的“诸侯经济”，更严重的是，造成了“地方肥，中央瘦”的财政格局，中央财政在财政总收入的比例逐年下降，竟成了“讨饭财政”。
对于这样的改革景象，如何判断，是否需要修正，怎样从理论的层面上进行阐述和评价，成了经济理论界的一个大难题。当时的理论界形成了多派意见，其中之一是“放权派”，主张中央政府对地方政府和企业统统实行放权让利；另外还有“收权派”，主张维持中央高度集权的计划经济体制。从现有的资料看，身在耶鲁的吴敬琏是第一个提出不能把改革与放权简单等同的中国学者。
他认为，不应笼统地提倡放权或收权，而应区分“行政性分权”和“经济性分权”（亦称“市场性分权”）两个概念。所谓“行政性分权”是指中央把权力下放给省、市、县政府，由地方行政机构对整个经济进行管理的经济；而“经济性分权”是指，由企业根据市场价格信号进行决策。吴敬琏认为，“行政性分权充其量只不过使企业从原来中央机关的附属物变为地方行政机关的附属物，并不能使企业成为独立的商品生产者，也不能改善经济机制。所以，在保持命令经济框架不变的情况下实行分权，损害了计划经济所要求的政令统一。因为，用行政命令配置资源是计划经济的本质要求。如果不是这样，而是在命令经济框架下实行层层分权，其结果只能是政出多门，使整个经济陷于混乱”。因此，他认为，“分权的命令经济是一种最坏的命令经济”。
由以上的理论阐述，吴敬琏得出了一个十分重要的结论：不应当笼统地把改革的目标规定为“分权”，而应当区分性质不同的两种分权，即建立在市场经济基础上的分权型经济（经济性分权）和保持计划经济框架的分权型经济（行政性分权）。所以，改革的关键是建立以独立自主的企业为基础的市场制度，而不是向地方政府分权。
吴敬琏的这一论断是吴式改革理论的一个重要观点，他曾多次撰文对此进行论证。它的核心意思其实是：中国改革要顺利进行，就必须进行以建立自主企业、竞争性市场和宏观调控体系为目标的“三环节配套改革”。在一些力主向地方政府分权的改革者看来，这是一种“改革阵营中的保守思想”。
1984年6月，吴敬琏在德国出席了一个比较经济学关于东欧经济改革的讨论会。在主题发言中，他对中国80年代初期的改革作出了自己的解释，也引起与会者很大的兴趣。一个月后，他在美国加州大学伯克利分校的一个讨论会上，又以此为主题进行了一场演讲。之后，他搭机归国。
确切地说，当吴敬琏离开耶鲁的时候，他除了带回一整套崭新的经济理论之外，也同时带回了一大堆问题。就在他归国的时候，中国的经济理论界正在酝酿一场热烈的大论战，而改革正走到一个微妙的十字路口。有一个人，正迫切地要看到他。