吳敬璉在耶魯的學習時間，從1983年的1月到1984年的7月。這一年半，對於他的學術思想的成熟至關重要。他在《吳敬璉選集·作者自傳》中說，「在耶魯的這3個學期，使我能夠對近百年國外經濟學的成果進行一次集中的補課」。他的老朋友周叔蓮說，吳敬璉從耶魯回來，頭髮都白了。
他是以中國社會科學院經濟研究所研究員的身份去耶魯當訪問學者的，這一職稱在美國方面看來，相當於教授。可是，去了之後，吳敬璉才知道問題的嚴重。
他去參加學術研討會，根本聽不懂；參加博士班的討論課，準備一個簡短的評論，也往往要幾十個小時；再去聽研究生班的基礎課，仍然是聽不懂。聽不懂，既有語言上的問題，也有學術框架的問題，更有認知價值觀上的問題，吳敬璉只好從頭開始，從本科生的普修課聽起。
在後來的日子裡，吳敬璉度過了一生中最辛苦艱難的求知生活。他從非經濟專業的經濟學原理課程補起，循序而進，大量接觸各種理論和新知識。好在他天資聰慧，特別善於融會貫通，語言和專業能力幾乎日日進步，不久後就能夠參與學術討論了。那段時間，他的日常生活極端清苦和枯燥，很多時候吃的就是麵條、清水熬白菜。
日後，吳敬璉回憶說，他在耶魯期間之所以收穫頗多，除了自己的拚命苦讀外，還有兩個客觀的因素。
第一，20世紀80年代初期正是西方經濟學的一個「地震期」。當時，主張新自由主義的芝加哥學派迅速崛起，米爾頓·弗裡德曼、喬治·斯蒂格勒等一大批中青年經濟學家秉承哈耶克的新自由主義精神，對第二次世界大戰以來一直占主流地位的凱恩斯主義發起了挑戰，他們相信「沒有政府干預的競爭市場能使經濟最有效地運行」。在控制貨幣供應的前提下，他們提倡讓公司、消費者在政府有限制管制下作出自由決定，其捍衛的核心價值是反對任何形式的干預，反對計劃經濟跟凱恩斯主義。在這一思潮的引領下，西方經濟學呈現出全新的面貌，出現了貨幣數量學說、產業經濟學、信息經濟學、新制度經濟學、貨幣主義和理性預期等多個新學科。這一學派的眾多領軍人物，如弗裡德曼（1976年）、斯蒂格勒（1982年）首先獲得諾貝爾經濟學獎的殊榮，後來得到此獎的布坎南（1986年）、科斯（1991年）、諾斯（1993年）、福格爾（1993年）、貝克爾（1992年）和盧卡斯（1995年）等人此時也已嶄露頭角。
更重要的是，芝加哥學派的理論深刻地影響了西方經濟。在吳敬璉赴美前的1981年，好萊塢演員出身的共和黨人羅納德·裡根當選美國總統。他採納了新自由主義的貨幣主義和供應學派觀點，用減稅、解除管制等措施，激活了美國企業的競爭力，讓美國經濟一舉擺脫了20世紀70年代以來的滯脹，呈現復甦景象。而同期在歐洲，英國的女首相撒切爾夫人與裡根遙相呼應，1980年當政後採取同樣的政策，也使英國經濟走出了低迷。日後，這一時期被稱為「裡根——撒切爾主義」時期。
吳敬璉身處老的主流經濟學——新古典綜合重鎮的耶魯大學，也同樣感受到新理論對經濟學和經濟政策的衝擊與改變。他密切觀察市場經濟的運行機制，然後與熟悉的中國經濟相參照，從中尋找改革的契機。
第二，吳敬璉在耶魯大學的經濟系和社會與政治研究所當訪問學者。幸運的是，這裡正是比較經濟體制學科的「祖庭」。耶魯經濟系的老主任L·雷諾斯在美國經濟學界桃李滿天下，他對吳敬璉關愛有加，給予了許多指導。吳敬璉在研究方面的主要合作者邁克·蒙蒂亞斯，是比較經濟體制學領域的開山式人物，正是他與庫普曼斯（1975年諾貝爾經濟學獎得主）一起，最先提出了比較經濟體制這門學科的基本框架。吳敬璉在國內就對比較經濟學充滿了興趣，到了耶魯之後，算是投對了門庭。在耶魯的一年半時間裡，研究所聚集了來自東歐、韓國、日本和南美的眾多學者，難以細數的座談會、研討會，讓吳敬璉眼界大開，學問精進。日後他回憶說：「耶魯的比較經濟體制理論框架好像一張色譜，一端是命令管制的計劃經濟，一端是自由放任的市場經濟，中間的過渡狀態千差萬別，這種分析方法顯然帶有很重的新古典經濟學的色彩。然而在每個星期，都要會舉行多次理論討論會，又可以聽到來自不同國家、不同學校學者的聲音。其中包含了許多新自由主義、新制度經濟學的觀點。有了這些理論背景，考慮起中國問題來，就清楚多了。」在這段時間裡，他還結交了很多學術界的朋友。
一個頗耐人尋味的問題是，為什麼身處芝加哥學派和裡根主義崛起的年代，以新古典經濟學為基礎的比較經濟體制學科正在向具有更多新制度經濟學影響的比較制度分析轉變，吳敬璉卻沒有成為新自由主義的「信徒」？晚年的他自己也對此很好奇。
答案可能有很多個。首先，年過半百的吳敬璉已經不是一張白紙，他有自己的價值觀和理論素養，不太容易被一套理論——特別是以放任自由為最高準則的經濟學所「征服」；其次，耶魯大學是新古典綜合的重鎮，在經濟學理論上向來與芝加哥大學抗衡，該校的詹姆斯·托賓（1981年諾貝爾經濟學獎得主）是最重要的凱恩斯主義經濟學家。而更直接的一點則是，吳敬璉遠赴美國學習，目的在於尋找中國經濟改革的發展之道，從本質上來說，他從來是一個注重應用的經濟學家——這使他更容易與仍然強調宏觀經濟管理的新凱恩斯主義接近。
在耶魯的最後一段時間，吳敬璉用新學到的經濟學理論工具總結和梳理了前幾年在國內參與改革討論中形成的片段想法，漸漸形成了自己的中國改革理論思想。其中最主要的、日後對中國改革路徑設計影響最大，也是引起不少爭議的，便是他對「行政性分權」和「市場性分權」的模式區分。
一個計劃經濟體制下的國家經濟權力分配，主要是在兩種關係上展開的，一是中央政府與地方政府之間，二是政府與企業之間。在中國，1978年之前，企業全數為國有化，被捆得死死的，無所謂權力下放的問題，所以，分權的問題主要發生在中央與地方之間。在相當長的時間裡，分權的邏輯和辦法是紊亂的，而且集了又分，分了又集，數度反覆：
——先是中央高度集權。建國之後的1950年，政務院頒布法令，決定實行集權管理和統收統支的財政體制，規定地方的財政收入一律上繳中央，地方的支出一律由中央撥付，實行收支兩條線，地方財權幾乎為零。
——接著是充分放權。1956年，毛澤東發表著名的《論十大關係》，其中關於中央與地方的關係部分，他提出要充分調動地方積極性。於是兩年後，中央向地方大規模放權，其中包括向地方政府下放計劃權力、企業管轄權、物資分配權和勞動管理權、財政和稅收權，以及投資和信貸的審批權。總之，能放的權都放了。
——就在中央向地方大分權的同時，在工商界和農村則發生了相反方向的運動。前者是開展了「社會主義改造運動」，全中國的私營工商業全部實現了「公私合營」，「已經跑步進入社會主義」，私人資本在中國從此「絕種」。後者搞的是「歸大社」運動，把原來只有15~20戶的高級農業合作社歸並為「大社」，到1958年就變成了「一大二公」的人民公社，農民從此失去了對土地的所有權。這兩個運動造成的後果就是企業及農村生產積極性的全然喪失。日後吳敬璉在《共和國經濟50年》一文中論證說，這是1958年之後國民經濟陷入混亂的重要成因。
——然後又是一次大集權。在經歷了荒唐的「大躍進」及可怕的三年大災害之後，1962年中央政策再度大轉彎，在1月份召開的「七千人大會」上，中央強化了集中制和全國一盤棋的思路，隨後從地方收回了絕大多數原來下放的權力。
——接著又是大放權。1966年，毛澤東在杭州政治局會議上提出「虛君共和」的口號，在他看來，中央政府只應是個象徵性的「虛君」，經濟實權還是應分散到各地區去，用他的話說就是「連人帶馬全出去」。於是，又是一輪手忙腳亂的大分權。這之後，緊接著就爆發了「文化大革命」，國民經濟已無效率和秩序可言。
如此集了再放，放了再集，最終造成的局面是，中國經濟陷入「一放就亂，一亂就收，一收就死，一死再放，放了再亂」的惡性循環。它實際上表明，在集中計劃體制內尋找集權與分權之間的平衡，無論在經濟意義上還是政治意義上，都是一項不可能完成的任務。在這一個時期，以孫冶方為代表的一些經濟學家一直都反對把「體制下放」作為經濟管理體制改革的主要措施。早在1961年，孫冶方就指出，經濟管理體制的中心問題，不是中央與地方的關係、「條條」與「塊塊」的關係，而是「作為獨立核算單位的企業的權力、責任和它們同國家的關係問題，也即是企業的經營管理權的問題」。「文革」期間，孫冶方的這一理論被認為是修正主義，理所當然地遭到了批判。
1978年之後，隨著改革開放的展開，放活企業成為一種共識，從十一屆三中全會之後，對企業的放權讓利便成了改革的主軸。而與此同時，由於中央財政十分羸弱，已無力大規模撥款投資，所以中央也大膽地向地方放權，比如在南方開闢特區，從1980年起推行「分灶吃飯」的財政包干制度，此外還批准了一些「計劃單列」的城市，給予地方更多的權力。對於這一系列政策的得失優劣，後世有截然不同的評價，不過其形成的局面卻是大家都看到的，那就是，充分發揮了地方政府的經濟發展積極性，出現了萬馬奔騰的亢奮景象。與此同時，也出現了地區之間以鄰為壑、互相封鎖和分割市場的「諸侯經濟」，更嚴重的是，造成了「地方肥，中央瘦」的財政格局，中央財政在財政總收入的比例逐年下降，竟成了「討飯財政」。
對於這樣的改革景象，如何判斷，是否需要修正，怎樣從理論的層面上進行闡述和評價，成了經濟理論界的一個大難題。當時的理論界形成了多派意見，其中之一是「放權派」，主張中央政府對地方政府和企業統統實行放權讓利；另外還有「收權派」，主張維持中央高度集權的計劃經濟體制。從現有的資料看，身在耶魯的吳敬璉是第一個提出不能把改革與放權簡單等同的中國學者。
他認為，不應籠統地提倡放權或收權，而應區分「行政性分權」和「經濟性分權」（亦稱「市場性分權」）兩個概念。所謂「行政性分權」是指中央把權力下放給省、市、縣政府，由地方行政機構對整個經濟進行管理的經濟；而「經濟性分權」是指，由企業根據市場價格信號進行決策。吳敬璉認為，「行政性分權充其量只不過使企業從原來中央機關的附屬物變為地方行政機關的附屬物，並不能使企業成為獨立的商品生產者，也不能改善經濟機制。所以，在保持命令經濟框架不變的情況下實行分權，損害了計劃經濟所要求的政令統一。因為，用行政命令配置資源是計劃經濟的本質要求。如果不是這樣，而是在命令經濟框架下實行層層分權，其結果只能是政出多門，使整個經濟陷於混亂」。因此，他認為，「分權的命令經濟是一種最壞的命令經濟」。
由以上的理論闡述，吳敬璉得出了一個十分重要的結論：不應當籠統地把改革的目標規定為「分權」，而應當區分性質不同的兩種分權，即建立在市場經濟基礎上的分權型經濟（經濟性分權）和保持計劃經濟框架的分權型經濟（行政性分權）。所以，改革的關鍵是建立以獨立自主的企業為基礎的市場制度，而不是向地方政府分權。
吳敬璉的這一論斷是吳式改革理論的一個重要觀點，他曾多次撰文對此進行論證。它的核心意思其實是：中國改革要順利進行，就必須進行以建立自主企業、競爭性市場和宏觀調控體系為目標的「三環節配套改革」。在一些力主向地方政府分權的改革者看來，這是一種「改革陣營中的保守思想」。
1984年6月，吳敬璉在德國出席了一個比較經濟學關於東歐經濟改革的討論會。在主題發言中，他對中國80年代初期的改革作出了自己的解釋，也引起與會者很大的興趣。一個月後，他在美國加州大學伯克利分校的一個討論會上，又以此為主題進行了一場演講。之後，他搭機歸國。
確切地說，當吳敬璉離開耶魯的時候，他除了帶回一整套嶄新的經濟理論之外，也同時帶回了一大堆問題。就在他歸國的時候，中國的經濟理論界正在醞釀一場熱烈的大論戰，而改革正走到一個微妙的十字路口。有一個人，正迫切地要看到他。