費城會議是否有權撇開《邦聯條例》另立憲法的問題，其實在會議一開始（5月30日）就有人提出過了。前面我們已經講到，南卡羅來納的科茲沃斯·平克尼將軍就提出了這個問題。另外，馬薩諸塞的艾爾布裡奇·格裡先生也有同樣的疑惑。
不過，這個問題在5月30日那天並沒有引起反響，一直要到9天以後才有人舊話重提，而且爭論激烈。這是很奇怪的。因為在我們中國人看來，名不正則言不順。費城會議連自己的任務和權限是修約（修訂《邦聯條例》）還是制憲（制定《聯邦憲法》）都搞不清楚，怎麼還能把會開起來？
這裡面又有好幾個原因。
首先，對於會議的性質和職責雖然有人存疑，但有一點是大家都不懷疑的，那就是邦聯的現狀不佳，邦聯的前途堪憂，目前這種近似於無政府的狀態再也不能繼續下去了。這就要開會，也要對《邦聯條例》甚至對「邦聯體制」動手術。對此，代表們均無異議。只不過大家還不清楚，這個手術到底會動多大，這次會議也到底會走多遠。這一點，不要說代表們不清楚，就連會議的發起人和方案的始作俑者，比如麥迪遜、倫道夫，也不十分清楚。麥迪遜在5月31日的會議上說，他來開會之前，曾經有一個強烈的願望，主張一一列舉新政府的各項必要權力和這些權力的具體定義，卻也懷疑這種做法是否切實可行。現在他的願望依然存在，懷疑則有增無減。他的觀點最終會走向哪裡，他自己也說不清。但有一點卻可以肯定，那就是：只要能夠為整個社會構建一個新的政府框架，也只要這個政府是能夠為人民提供安全、自由和幸福的，那麼，對於任何具有奠基性意義的意見，他都不會退縮。
這大約也是大多數代表的立場了。因此，他們心照不宣地決定暫時「不爭論」，即不爭論會議的性質和職責，先把會開起來，走一步看一步，摸石頭過河。如果最後只不過是修約，最好；如果硬要制憲，再說。反正制憲也好修約也好，都得先開會。如果一開始就要「正名」，那就什麼事情也做不成了。
現在想來，美國人民真的要慶幸他們的建國領袖都是些務實的人，不是書獃子。因為這些人不但沒有堅持「必也正名乎」，而且採取了一系列務實的做法。比方說，為了提高效率，先討論大家感興趣或者有可能取得共識的問題。討論夠了，就表決。成熟一個表決一個。如果不能取得共識，就先擱置起來，以後再說；而一旦取得共識，則表決存檔，並作為下次討論的先決前提。也就是說，摸到了石頭，就跨過去；碰到了暗礁，就繞著走。先易後難，先求同後存異，一步步朝著預定的目標前進。
這樣做的好處是顯而易見的。首先，它避免了因為分歧太大而分崩離析，或因問題太難而無法進行。比如會議是否有權另起爐灶，是一個難題，大家就不發言，先掛起來；建立全國最高政府，大家都有共識，就進行表決，先定下來。這樣，隨著會議的進行，總歸會不斷有決議產生。這些決議慢慢積累起來，就形成了憲法的框架。等到有人再來反對時，則木已成舟，大多數人都不願意前功盡棄。即便有所不滿，也同意妥協，以免功虧一簣。這種做法，你說它是政治智慧也可，說它是無可奈何也行，甚至說它是「陰謀詭計」都成立（確有部分學者持此一說）。但在我看來這無關緊要，重要的是他們把會開起來了，而且最後還把憲法制定了出來。
這裡面無疑有著麥迪遜的功勞。詹姆斯·麥迪遜，弗吉尼亞人，祖先是木匠，父親是地主，自己則畢業於新澤西學院（即今普林斯頓大學），後來又自學法律。他身材矮小（1.6米），體質瘦弱（47公斤），雖有民兵上校軍銜卻並無作戰能力和功績。上帝賜予他的，似乎只是非凡的智慧，這使他在政治領域長袖善舞游刃有餘。在美國的建國史上，先後有過三次大分化，麥迪遜每次都站在了勝利者一邊。第一次是獨立戰爭時期，美利堅民族面臨生死抉擇。聯合殖民地的領袖們一派主戰，一派主和。最後主戰派勝，主和派淡出政治舞台，麥迪遜是主戰派。第二次是制憲會議前後，13個邦走到十字街頭。邦聯領袖們一派主張聯合，一派主張分治。最後主張聯合者勝，主張分治的淡出政治舞台，麥迪遜主張聯合。第三次是華盛頓執政期間，政府分裂為以傑斐遜為首的一派（後發展為民主共和黨）和以漢密爾頓為首的一派（聯邦黨人），麥迪遜是傑斐遜的親密戰友。較量的結果，傑斐遜當選第三位總統，連任8年。麥迪遜作為傑斐遜的國務卿順利接班，又連任8年，然後交班給自己的國務卿門羅，同樣連任8年。聯邦黨人淡出政治舞台，只剩下一個約翰·馬歇爾在最高法院孤軍奮戰。麥迪遜每次都站在「正確」的一邊，這個人真是好生了得！
實際上，儘管出席費城會議時麥迪遜資歷尚淺（時年36歲，弗吉尼亞議員），威望遠不能和華盛頓、富蘭克林他們相比，卻是這個群英薈萃的會議的核心和靈魂，後來史學家甚至稱他為聯邦憲法之父。這說明麥迪遜必有過人之處。根據佐治亞代表威廉皮爾斯的《制憲會議代表性格描述》，我們發現他有三大優點：一、集政治家的深謀遠慮和學問家的博聞強記於一身；二、熟悉法律和政治，對邦聯的事務瞭如指掌；三、循循善誘，侃侃而談，特別會說服別人。因此，他在制憲會議中總是處於引導地位，在辯論的任何關頭，總是作為最瞭解情況的人走在前面。
托馬斯菲傑遜，美國開國領袖之一，《獨立宣言》的起草人
皮爾斯的說法並不誇張，麥迪遜確實是費城會議的掌舵人。他知道什麼時候應該揚帆遠出，什麼時候應該躲避風浪。5月30日，會議剛剛做出應該建立一個由最高立法、行政、司法部門組成的全國政府的決議，代表們就因全國議會的席位問題產生嚴重分歧。麥迪遜提出，新的全國議會，不能再像《邦聯條例》規定的那樣，每邦１票表決權。這個提議得到賓夕法尼亞代表古文諾莫裡斯的附議，特拉華代表團團長喬治裡德卻提出強烈抗議。裡德說，特拉華代表團的使命，受到本邦議會授權的限制。特拉華議會的授權書說，該代表團不得同意改變每邦１票平等表決權的規則。這個授權，是在會議一開始時就宣讀過的。如果一定要把這種改變確定下來，本代表團就只好退出會場，回特拉華去了。
這當然不行。儘管麥迪遜仍然堅持自己的觀點，也相信這一改變終將實現，卻認為應該照顧代表們的感情，不能剛一開會就把特拉華代表團弄得很尷尬。他建議暫緩討論這個問題。會議同意了他的建議，改為討論全國議會是否應該實行兩院制。
這個提案在第二天很順利地就通過了。這就形成了會議的第二個政治決議：全國議會應由兩院組成。在後來的幾天中，會議還通過了一系列決議，比方說，全國議會第一院（即眾議院）議員由人民選舉，第二院（即參議院）議員由各邦推選，邦聯議會的立法權全部移交全國議會，全國議會對各邦無能為力的所有事務都有立法權，對各邦議會的違憲立法有否決權，等等。另外，會議還通過決議，設全國行政長官一人。該行政長官控制立法的復決，有權否決議會的立法，但議會兩院可以分別以2/3的多數否決行政長官的否決。這些決議都是十分重要的。它們是與會代表合作的結果。
可惜，好景不長，僅僅才過了9天的「蜜月」，麥迪遜們的「石頭」就摸不下去了。因為美國憲法這顆「太陽」固然在一點一點上升，籠罩在它頭頂上的疑雲也在一點一點積攢（這一點我們後面還要細說）。繼特拉華代表團差一點就要退場之後，康涅狄格的羅傑·謝爾曼，馬薩諸塞的艾爾斯沃斯·格裡，南卡羅來納的皮爾斯·巴特勒等人都提出了尖銳的意見。於是，到6月9日，就有人公開發難，不但指斥費城會議有「篡權」嫌疑，而且還提出了一個新的方案，和作為會議主流意見的《弗吉尼亞方案》分庭抗禮，震撼會議，影響深遠。
這確實是一個可以和麥迪遜抗衡的人物。他的身材比麥迪遜還矮小（不到1.6米），年齡也只比麥迪遜大幾歲（42歲）。他父親是賣白鐵工藝品的，自己則畢業於新澤西學院，和麥迪遜是校友，而且和麥迪遜一樣精通法律。皮爾斯的《制憲會議代表性格描述》說他是「那種力量會濺到你身上，引起你好奇和吃驚的人物」。但是，他又是為人謙虛，做事低調，不喜歡拋頭露面的人。這就決定了他不同凡響的風格。皮爾斯說：「他在選擇切入辯論的時間和方式上，真是爐火純青。不到把握主題，決不輕易開口。」然而他一旦脫穎而出，「人人都禁不住讚揚」。也就是說，他不是那種隨便出手的人。但該出手時，一定出手。而且，他不出手則罷，一旦出手，便見血封喉。
這個人，就是新澤西代表威廉·佩特森。