汪偽中央黨部及各部委成立之後，便開始進行偽國民政府的成立。「國民黨六大」開完之後，汪精衛加快了與日本近衛內閣談判的步伐，但始終由於自身缺乏群眾支持和軍事實力，說話總是底氣不足，沒有什麼討價還價的餘地。因此日本政府於1月發表了對華第一次近衛聲明，態度強硬。經過汪精衛等人的反覆磋商和談判，日本在11月份發表的第二次近衛聲明中，語氣則比之前大為緩和。在這種情況下，汪精衛和日本人都希望能盡快將之前談判的原則深入到具體條款，於是雙方都各自派出代表舉行秘密會談。
然而在這次為期十多天的會談中，日本人並沒有拿出對汪精衛談判的「誠意」，來積極促成一個親日的偽政府。而是獅子大開口般的漫天要價，而且態度蠻橫，咄咄逼人，汪精衛派去的代表幾乎無法開始。這種情況的出現，說到底還是因為汪偽機構那時勢單力薄，沒有讓日本政府覺得值得做出讓步。所以最終還是得妥協讓步，與日本人簽訂了《日華新關係調整要綱》及其附件《秘密諒解事項》。沒想到幾天之後，汪精衛身邊兩位要員高宗武、陶希聖叛逃香港，並聯合給香港《大公報》寫了一封信，並把汪偽機構和日本方面簽訂的賣國條約翻拍的復件寄了過去，《大公報》當即刊出，國內再次震動，朝野一片嘩然。
汪精衛剛聽到高陶叛逃時大為惱火，不過後來也想開了，他認為「高陶事件」從另一個角度來看也算是給了日本人的一個教訓，而且這兩個人到了重慶之後見到蔣介石必會實話實說，讓蔣介石瞭解到這邊的情況，這也不無好處。
「高陶事件」風聲淡了之後，汪精衛致電蔣介石繼續勸他主持議和，以使中日能實現全面停戰，這樣可以使日本能夠給中國開出更好的條件，但遭到拒絕。無奈之下的汪精衛自己開始了汪偽政府的組織工作，他身邊的人是「八仙過海，各顯神通」，為職位忙得不亦樂乎，可謂醜態百出。周佛海、李士群、丁默村、羅君強等汪精衛手下的組織干將這時紛紛活躍起來，摘取那些部長高參之職。而胡蘭成這時卻受到了冷落，這其實也不奇怪，因為這一階段汪偽集團的工作重心，已經由前期宣傳為主的活動轉到如今竭力組建汪偽政府機關這個大攤子了，現在需要的是熟悉官場運作的官僚，而不是只會搖旗作勢的筆桿文人，這時的胡蘭成地位已不向先前那麼重要。而且由於他出道不久為官根底尚淺，既不懂得怎麼玩弄政治手腕，有以文人雅士自居，不屑於耍手腕，所以只能眼睜睜地看著那些顯赫的位子被別人搶走。
受到冷落的胡蘭成一肚子不平，也不掩飾，就直接表現出來，於是故意稱病幾天不到汪公館。後來汪精衛也察覺到此事，便找了個機會叫來胡蘭成，親自安撫。胡蘭成一來他就開始噓寒問暖，先是問他身體是否好些，隨即上樓取出1000元給胡蘭成作醫藥之用，以一種朋友般的關懷，讓胡蘭成感受到溫暖。然後又說道：「這幾天忙於人事調配，只因為蘭成先生是自己人，所以一早擬就了而未說出。」於是說出三個職位讓他選擇，分別是行政院政務處長，立法院外交委員長，宣傳部政務次長。胡蘭成這次鬧情緒只是因為看到別人都做了大官而自己遭受冷落，現在汪精衛對他這麼動之以情、許之以高官，他反而有一種釋然，便還選了自己拿手的筆桿子工作，做了宣傳部政務次長，同時兼任《中華日報》總主筆。
職位分配得差不多時，這些人就穿上戲袍粉墨登場了。中華民國二十九年三月，公元1940年3月，汪精衛宣佈國民政府「還都南京」，並在南京國民政府大禮堂舉行「還都」儀式及就職典禮。與會眾人仍遙奉林森為主席，選舉汪精衛為代理主席。禮堂裡面懸掛著有「和平、反共、建國」黃條的青天白日旗，文官一律穿藍袍黑褂，武官一律穿軍裝，胡蘭成看著這群不倫不類來的「烏合之眾」，又看看「國旗」，頓時心中覺得可笑，甚至想諷刺一番，但猛然間看到了汪精衛，才覺得這樣做不妥當，於是趕緊收斂自己的情緒，裝作一臉嚴肅地傾聽奏樂。
奏樂完畢，汪精衛發表演說，其大致內容是：大亞洲主義是孫中山北上經過日本時提出的主張，新南京國民政府與日媾和乃是秉承孫先生的遺願而做；新南京國民政府要以「收拾舊山河，拯救天下蒼生」為宏願。
汪精衛講話完畢，典禮也宣告結束，全體人員在禮堂門口合了一張影，然後又一同去中山陵謁陵。到了中山陵之後又到了明孝陵。在胡蘭成眼裡，明孝陵比中山陵要好，他認為中山陵的建築設計太刻意，沒有明孝陵的那般山河同一，歲月無痕。
當天下午眾人一起去中山門，胡蘭成和古泳今坐在同一輛車中。古泳今當時官為宣傳部秘書長，是胡蘭成屬下。古泳今在車中提起了德軍在歐洲戰場的大勝，很是興奮，胡蘭成卻潑涼水說德國要敗。古泳今不同意，但也沒有反駁，只是作為朋友提醒胡蘭成說這種話對他說說不要緊，對別人則不能亂開口。胡蘭成卻沒有借坡下驢，仍不管不顧地說，並接著提起前些天當著德國外交參贊官的面他也直面斷言德軍渡不過英倫海峽一事。不知出於什麼心理，他還幸災樂禍地拿話激古泳今說：「日本在亞洲的稱霸與汪先生的政府都不會長久。」古泳今聽了這話大為動氣，就教訓胡蘭成，說他既投身此和平運動，就不應該是這樣的消極態度。胡蘭成見古泳今真生了氣，便不再去辯駁，但心裡對他的話還是頗不以為然。
他對於日本素無好感，作為汪精衛比較欣賞的主力筆桿子，後又委以宣傳部政務次長重任，胡蘭成那次雖然沒有參加汪派代表和日本談判，但他常聽汪精衛提及那次談判的情形，也得知由於汪派代表的底氣不足而遭遇的近乎污辱性的遭遇。他心裡很是忿忿不平，因此，沒事時他也常想發發日本的牢騷。有一次，他在部門碰到了周佛海，就問他說：「周先生當時著全力於組府時，曾撰文說，中日間的交涉不比外交的談判，而是自己人的商量，是自家事。但現在看來，自家人的事情好像不像你當時說得那麼好辦嗎？」周佛海無法否認，只得坦承，歎息道：「我當時確實沒料到日本人竟是這樣子的！」
在胡蘭成看來，日本人這樣做純粹是揀軟柿子捏，因為他們的實力和才幹比起日本之前打交道的維新政府和北京政府都要弱，所以日本人看不起汪派人物，還間或有人故意找茬生事。不僅那些部門委員會的司長科長之類的官會被日本憲兵打耳光，就連汪公館的衛隊，日本兵也敢惹，諷刺的是，那次衝突還是發生在太平洋戰爭後不久汪精衛要和日本「同甘共苦」的時候。而汪精衛這邊則一旦有機會也會報復，雙方表面看上去親密得如膠似漆，其實也各自爾虞我詐不絕。
汪派人士裡面不給日本人面子的，汪妻陳璧君就是其中之一，只要是日本人，她一概不見。在火車站或者飛機場時，常常有很多日本新聞記者圍攏來，想往前靠著採訪她，她都絕不發一言，而是讓自己的副官去拒絕他們，可謂對日本人絕無好感。當時跟日本人不相往來的還有樊仲雲，胡蘭成因為對日本人囂張跋扈的作風看不慣，見了日本人也是愛理不理的。偶爾見到一些日本人熱情地和他握手，說「我們都是好朋友」，胡蘭成便要回敬道「好不好要等做起來才知道。」當時《中華日報》還沒有設日本的聯絡員，有一次虹口駐地的日軍報導班為一條反日新聞送來抗議書，胡蘭成瞟了一眼便在那抗議書上面批到「著毋庸議」，就原件退還了。那個時候的胡蘭成還未能得到日本人的賞識和好處，對日本人既有戒心，也不大看得上眼。但自後來日本人救了他命，給了他好處之後，他就一下子改變立場了，人心真是難測！
不過胡蘭成那時當然也僅僅敢以「著毋庸議」表達自己的不滿，在絕大部分時間裡，他是很「聽話」的，比如進出城門，他還會耍個心眼讓自己像個小百姓一樣不高興、一樣平凡，他不願惹上麻煩。他那時常駐上海，但官邸在南京，每月要回南京一兩次見汪精衛。有一次他從上海返回南京的時候帶了兩套朋友送的西裝料子，出火車站後因為他先坐汽車走了，副官拎箱子在後，不料被日本憲兵叫住打開箱子沒收了！雖然依胡蘭成當時的身份前去交涉應該可以要回來，但他卻沒有去，反而以民間俗語「人善人欺天不欺」等聊以自慰。其實這種自慰，反映出了他懦弱、沒有骨氣的一面。這是一種軟弱自欺的表現，而這種軟弱自欺最終造成了他變節投靠日本人。
胡蘭成說自己不搶官做，但是他仍然喜歡達官貴人的富貴之氣。官他當然搶不過了，因為他沒有鬥過官僚的能力；他只會使用一點小聰明來解氣罷了，解氣之後也是洋洋得意的，畢竟他「喜愛達官貴人的富貴之氣」。有時，話不能說得太明白，否則就失去了意義；而胡蘭成這種文人，一向不會將話說的太白，要不也就沒有了文人所特有的特質。所以，胡蘭成是喜歡做官的感覺的，正因為心中喜愛，所以他才始終賴在汪精衛的門下，直到被汪精衛掃地出門。儘管這種官職對他而言是虛偽的，是沒有意義的，但總比沒有要好。真是可悲又可憐！這種對名利的追求在很大程度上是受了童年少年時期的影響，從小就知道沒有錢的難處，成年則不堪受窮。張愛玲是自小就沒有過錢的概念，後因金錢與母親之間產生芥蒂，而更覺得錢的重要。胡蘭成自稱與世不爭「清好」和張愛玲的「超然」其實是同一個性質的。
但是，胡蘭成畢竟不是政客，所以還是有些不習慣官場的；而他更不具備高官所應有的氣質。有一次，胡蘭成在上海結識了一個生意人，他準備買房娶媳婦，但是看重的房子被租了出去，而房客不願遷讓，於是他就請胡蘭成幫忙。胡蘭成也沒有任何辦法，只好寫信相勸那位房客，誰知房客根本不理會他，還說哪個做大官的會這麼客氣，肯定是冒充的！這倒把胡蘭成弄得哭笑不得。
胡蘭成不但沒有做官的氣派，更不會行做官之道。在香港的時候，陳璧君第一次召見他，當時給了他2000元的機密費。而胡蘭成並不知道那是津貼，還以為這錢是要用於公事的，於是就將這筆錢用在了發動外圍政治團體上，而且每個月還向陳璧君如實匯報並報銷，只可惜陳璧君是不會看見他的報銷單的。這足以體現他在做官上的笨拙了！以至於到了上海，胡蘭仍然三番五次地拒絕接受機密費。以他這樣的頭腦想去玩弄政治，注定是要失敗的！如果不是汪妻陳璧君欣賞他的文采，他是絕對不會受到汪精衛的重用，也許早就被拋棄了！遺憾的是，胡蘭成並不明白這一點，反倒得意自己的「誠實」，他實在太沒有自知之明了！在政壇上沒有自知之明還想耍弄小聰明的，則難免會被人作為棋子用。汪偽政權後期顯赫一時的李士群就是借胡蘭成這個梯子而很快爬到高層決策圈的。
當時的李士群是周佛海手下的警政部次長，汪偽政府「還都」的那個夏天，他留在上海照看特工總部七十六號。胡蘭成那時也在上海，有天他閒著沒事幹忽然很想去七十六號「看看」，把那種血腥殘酷之地當成閒遊之地逛逛。這一逛，逛出了不小的名堂。
李士群是個頗有野心之人，不甘久居人下，他一直謀劃著如何跳過周佛海而「直面主公」，只是苦於沒有門路，這時看到胡蘭成來了，不免大喜過望。因為當時胡蘭成的官雖然不太大，但是誰都知道，他是汪精衛的心腹，和汪有很好的私交，有直接進言的機會。於是李士群便使盡手段讓胡蘭成與他結成聯盟。而胡蘭成對於七十六號和李士群的印象都不錯，加之政壇中鐵桿盟友不多，就答應了。
這第一次發難，是胡蘭成和陳璧君讓汪精衛把特工機構七十六號的最高權力收歸汪精衛本人，理由是世界各國都無此情報部門不歸首領直轄之例。說服了陳璧君之後，他又馬不停蹄地前往南京，向汪精衛進言，請求撤廢特工委員會，改設調查統計局，隸屬軍事委員會。汪精衛當時本來也想試圖改革周佛海的特工組織，於是順水推舟，果真撤了特工委員會，另設調查統計部，比原來預想的「局」更高一級，而且讓李士群代替周佛海作了警政部長。
胡蘭成自覺隨便動動嘴就辦成大事，不免得意非常。當時的他已經完全脫離了《中華日報》，辭去了總主筆的職務，開始經營《國民新聞》。而李士群突然高就部長，自然對胡蘭成很感激，一直想著要報答。一聽說胡蘭成要辦《國民新聞》，就立刻將機器給他弄來，還幫他選好報社的地址。這次幫李士群，應該說相互利用的成分還不是很多。