陸徵祥請假時，內閣總理由內務部總長趙秉鈞代理。趙在唐內閣和陸內閣中，都是獨立特行的，他不參加國務會議，遇事直接向老袁請示。國民黨成立後，他受袁的密令，接受黃興的邀請，加入國民黨。袁既然向黃興大送秋波，要請黃的好友沈秉坤出任總理，黃興投桃報李，遂向袁推薦趙秉鈞組閣，因為趙是袁的死黨，又是國民黨員，自然是過渡時期理想的人選。
趙既然已經代理了總理，如今由代理而真除，在袁世凱來說，應是正合孤意。可是黃興更向袁推薦沈秉坤出任內務總長以接替趙的遺缺，這卻不為袁所接受，因為內務部在趙時代已形成了一個極有實權的機構，具有民政權和警察權，袁當然不會把這個主要機構交出來的。
民國元年9月22日，袁世凱向臨時參議院提出任命趙秉鈞為內閣總理，得到參議院的順利通過。為什麼參議院會順利通過呢？這完全因為有黃興的疏通調和。可是袁並沒有接受黃的推薦以沈秉坤主內務，卻派沈為浦口商場督辦，另以袁的死黨朱啟鈐繼任內務總長。
趙秉鈞組閣時。袁放出空氣說：「趙秉鈞是國民黨黨員，國民黨所主張的政黨內閣已經實現了。」其實，這是一個張冠李戴的政黨內閣。
天下事有許多奇怪的，也不可解的，譬如說陸徵祥以擅長外交來組織民國的第二屆內閣，可是在他任國務總理期間，卻沒有什麼大的外交事件讓他一顯身手，麻煩的卻是內政。先有張振武案發生，其後則是孫、黃入京，四巨頭髮表政綱，這一連串的大事都使陸徵祥尸位素餐，幸而他因病入住醫院，落得一個不聞不問。至於趙秉鈞組織第三屆民國內閣時，趙一直負責內務部，從清宣統年間到民國，應算是一個內政專家了，可是他一上台，麻煩就出在外交上，那便是轟動一時的庫倫問題。俄國陰謀掠占外蒙古所發生的「俄庫問題」。
陸徵祥原已答應繼續留任外務總長，但其後又變了主意，堅決不幹，於是趙秉鈞的內閣中，外交總長乃由梁如浩繼任，陸徵祥則被袁世凱聘為總統府的高等外交顧問。
趙秉鈞內閣成立後，外交團中忽然傳出一個駭人的消息，說是中國政府已經和各國斷絕外交關係了。這當然是個謠言，謠言從何而起呢？原來是這麼一回事：當梁如浩接任外交總長後，認為依照各國通例，所有各國使節應該依例前赴外交部道賀，所以乃發表一封通函給各國使館，略謂本總長已於某月某日接任，特此通知，並希望貴公使於某日某時來署，以便接見云云。這個通知在外交團中引起了波折，因為外交團的看法不一樣，他們的解釋是：前清時代，外務部尚書到任，都是先拜使館，然後各國使節才前往回拜。今日的外交總長，就是前清時的外務尚書，依此而言，宜由外交總長先來拜望，然後各國使節才可赴外交部。外交團這種意見實在是錯誤的。前清的外交部是總理各國事務衙門，最高負責人是奕-，他一直負責了十幾年，至於下面的尚書，實際上是輔助官。這些尚書到任時倒是真的先赴各使館拜望，然後再由各使回拜。外交團以這一個例子來衡量民國時代的外交總長，實在是不恰當的。各國使節答覆梁總長就任和約會函很簡略，只云：「接到貴總長來函通告接任，聆悉一是」。竟不提約會，也不赴約，還有幾個國家竟隻字不復，實屬可惡之至。其中只有法國公使曾赴梁的私宴一次。各國使節遂和趙內閣的外交總長毫無往還，凡有事故，各國使節由參贊隨員和外交部次長顏惠慶交涉。這就是中國和各國斷絕邦交謠言的真實原因。梁如浩的外交總長坐了月餘，外交上毫無辦法。民國元年10月24日突然發生俄庫密約事，梁倉皇無措，乃於25日至東交民巷遍拜各使，當然毫無要領。俄庫密約發生後，梁如浩蒙在鼓裡，一無所知。要知道外交活動要講歷史淵源和關係，在這方面，梁不只比不上陸徵祥，也比不上他的次長顏惠慶，所以庫倫問題一發生，梁當然手足無措了。
庫倫問題的發生，是俄前任駐華公使柯索維茨到庫倫活動的最高峰。路透社電訊說柯使已向庫倫交付正式承認書，「庫倫」政府元首哲布尊丹巴活佛及蒙人對柯使予以盛大歡迎云云。這則電訊震動了北京朝野，總統府和國務院均分別召開緊急會議，與會人士面面相對，拿不出一個辦法來。因為任何人都不知道俄蒙勾結的實際內容。北京政府和庫倫之間的接觸，多是間接的，庫倫電報局已被接收。中國外交部也曾採取行動，電令駐俄代辦向俄國外交部詢問，俄國答覆說：「中國現已與各國斷絕邦交，所以我國沒有意思答覆。」這所謂的斷絕邦交就是梁如浩上台後未去拜訪各國駐北京使節。
北京的中國記者，曾赴俄使館訪問，俄使的答覆說：「現在我們還沒有正式公報發表，不過蒙古問題我們曾在六個月前就和中國交涉，可是中國方面概不答覆，好像不屑和俄國交涉。現在中國權力既然不能及於蒙古，俄國為了交涉便利計，所以派遣專使赴庫倫與蒙人直接接觸，同時就蒙古問題作通盤地調查。正式承認是可能的。」
當俄國派赴庫倫的專使動身時，外電傳說俄使已赴庫倫，於是外交部內有人主張向俄方提出抗議，質問柯索維茨到庫倫何為？梁如浩反對提抗議，認為此事真實情形尚不知道，貿然先提抗議，俄人撕破了臉承認下來更難辦了。其後人言嘖嘖，俄庫勾結已是呼之欲出，梁乃把抗議書提交國務會議討論，結果大家意見也主張稍緩。可是路透社電訊證實了一切，梁如浩到東交民巷拜訪各國使節，由於這是他上任後初次接觸，這種官式接解，自然是完全得不到要領的。11月7日，總統府外交顧問陸徵祥親自出馬，逕赴俄國使館訪問，俄使乃透露了俄庫確已簽約，俄國將來會承認蒙古獨立。
陸徵祥證實了俄庫勾結已有行動，使得北京政府震驚萬分。外交部這時才提出一種形式上的抗議，略謂蒙古是中國領土，沒有和外國簽訂任何條約的權利，倘有任何條約，中國概不承認。這種毫無行動和實力為後盾的抗議，實在是隔靴搔癢，因早在陸徵祥任外交總長時就已通告過俄國和其公使了。
民國元年11月8日傍晚，俄國駐華公使庫朋斯基偕翻譯阿里索福至外交部晤見梁如浩總長，這突然的造訪顯示有不平凡的事故。俄使說：
「本人奉俄國政府命令前來拜望貴總長。俄國政府命令本人將此次柯索維茨在庫倫與哲布尊丹巴活佛所定條件面交貴總長。柯索維茨此次赴庫倫，有其不得已的情形，因為俄國提議和中國政府商量蒙古問題，為時已經年餘，而貴國始終不允和俄國開議，俄國在蒙古商務及其他利權甚大，不能不加以保護。現在哲布尊丹巴政府為外蒙古實際上之政府，所以俄國必需承認現實，和這個政府訂立條約。不過條約內的文字甚為謹慎，始終未提及蒙古獨立和脫離中國字樣，深望中國政府對於這個俄庫條約表示同情和追認，如果不幸不能得到貴國的贊成，俄國也必然要維持條約中的主題，這主題不外是過去屢次向貴國提議的三點，就是中國不得在外蒙殖民、駐兵、派官。」
俄使說完，梁如浩總長致答，梁說：
「本人聽到貴使的話深感震驚和遺憾。外蒙古為中國的一部分，絕對的沒有和外國訂立條約的權力。中俄邦交素來融洽，俄國此次私自和外蒙訂約，在中國看來，實在不是友好舉動。中國政府希望世界各國在中華民國甫告成立的幼兒時代，各種交涉格外和平，不應該乘中國多事之秋表現攘奪和乘人於危的舉動。外蒙古是中國的一部分，外蒙古有任何打算，都是中國內政問題，中國政府自會處理，第三國出而干預就不是友好行動。據我們所得情報，這次外蒙古鬧獨立，實在是有人慫恿和陰謀促成，貴國在這時候，應該避免嫌疑，免為中國人民的敵人。貴使雲及俄國已和庫倫簽訂條約，實在是非常不適當的舉動，有違國際道德。本部昨日已以正式照會聲明，現在我再告訴閣下，外蒙古是中國領土，其傀儡政權和任何外國簽定的任何條約，中國都不會承認。至於貴使今天所送來的俄庫條約，我們需要研究後才能表示中國政府的態度。」
俄使答說：「貴總長所言各點，本使當會電告本國政府。」
俄使把《俄庫條約》全部俄文稿交付梁總長後，即行辭出。外交部在第二天始全部譯成中文，中國政府才算獲悉俄庫所籤條約的全文，可是這時在北京由日本人所辦的《順天時報》已經喊賣號外發表全文了。由於俄使先一天已將此條約文分別通知各國駐北京公使，《順天時報》當然是在日本公使館內得到的。當時中國政府外交活動的遲緩，由此可見，實在言之痛心。
俄人利用中國革命，在外蒙古進行陰謀，是得到日本和英國相互同意的，英人欲吞吃西藏，日本則打算吞吃北滿，所以俄蒙勾結，列強坐視。清宣統末年，應付革命尚來不及，民國成立，政府尚未組織鞏固，俄國此舉完全是乘人於危。所以在俄人振振有辭說是多次要求和中國談判蒙古問題，中國沒有理會，其實不是中國不理，實在是來不及理，也不知該如何應付。
俄國要求和中國談蒙古問題，有三個原則：一是中國不得在蒙古用兵；二是中國不得把蒙古改為行省；三是中國不得向蒙古移民。如果中國同意這三個原則，俄國願負責督促蒙古取消獨立。這樣的談判基礎，中國自然無法同意，因此中國政府只好裝聾作啞，不予理會了。
庫倫問題發生後，總統府開會，國務院開會，總統府國務院開聯席會，總統府開高等軍官高等顧問會，袁世凱和梁士詒單獨計議，討論來討論去，不外戰爭與和平兩條路，可是最後的結論是，既不能戰又不能和！
京中和戰不決，也無具體意見答覆俄方，而庫倫消息陸續傳來。據說庫倫已組成政府，元首是哲布尊丹巴活佛，內閣總理是松彥光汗，他並兼任財政部尚書，內務部尚書是雀倫琦迷，外務部尚書是杭達，工部尚書是圖什公，陸軍部尚書是達賴貝子，刑部尚書是那木薩斯。又傳說俄人自和哲布尊丹巴訂立協約後，陸續派駐內外蒙古之軍隊有加無已，張家口至恰克圖之間2400里電線，俄庫雙方已佔有四分之三，中國政府對該區情況完全不明。
梁如浩當俄使正式通知俄庫已籤條約的第三天，未經請假徑赴天津。正當外交情勢萬分緊迫之際，外交總長表現如此，各方為之大嘩，議院攻擊尤烈。梁在天津因之不敢回北京，函請辭職。北京當局亦覺梁不能勝任外交總長，於是袁世凱邀請陸徵祥重作馮婦，返任外交總長，陸亦欣然接受，毫不推卸。當陸徵祥繼任外交總長的一案提交參議院時，竟以全票通過。這時的陸徵祥，大有「公不出山如蒼生何」之慨，參議院已完全忘了三個月前否決陸閣閣員給陸難堪的一幕了。
陸徵祥復任外交總長後，即電告俄外交部，通告再任外交總長，並希望彼此在睦鄰敦誼互相尊重的基礎下，開始商談兩國有關問題。俄國外交部立即復電，表示兩國友誼素睦，最近雖有蒙古問題發生，但其事甚小，不難在友好空氣中談判解決。陸徵祥乃親赴俄使館，要求開始談判，同時電告俄外交部，表示既然俄政府願意在友好空氣中恢復談判，則希望俄方先將《俄庫條約》取消。俄方對此則沒有答覆。
陸徵祥以曾任國務總理的身份，當外交情勢緊迫而毅然降格出任外交總長，在一般人心目中，頓然成為一個可尊敬可稱讚的政治人物，在北京的中外記者亦紛紛函請陸要求約晤，一談外交形勢。陸完全是西化的作風，他復給各報記者這樣一封信：
「……祥以孱軀，重膺繁劇，日與外交團會晤及赴國務會議等處，幾無片晷之暇得以從容談話。茲內人擬於星期日五點鐘在寓接見賓客，倘承惠顧，即請駕臨，是所企盼。此頌台祺。陸徵祥啟。」
這樣一封約會信，在50多年前北京那個半新半舊的社會中，實在是很特殊的。原來陸徵祥的夫人是法國人，且為出名的「外交界之花」。約會的一天，陸夫人在客廳正中一張楠木雕花椅上坐著，陸總長把客人介紹給她，她用純粹的巴黎話與來賓寒暄。然後記者們圍了陸徵祥大談外交情勢。陸表示到任後已和俄使晤談四次，正談雙方撤兵事，其他談判無進展。法國公使康悌系以私人身份出面調停，至於國際情勢因巴爾幹風雲緊急，故大家注意力集中歐洲，對中俄糾紛乃不甚注意。
陸徵祥所謂已和俄使談判四次，據新聞記者從側面探悉四次談判情形為：第一次乃系陸徵祥要求俄國取消俄蒙條約，而俄使則要求中國承認俄蒙條約；第二次是俄使謂俄於蒙古已得有實權，並無中國承認之必要，不過俄方尊崇睦誼所以才和中國談商；第三次是陸徵祥表示中俄談判須以不損害中國之領土權及主權為範圍，俄使則謂中國承認蒙古之自治權，俄國願承認中國之領土權；第四次是俄使據科布多領事來電謂中國進兵科城，於是雙方乃決定談判如何撤兵。