當山西票業錯失了一個個機會時，中國國內金融業卻悄無聲息地完成了新的變局。由於貿易總額及對象的增多，外資銀行紛紛搶灘上海，1847年，第一家外資銀行麗如銀行進入上海。19世紀80年代，上海在全國對外貿易款項調撥的總額中已達80%。19世紀末，天津地區的外國銀行佔據了60%以上的市場份額。
外資銀行通過借款給清政府，攫取了中國鐵路的築路權；通過賠款的清償，控制了中國的關稅收入；通過進出口貿易，壟斷了國際匯兌。1900年後，外國銀行逐漸成為中國金融業的主宰。它們憑借雄厚的實力發行紙幣，以紙幣代替銀兩流通，對靠銀兩匯兌起家的山西商人打擊很大。
清政府不惜以關稅、鹽稅收入作抵押來向外資銀行舉債，使上海的外資銀行成為控制中國財政經濟的樞紐。外資銀行逐漸滲透到山西商人一度把持的國內市場，從而控制和操縱了中國的政治和經濟命脈。
光緒三十二年（1906年）7月，戶部存放各銀行票號款項共693萬兩白銀，其中存放銀行424萬兩白銀，占總額的61%；存放票號206萬兩白銀，占總額的30%；存放外國銀行57萬兩白銀，占總額的8%；存放其他行號6萬兩白銀，占總額的1%。
1906年也是一個轉折之年。由中國人民銀行山西省分行、山西財經學院編寫的《山西票號史料》記載，這一年票號匯兌的公款總數達到2250多萬兩白銀，創歷史之最，之後逐漸下降，到1911年只剩530餘萬兩白銀。
而在1897~1911年，由商辦或官商合辦的中資銀行達到17家。在1909年，僅交通銀行就收匯白銀1970.5萬餘兩，其中工商業匯款為1520.5萬餘兩，占77%；交匯2074萬餘兩，工商業款為1900萬餘兩，占91%。
戶部銀行成立後的一兩年間，迅速在上海、天津等十餘個繁華城市設立支行，並且由政府的法律條文進行明確規定：「凡各省如有應行解部之款，一律由戶部銀行兌交京師。」交通銀行設立後，清政府又規定：「各省凡設行之處官款統交銀行存匯。」交通銀行享有獨家經理中國輪、路、郵、電四政營業收支的特權，其總理和協理均由郵傳部派官吏充任。
就公私款項匯兌變化而言，票號受國內銀行和官銀錢局的競爭影響，減少了很多官私款項的匯兌業務。中國人民銀行上海市分行金融研究所錢薇在《舊上海的票號業》一文中指出，現代銀行的設立，使票號處於相形見絀的地位。外國銀行的咄咄逼人，更令票號經營者憂心忡忡，票號內部守舊勢力又不敢改革，墨守成規，不屑趨步現代銀行組織經營之法，於是票號業便只有在日益蕭條的境遇中苟延歲月。
1910年上海發生了「橡皮股票」風潮，錢莊倒閉大半，但在1913~1914年時，上海錢業漸趨穩定。第一次世界大戰期間，中國民族工商業獲得難得的喘息機會，發展迅速，上海錢業也在1913~1923年迎來了「黃金十年」。除自行收歇外，期間上海錢莊無一家倒閉。除原有的五大錢業家族外，寧波又出現了一批新的錢業投資者，如徐慶雲、徐承勳、嚴信厚、徐靄堂、薛文泰、孫衡甫、王伯元、周宗良、劉鴻生等。
第一次世界大戰中，中國白銀大量出口，戰後銀元的缺乏加劇了票號經營的捉襟見肘。中外銀行和錢業力量的擴張和增長，大大削弱了票號的市場空間和競爭力。
1912年，山西票業籌辦銀行之事再度被提上日程，14家票號聯合發起在太原組建三晉銀行。當年的反對派領袖毛鴻瀚也表示支持，用李宏齡的話說，他「力表贊成，毫無推諉，實出意料之外」，但此時的山西票號因為虛空過多，信用日減，已失去募集本金的能力。即便是500萬兩白銀的銀行資本金，對此時的山西票號來說也不再是個小數目。山西票號業不得已求助政府，但政府並不可能拿真金白銀再入股成立銀行。
也是在這一年，在袁世凱政府財政部的牽線下，山西票號決定向美國銀行團借款500萬銀元作為本金，以重組票號體系。可是，美國銀行認為，它們要在借款所辦的實業內擁有相等的利益，也就是說要有股份，且要有抵押的保障。但這時，山西票號既不願意讓出股份，也不能提供美國銀行所要求的抵押，居間牽線的財政部也已經厭倦，表示不再過問此事。這是從成立戶部銀行到改組成大清銀行之後，山西票號業成立銀行計劃的第三次流產。
1914年山西祁、太、平三幫票號聯合再次向北京當局提出申辦銀行之請，時任國務總理的熊希齡深知山西票號與一般商業有重大關係，對晉商之請給予支持，同意由政府出面擔保，按照「商借商還」的辦法，由山西票號向奧商華利銀行借款200萬磅，期限50年，利息6厘，作為開辦銀行之資。不巧，熊內閣不日倒台，又逢第一次世界大戰爆發，貸款之事成為泡影，山西票號第四次失去改組銀行的機會。
對外借款失敗，祁、太、平三幫票號聯合改組銀行計劃無法實施，於是平遙幫決定單獨進行，蔚泰厚總經理毛鴻翰、蔚長盛總經理閻子樵、蔚豐厚總經理張子康、新泰厚總經理侯某、蔚盛長總經理霍益亭、天成亨總經理范子生等擬從各自的票號中抽出若干資金作為基金，組織一大銀行，但這計劃始終未能實現，山西票號改組銀行的計劃第五次落空。
日昇昌倒閉與山西商幫的盡頭
就在連毛鴻瀚也站出來要成立銀行的1912年，李宏齡又發了一番並非危言聳聽的話。他說，如果成立銀行，或可救數年後不可設想之票幫，而一旦票號空虛的事情為世人所知，形勢則會急轉直下，「號事則為元豐玖，老總則為王康侯」。意思是說，再發展下去，山西票號業及經理人的下場，就如同倒閉的元豐玖及其被傳喚的老總王康侯。
他擔憂的事情，旋即而至。日昇昌的倒閉是一個標誌性事件。從光緒末年（1908年）起，日昇昌東家李氏的商號、票號、錢莊都已經出現虧賠。到1913年，山西14家最主要的票號，被拖欠的債權達3100多萬兩白銀。其中，日昇昌17個分號中債權近300萬兩白銀。
票號追討欠款和儲戶追賬，是一個問題的兩個方面。辛亥革命後，因兵匪的劫掠和紙幣的貶值，票號虧賠更加嚴重，日昇昌票號在四川、陝西的損失尤為嚴重。儲戶存錢催逼甚急，廣西軍政府甚至端著步槍衝進日昇昌的票號，強行提走10萬兩前清官銀。清室貴族的放款很多因此打了水漂，有的債主便直接逼賬到李家家門。
主持李家商號的李五峰，就把家裡藏的許多財物寄放到了內兄趙鴻猷家中，自己也躲藏起來不見人。後來，逼債的風勢減弱，李五峰便向趙氏索取寄存財物，不想趙氏抵賴不承認有寄存一事。李五峰氣急敗壞，欲到衙門告狀，又怕招來債主逼債，不得已只好忍氣吞聲，吃了暗虧，這也讓李家雪上加霜。
日昇昌票號和那個曾經開創了海外開設分號紀元的合盛元票號是一對「相與」（生意夥伴），數十年風雨同舟，和衷共濟，但這種「相與」在1912年的擠兌中擱淺了，北京地方檢察廳扣押了其京號經理，這個經理被具保後無力清償債務，一時倉皇，便逃回了祁縣總號。此時日昇昌在全國的19個總分號，存款額近296萬兩白銀，放款額約為343萬兩白銀。放款收不回，存款要本利返還，日昇昌多少已經力有不逮。
1914年的秋天，檢察廳向擔保人日昇昌北京分號經理侯垣索人。一方面是各債主的追討，一方面是檢察廳的追逼，侯垣和伙友竟也攜賬本連夜返回平遙。一味的逃避加劇了債權人的恐慌，日昇昌北京分號被查封，北京地方審判廳致函平遙縣知事，令查封日昇昌平遙總號和東家財產，並迅速派人攜帶該號賬簿到京清理號事。時任日昇昌總號經理的郭樹柄藏身躲避，財東李五典、李五峰被關押。
值此危急關頭，已經離號的曾經的二掌櫃梁懷文攜帶伙友，奔赴北京，到審判廳報到，開始清理號事。他開誠佈公，周旋於眾債權人、商會及北京審判廳、檢察廳、司法部之間，很快取得各方的諒解和信任。1915年，司法部宣告日昇昌破產，農商部通飭全國各地商會知照辦理，日昇昌一敗塗地。
1915年3月出版的《大公報》對此報道說：
彼巍巍燦爛之華屋，無不鐵扉雙鎖，黯然失色。門前雙眼怒突之小獅，一似淚水涔涔下，欲作河南之吼，代主人鳴其不平。前月北京所宣傳倒閉之日昇昌，其本店聳立其間，門前尚懸日昇昌金字招牌，聞其主人已宣告破產，由法院捕其來京矣。
經梁懷文與債權人協商，72名債權代表向司法部請求暫免日昇昌破產，讓它以收賬還債。之後，日昇昌的債權從1914年10月的多於204萬兩白銀減到1921年2月的170萬兩白銀。1922年，在296戶日昇昌債權人中，293戶贊成日昇昌復業，之後獲准，日昇昌不再受京師地方審判廳之節制。李姓財東不再為專一股東，債權人也成為股東，保留日昇昌招牌，仍由梁懷文負責經營票號業務，此後分號只有北京、天津等地，其餘全部收撤。
但到1932年，清理無望的日昇昌票號最終還是歇業了，部分伙友利用日昇昌的牌號改營錢莊。1948年，日昇昌錢莊停業。至此，中國第一家票號日昇昌歷經100多年跌宕起伏之後終於退出了歷史舞台。
日昇昌票號的後門旁建有一堵擋風牆，當年雷履泰每天都從這裡進出。在修建這堵牆時，牆內嵌入了鐵片和銅錢，有取「銅牆鐵壁」之喻。雷履泰老驥伏櫪，志向不小，但世易時移，一切都隨風消散。
在中國票號史上曾誕生過51家票號，山西佔絕對大頭，有43家，其中平遙占22家。到民國初年，上海的票號尚有20多家，其中祁縣幫有大盛川、大德通、合盛元、存義公、三晉源、大德恆6家；平遙幫有蔚泰厚、蔚豐厚、百川通、協同慶、蔚盛長、新泰厚、天成亨、蔚長厚、寶豐隆9家；太谷幫有志一堂、大德玉、協成乾、大德川、錦生潤5家。
到1921年年末，平遙、太谷兩幫各大票號相繼倒閉、改組或在清理之中，閻錫山把持下的山西銀行逐步控制了金融市場，只留下祁縣幫4家票號三晉源（到1934年歇業）、大盛川（到1929年歇業）、大德通（到1932年歇業）、大德恆（到1932年歇業）仍在慘淡經營。而與蔚字連號東家侯家及其大掌櫃毛鴻翽的後輩一樣，毛鴻翽的後任范凝晉的後代以及協同慶東家王棟、米秉義的後代也都染上了吸毒的惡習，最後變賣家產，坐吃山空，在窮困潦倒中餓死，空留下一時的顯赫。
作為中國銀行業的「鄉下鼻祖」，日昇昌開創了一個時代，由此發軔的金融智慧和實踐，讓這片厚重的土地人才輩出，這足以讓山西人引以為豪。除清朝第一家官辦銀行的行長由山西祁縣人賈繼英獲任外，7歲喪母的山西太谷人孔祥熙，在其46歲那年，擔任廣東省財政廳長兼廣州國民政府代理財政部長，總攬後方財政事務，支持北伐戰爭，之後成為國民政府的財政部長兼中央銀行總裁。
而4歲喪母、生在山西洪洞縣的南漢宸（1895~1967），則在抗日戰爭時期，被毛澤東召見任命為邊區財政廳廳長。用毛澤東的話說，「我就是要你做一個會做無米之炊的巧媳婦」。之後，他先後出任晉察冀邊區政府財政處處長、華北銀行總經理等職。1948年12月1日，中國人民銀行成立，他出任首任行長，1950年4月兼任中國銀行董事長，6月兼任交通銀行常務董事，成為新中國中央銀行的奠基人。
山西票號的衰落標誌著山西商人輝煌歷史的終結，縱橫馳騁中國商界500多年的山西商幫從此走到了盡頭。