與其他地方商人向上海轉移一樣，1861年前後，山西票號進入上海。同年漢口開埠，錢莊和票號成為維繫上海與漢口之間資金周轉的橋樑。因為戰爭，票商對在漢口存放較多資金心有餘悸，這使得漢口的錢莊和票號無力支持西南地區商人的信用需求。上海較為豐裕的資金市場，直接促使西南地區商人直接轉向上海進貨，上海洋貨很快輻射到西南地區。
到19世紀60年代中期，江南各地及漢口票號資本力較以前大為削弱，上海成為票號勢力增長最快的地方。大約在1871年，山西票號的業務中心從武漢轉到上海。1880年，光平遙票號分號在上海就有14家。
到1881年，在漢口的山西票號分號很快恢復到32家。其中，平遙票號分號16家，佔據半壁江山。這一年，重慶進口洋貨量接近上海進口量的1/9，地位僅次於上海、漢口和天津。在許多進口商品中，重慶作為貨物集散中心，數量上甚至超過漢口。上海票號對向重慶內銷洋貨的商人所提供的信用，是它在重慶所收的款項的兩倍。依靠票號信用經營這類貿易的商號，其經營額常常為其資本額的5倍，而在重慶設立的山西票號也已多達十幾家。
山西票號進入上海後，並沒有借助財雄勢大而與上海錢莊搶生意爭地盤，而是在細細觀察一番後便找到了自己的定位。對於票號與錢莊的關係，著名經濟學家馬寅初有過這樣的描述：「從表面視之，大有兩雄對峙勢不兩立之狀，但實際上相處正善，毫無衝突之慮。」
之所以形成這種格局，在於本地錢莊資本薄弱。有記載稱，那時上海錢莊資本一般都在2萬~6萬兩白銀之間，大錢莊的資本一般在5萬兩白銀左右，個別的達到8萬~10萬兩白銀，即便寧波幫的方家和李家也是如此，而早在19世紀60年代，山西票號貸放給上海錢莊的資金就高達200萬~300萬兩白銀，票莊委託殷實錢莊為其代理處，錢莊則依賴票莊借貸民間取得信用。錢莊的性質是兌換，票號是匯兌。票號的存款以官款為大宗，放款只借給錢莊、官吏及殷實商號，錢莊存放款則以一般商人為對象。在上海，從事進出口貿易的商人在金融調度上主要是使用錢莊莊票，藉以把自己與外商之間的債務關係轉變為錢莊與外商之間的債務關係，慢慢地，票商與錢莊劃清界限，互不侵犯，「本地之事，錢莊任之；各省之事，以票莊任之」。
在1862~1893年，上海票號匯款額佔全國25個地區總匯款的百分比最高為10%，而從1865~1895年，上海進出口貿易總值從1.09萬兩白銀，增加到了3.15億多萬兩白銀。
1900年，十年的鼎盛
在上海金融風潮中，由紅頂商人胡雪巖開辦的阜康錢莊倒閉，虧空了清政府上千萬兩的白銀，為此，清政府再一次下令禁止票號匯兌官方銀兩，並且在禁止匯兌的聖旨中宣佈，官員一旦違禁，嚴懲不貸，強調各省督府要「知所敬懼」，但這種情況在1894年中日甲午戰爭和1900年八國聯軍侵華期間，再次得到改變，並在至少十多年時間裡再沒有發生變化。
中日甲午戰爭後簽訂《馬關條約》，清政府在戰爭中籌集軍費的借款、戰後給日方的賠款以及由此的借款，都由各省海關按期匯交到上海江海關道衙門，再交付各國在華銀行，其中匯兌業務由票號承擔。其中，所有的賠款都要在上海交割。這意味著，原來解餉到北京的進項，一律要滯留在上海，中國的金融格局開始發生微妙的變化。
外交官是一個令人羨慕的職業，但在意大利人薩爾瓦戈·拉吉侯爵看來，在1900年被派駐到北京擔任駐華公使，並非一件好差事。他甚至覺得，駐在北京的外國人正「克盡厥職」地生活在世界上最糟糕的地方。這座城市凋零破敗，街道髒得無處下腳，沒有電燈，嚴冬奇冷，夏天悶熱。「更重要的是，尾大不掉、散發著腐爛氣味而且充滿敵意的王朝，不僅外國人對它信不過，甚至連它自己的臣僕都懷有異心。」這位公使大人從熱那亞登船前，曾這樣寫下他的期待：
他們（指駐在北京的外國人）夢想著去東京度假，那裡已經有了電燈，或者去長崎的小山上，住在俯瞰海灣的舒適的小別墅裡度過愜意的幾天。最差的是去上海，那裡最起碼看上去像一個歐洲城市，有著黃浦江邊的外灘大道。
西方列強用炮艦脅迫清政府讓外交使節長駐北京。象徵屈辱印記的跪叩之禮被廢除，大清帝國在起碼的禮節上實現了與西方的對等，但作為帝國頑固的象徵，北京仍以其古板的生活和靜止的節奏，給意大利公使薩爾瓦戈·拉吉侯爵的外交旅行留下了不甚愉快的回憶。
與公使大人百無聊賴的公使生活一樣，作為北京金融窗口的恆利、恆和、恆興、恆源四大錢莊也已經雨打風吹去。「四大恆」聲譽大震於1853年太平天國北伐軍攻入直隸之時。當時北京城人心惶惶，200多家錢鋪倒閉，「四大恆」卻沒有受到影響。此後，幾乎所有官宦往來存款及九城富戶顯宦放款都要經「四大恆」之手。《道鹹以來朝野雜記》載：「當時京師錢莊首稱四恆號……市面繁榮蕭索與之有關係。」
到清朝末年，北京民間流傳著一句諺語：「頭戴馬聚源，身披瑞蚨祥，腳踏內聯升，腰纏四大恆。」其意是說，當時北京人以腰纏「四大恆」錢莊的銀票為富有的體現，但世事無常，1909年，清政府因宮中庫銀不足向「四大恆」借銀300萬兩，內務府出借據，答應日後償還，但僅隔兩年，滿清王朝土崩瓦解，借出去的銀兩如肉包子打狗，有去無回。
期間的1900年，八國聯軍侵入北京大肆搶掠，北京「四大恆」錢莊遭受滅頂之災。修訂多版的《中國金融簡史》一書描述了當時的過程及其對北京乃至對中國金融界的影響：
1900年八國聯軍入侵，沿途燒殺擄掠，京津一帶錢莊亦不能倖免，遭到侵略者的大肆搶劫，繼以焚燒，庫銀、房屋、契據蕩然無存，北京的300餘家錢莊幾乎無一倖存，其中最大的4家錢莊，亦稱所謂的「四大恆」現銀全被侵略者洗劫一空。從此北京的錢業一蹶不振，中國的金融中心也從北京移到上海。
山西票號總部地處內陸，直到1937年之前，幾乎沒有遇到過戰亂。八國聯軍進京，毀滅性地打擊了北京的銀號、當鋪業。儘管票號也有波及，但根基未動。韓業芳在《山西票莊皮行商務記》中記載：「庚子之亂，雖在內地，而受傷者不過直魯二省，肢體之傷，仍非心腹之害。」由於各家票號都非常重視信譽，「官商士庶，皆知票號之殷實」，於是官款（包括稅款、軍餉、協款、丁漕等）、私家儲蓄，「無不提攜而來，堆存號內，大有揮之不去之勢」。
親歷了這場嚴峻考驗的蔚豐厚北京分號經理李宏齡回憶說：「庚子內亂，天子西行，大局岌岌，各商停滯，而票商之持券兌現者，上海、漢口、山西各處雲合霧集，幸賴各埠同心，應付裕如。至是之後，信用益彰，即洋行售貨，首推票商銀券最足取信，分莊遍於通國，名譽著於全球。」
李宏齡所說的「天子西行」即慈禧太后攜帶皇帝西逃事件。西逃的線路，由內務府大臣桂春安排，山西票商因此獲得了一次絕佳的接近清朝最高層的機會。喬家大德通票號高鈺和桂春私交甚篤，桂春把路線安排好之後，就寫了一封信告訴高鈺，說慈禧太后幾月幾號到山西，準備住在祁縣，讓他作好準備。
高鈺得信後就向東家通報，在慈禧路過太原時，讓大德恆票號太原分莊經理賈繼英為代表，孝敬慈禧往西安的路費30萬兩白銀，但同時要求西行之財賦收入暫由大德恆經管。
慈禧太后到祁縣時的行宮，就安放在喬家。逃抵西安後，慈禧傳旨各省，令所有上解京餉款項，一律改為電匯山西總號。回到北京後，慈禧太后再次作出一個決定：將根據《辛丑條約》中國要賠給西方國家的10億兩白銀款項，分配到各個省、關和鹽道籌集，由各省交由當地晉商票號負責保管和匯劃給外資銀行，再轉交給各國政府。
一時間，山西平遙、祁縣等地票號成為清朝戶部的臨時代理金庫和總出納，山西票號的聲譽空前高漲。李宏齡在《同舟忠告》中指出：「自庚子之變回京後，獨我西號聲價大增，京中各行推重，即如官場大員無不敬服，甚至深宮之中亦知西號之誠信相符，誠為商務之大局，最為同鄉極得手之時也。」
甚至，山西祁縣合盛元票號將分號設到日本，並在《神戶新聞》、《神戶又新日報》登出廣告。1893~1910年，受益於戰爭賠款的存匯，山西票號達到了鼎盛。作為全國的金融調撥中心，山西平遙、祁縣、太谷三縣，通過分佈在國內外的100多座城市的400多家分號，形成了蜘蛛網般的金融匯兌網絡，並以自己「聚散全國金融主權，而能使之(資金)川流不息」的巨大能力，為山西票號獲得了「匯通天下」、「九州利賴」的美名。