与其他地方商人向上海转移一样，1861年前后，山西票号进入上海。同年汉口开埠，钱庄和票号成为维系上海与汉口之间资金周转的桥梁。因为战争，票商对在汉口存放较多资金心有余悸，这使得汉口的钱庄和票号无力支持西南地区商人的信用需求。上海较为丰裕的资金市场，直接促使西南地区商人直接转向上海进货，上海洋货很快辐射到西南地区。
到19世纪60年代中期，江南各地及汉口票号资本力较以前大为削弱，上海成为票号势力增长最快的地方。大约在1871年，山西票号的业务中心从武汉转到上海。1880年，光平遥票号分号在上海就有14家。
到1881年，在汉口的山西票号分号很快恢复到32家。其中，平遥票号分号16家，占据半壁江山。这一年，重庆进口洋货量接近上海进口量的1/9，地位仅次于上海、汉口和天津。在许多进口商品中，重庆作为货物集散中心，数量上甚至超过汉口。上海票号对向重庆内销洋货的商人所提供的信用，是它在重庆所收的款项的两倍。依靠票号信用经营这类贸易的商号，其经营额常常为其资本额的5倍，而在重庆设立的山西票号也已多达十几家。
山西票号进入上海后，并没有借助财雄势大而与上海钱庄抢生意争地盘，而是在细细观察一番后便找到了自己的定位。对于票号与钱庄的关系，著名经济学家马寅初有过这样的描述：“从表面视之，大有两雄对峙势不两立之状，但实际上相处正善，毫无冲突之虑。”
之所以形成这种格局，在于本地钱庄资本薄弱。有记载称，那时上海钱庄资本一般都在2万~6万两白银之间，大钱庄的资本一般在5万两白银左右，个别的达到8万~10万两白银，即便宁波帮的方家和李家也是如此，而早在19世纪60年代，山西票号贷放给上海钱庄的资金就高达200万~300万两白银，票庄委托殷实钱庄为其代理处，钱庄则依赖票庄借贷民间取得信用。钱庄的性质是兑换，票号是汇兑。票号的存款以官款为大宗，放款只借给钱庄、官吏及殷实商号，钱庄存放款则以一般商人为对象。在上海，从事进出口贸易的商人在金融调度上主要是使用钱庄庄票，借以把自己与外商之间的债务关系转变为钱庄与外商之间的债务关系，慢慢地，票商与钱庄划清界限，互不侵犯，“本地之事，钱庄任之；各省之事，以票庄任之”。
在1862~1893年，上海票号汇款额占全国25个地区总汇款的百分比最高为10%，而从1865~1895年，上海进出口贸易总值从1.09万两白银，增加到了3.15亿多万两白银。
1900年，十年的鼎盛
在上海金融风潮中，由红顶商人胡雪岩开办的阜康钱庄倒闭，亏空了清政府上千万两的白银，为此，清政府再一次下令禁止票号汇兑官方银两，并且在禁止汇兑的圣旨中宣布，官员一旦违禁，严惩不贷，强调各省督府要“知所敬惧”，但这种情况在1894年中日甲午战争和1900年八国联军侵华期间，再次得到改变，并在至少十多年时间里再没有发生变化。
中日甲午战争后签订《马关条约》，清政府在战争中筹集军费的借款、战后给日方的赔款以及由此的借款，都由各省海关按期汇交到上海江海关道衙门，再交付各国在华银行，其中汇兑业务由票号承担。其中，所有的赔款都要在上海交割。这意味着，原来解饷到北京的进项，一律要滞留在上海，中国的金融格局开始发生微妙的变化。
外交官是一个令人羡慕的职业，但在意大利人萨尔瓦戈·拉吉侯爵看来，在1900年被派驻到北京担任驻华公使，并非一件好差事。他甚至觉得，驻在北京的外国人正“克尽厥职”地生活在世界上最糟糕的地方。这座城市凋零破败，街道脏得无处下脚，没有电灯，严冬奇冷，夏天闷热。“更重要的是，尾大不掉、散发着腐烂气味而且充满敌意的王朝，不仅外国人对它信不过，甚至连它自己的臣仆都怀有异心。”这位公使大人从热那亚登船前，曾这样写下他的期待：
他们（指驻在北京的外国人）梦想着去东京度假，那里已经有了电灯，或者去长崎的小山上，住在俯瞰海湾的舒适的小别墅里度过惬意的几天。最差的是去上海，那里最起码看上去像一个欧洲城市，有着黄浦江边的外滩大道。
西方列强用炮舰胁迫清政府让外交使节长驻北京。象征屈辱印记的跪叩之礼被废除，大清帝国在起码的礼节上实现了与西方的对等，但作为帝国顽固的象征，北京仍以其古板的生活和静止的节奏，给意大利公使萨尔瓦戈·拉吉侯爵的外交旅行留下了不甚愉快的回忆。
与公使大人百无聊赖的公使生活一样，作为北京金融窗口的恒利、恒和、恒兴、恒源四大钱庄也已经雨打风吹去。“四大恒”声誉大震于1853年太平天国北伐军攻入直隶之时。当时北京城人心惶惶，200多家钱铺倒闭，“四大恒”却没有受到影响。此后，几乎所有官宦往来存款及九城富户显宦放款都要经“四大恒”之手。《道咸以来朝野杂记》载：“当时京师钱庄首称四恒号……市面繁荣萧索与之有关系。”
到清朝末年，北京民间流传着一句谚语：“头戴马聚源，身披瑞蚨祥，脚踏内联升，腰缠四大恒。”其意是说，当时北京人以腰缠“四大恒”钱庄的银票为富有的体现，但世事无常，1909年，清政府因宫中库银不足向“四大恒”借银300万两，内务府出借据，答应日后偿还，但仅隔两年，满清王朝土崩瓦解，借出去的银两如肉包子打狗，有去无回。
期间的1900年，八国联军侵入北京大肆抢掠，北京“四大恒”钱庄遭受灭顶之灾。修订多版的《中国金融简史》一书描述了当时的过程及其对北京乃至对中国金融界的影响：
1900年八国联军入侵，沿途烧杀掳掠，京津一带钱庄亦不能幸免，遭到侵略者的大肆抢劫，继以焚烧，库银、房屋、契据荡然无存，北京的300余家钱庄几乎无一幸存，其中最大的4家钱庄，亦称所谓的“四大恒”现银全被侵略者洗劫一空。从此北京的钱业一蹶不振，中国的金融中心也从北京移到上海。
山西票号总部地处内陆，直到1937年之前，几乎没有遇到过战乱。八国联军进京，毁灭性地打击了北京的银号、当铺业。尽管票号也有波及，但根基未动。韩业芳在《山西票庄皮行商务记》中记载：“庚子之乱，虽在内地，而受伤者不过直鲁二省，肢体之伤，仍非心腹之害。”由于各家票号都非常重视信誉，“官商士庶，皆知票号之殷实”，于是官款（包括税款、军饷、协款、丁漕等）、私家储蓄，“无不提携而来，堆存号内，大有挥之不去之势”。
亲历了这场严峻考验的蔚丰厚北京分号经理李宏龄回忆说：“庚子内乱，天子西行，大局岌岌，各商停滞，而票商之持券兑现者，上海、汉口、山西各处云合雾集，幸赖各埠同心，应付裕如。至是之后，信用益彰，即洋行售货，首推票商银券最足取信，分庄遍于通国，名誉著于全球。”
李宏龄所说的“天子西行”即慈禧太后携带皇帝西逃事件。西逃的线路，由内务府大臣桂春安排，山西票商因此获得了一次绝佳的接近清朝最高层的机会。乔家大德通票号高钰和桂春私交甚笃，桂春把路线安排好之后，就写了一封信告诉高钰，说慈禧太后几月几号到山西，准备住在祁县，让他作好准备。
高钰得信后就向东家通报，在慈禧路过太原时，让大德恒票号太原分庄经理贾继英为代表，孝敬慈禧往西安的路费30万两白银，但同时要求西行之财赋收入暂由大德恒经管。
慈禧太后到祁县时的行宫，就安放在乔家。逃抵西安后，慈禧传旨各省，令所有上解京饷款项，一律改为电汇山西总号。回到北京后，慈禧太后再次作出一个决定：将根据《辛丑条约》中国要赔给西方国家的10亿两白银款项，分配到各个省、关和盐道筹集，由各省交由当地晋商票号负责保管和汇划给外资银行，再转交给各国政府。
一时间，山西平遥、祁县等地票号成为清朝户部的临时代理金库和总出纳，山西票号的声誉空前高涨。李宏龄在《同舟忠告》中指出：“自庚子之变回京后，独我西号声价大增，京中各行推重，即如官场大员无不敬服，甚至深宫之中亦知西号之诚信相符，诚为商务之大局，最为同乡极得手之时也。”
甚至，山西祁县合盛元票号将分号设到日本，并在《神户新闻》、《神户又新日报》登出广告。1893~1910年，受益于战争赔款的存汇，山西票号达到了鼎盛。作为全国的金融调拨中心，山西平遥、祁县、太谷三县，通过分布在国内外的100多座城市的400多家分号，形成了蜘蛛网般的金融汇兑网络，并以自己“聚散全国金融主权，而能使之(资金)川流不息”的巨大能力，为山西票号获得了“汇通天下”、“九州利赖”的美名。