当山西票业错失了一个个机会时，中国国内金融业却悄无声息地完成了新的变局。由于贸易总额及对象的增多，外资银行纷纷抢滩上海，1847年，第一家外资银行丽如银行进入上海。19世纪80年代，上海在全国对外贸易款项调拨的总额中已达80%。19世纪末，天津地区的外国银行占据了60%以上的市场份额。
外资银行通过借款给清政府，攫取了中国铁路的筑路权；通过赔款的清偿，控制了中国的关税收入；通过进出口贸易，垄断了国际汇兑。1900年后，外国银行逐渐成为中国金融业的主宰。它们凭借雄厚的实力发行纸币，以纸币代替银两流通，对靠银两汇兑起家的山西商人打击很大。
清政府不惜以关税、盐税收入作抵押来向外资银行举债，使上海的外资银行成为控制中国财政经济的枢纽。外资银行逐渐渗透到山西商人一度把持的国内市场，从而控制和操纵了中国的政治和经济命脉。
光绪三十二年（1906年）7月，户部存放各银行票号款项共693万两白银，其中存放银行424万两白银，占总额的61%；存放票号206万两白银，占总额的30%；存放外国银行57万两白银，占总额的8%；存放其他行号6万两白银，占总额的1%。
1906年也是一个转折之年。由中国人民银行山西省分行、山西财经学院编写的《山西票号史料》记载，这一年票号汇兑的公款总数达到2250多万两白银，创历史之最，之后逐渐下降，到1911年只剩530余万两白银。
而在1897~1911年，由商办或官商合办的中资银行达到17家。在1909年，仅交通银行就收汇白银1970.5万余两，其中工商业汇款为1520.5万余两，占77%；交汇2074万余两，工商业款为1900万余两，占91%。
户部银行成立后的一两年间，迅速在上海、天津等十余个繁华城市设立支行，并且由政府的法律条文进行明确规定：“凡各省如有应行解部之款，一律由户部银行兑交京师。”交通银行设立后，清政府又规定：“各省凡设行之处官款统交银行存汇。”交通银行享有独家经理中国轮、路、邮、电四政营业收支的特权，其总理和协理均由邮传部派官吏充任。
就公私款项汇兑变化而言，票号受国内银行和官银钱局的竞争影响，减少了很多官私款项的汇兑业务。中国人民银行上海市分行金融研究所钱薇在《旧上海的票号业》一文中指出，现代银行的设立，使票号处于相形见绌的地位。外国银行的咄咄逼人，更令票号经营者忧心忡忡，票号内部守旧势力又不敢改革，墨守成规，不屑趋步现代银行组织经营之法，于是票号业便只有在日益萧条的境遇中苟延岁月。
1910年上海发生了“橡皮股票”风潮，钱庄倒闭大半，但在1913~1914年时，上海钱业渐趋稳定。第一次世界大战期间，中国民族工商业获得难得的喘息机会，发展迅速，上海钱业也在1913~1923年迎来了“黄金十年”。除自行收歇外，期间上海钱庄无一家倒闭。除原有的五大钱业家族外，宁波又出现了一批新的钱业投资者，如徐庆云、徐承勋、严信厚、徐霭堂、薛文泰、孙衡甫、王伯元、周宗良、刘鸿生等。
第一次世界大战中，中国白银大量出口，战后银元的缺乏加剧了票号经营的捉襟见肘。中外银行和钱业力量的扩张和增长，大大削弱了票号的市场空间和竞争力。
1912年，山西票业筹办银行之事再度被提上日程，14家票号联合发起在太原组建三晋银行。当年的反对派领袖毛鸿瀚也表示支持，用李宏龄的话说，他“力表赞成，毫无推诿，实出意料之外”，但此时的山西票号因为虚空过多，信用日减，已失去募集本金的能力。即便是500万两白银的银行资本金，对此时的山西票号来说也不再是个小数目。山西票号业不得已求助政府，但政府并不可能拿真金白银再入股成立银行。
也是在这一年，在袁世凯政府财政部的牵线下，山西票号决定向美国银行团借款500万银元作为本金，以重组票号体系。可是，美国银行认为，它们要在借款所办的实业内拥有相等的利益，也就是说要有股份，且要有抵押的保障。但这时，山西票号既不愿意让出股份，也不能提供美国银行所要求的抵押，居间牵线的财政部也已经厌倦，表示不再过问此事。这是从成立户部银行到改组成大清银行之后，山西票号业成立银行计划的第三次流产。
1914年山西祁、太、平三帮票号联合再次向北京当局提出申办银行之请，时任国务总理的熊希龄深知山西票号与一般商业有重大关系，对晋商之请给予支持，同意由政府出面担保，按照“商借商还”的办法，由山西票号向奥商华利银行借款200万磅，期限50年，利息6厘，作为开办银行之资。不巧，熊内阁不日倒台，又逢第一次世界大战爆发，贷款之事成为泡影，山西票号第四次失去改组银行的机会。
对外借款失败，祁、太、平三帮票号联合改组银行计划无法实施，于是平遥帮决定单独进行，蔚泰厚总经理毛鸿翰、蔚长盛总经理阎子樵、蔚丰厚总经理张子康、新泰厚总经理侯某、蔚盛长总经理霍益亭、天成亨总经理范子生等拟从各自的票号中抽出若干资金作为基金，组织一大银行，但这计划始终未能实现，山西票号改组银行的计划第五次落空。
日升昌倒闭与山西商帮的尽头
就在连毛鸿瀚也站出来要成立银行的1912年，李宏龄又发了一番并非危言耸听的话。他说，如果成立银行，或可救数年后不可设想之票帮，而一旦票号空虚的事情为世人所知，形势则会急转直下，“号事则为元丰玖，老总则为王康侯”。意思是说，再发展下去，山西票号业及经理人的下场，就如同倒闭的元丰玖及其被传唤的老总王康侯。
他担忧的事情，旋即而至。日升昌的倒闭是一个标志性事件。从光绪末年（1908年）起，日升昌东家李氏的商号、票号、钱庄都已经出现亏赔。到1913年，山西14家最主要的票号，被拖欠的债权达3100多万两白银。其中，日升昌17个分号中债权近300万两白银。
票号追讨欠款和储户追账，是一个问题的两个方面。辛亥革命后，因兵匪的劫掠和纸币的贬值，票号亏赔更加严重，日升昌票号在四川、陕西的损失尤为严重。储户存钱催逼甚急，广西军政府甚至端着步枪冲进日升昌的票号，强行提走10万两前清官银。清室贵族的放款很多因此打了水漂，有的债主便直接逼账到李家家门。
主持李家商号的李五峰，就把家里藏的许多财物寄放到了内兄赵鸿猷家中，自己也躲藏起来不见人。后来，逼债的风势减弱，李五峰便向赵氏索取寄存财物，不想赵氏抵赖不承认有寄存一事。李五峰气急败坏，欲到衙门告状，又怕招来债主逼债，不得已只好忍气吞声，吃了暗亏，这也让李家雪上加霜。
日升昌票号和那个曾经开创了海外开设分号纪元的合盛元票号是一对“相与”（生意伙伴），数十年风雨同舟，和衷共济，但这种“相与”在1912年的挤兑中搁浅了，北京地方检察厅扣押了其京号经理，这个经理被具保后无力清偿债务，一时仓皇，便逃回了祁县总号。此时日升昌在全国的19个总分号，存款额近296万两白银，放款额约为343万两白银。放款收不回，存款要本利返还，日升昌多少已经力有不逮。
1914年的秋天，检察厅向担保人日升昌北京分号经理侯垣索人。一方面是各债主的追讨，一方面是检察厅的追逼，侯垣和伙友竟也携账本连夜返回平遥。一味的逃避加剧了债权人的恐慌，日升昌北京分号被查封，北京地方审判厅致函平遥县知事，令查封日升昌平遥总号和东家财产，并迅速派人携带该号账簿到京清理号事。时任日升昌总号经理的郭树柄藏身躲避，财东李五典、李五峰被关押。
值此危急关头，已经离号的曾经的二掌柜梁怀文携带伙友，奔赴北京，到审判厅报到，开始清理号事。他开诚布公，周旋于众债权人、商会及北京审判厅、检察厅、司法部之间，很快取得各方的谅解和信任。1915年，司法部宣告日升昌破产，农商部通饬全国各地商会知照办理，日升昌一败涂地。
1915年3月出版的《大公报》对此报道说：
彼巍巍灿烂之华屋，无不铁扉双锁，黯然失色。门前双眼怒突之小狮，一似泪水涔涔下，欲作河南之吼，代主人鸣其不平。前月北京所宣传倒闭之日升昌，其本店耸立其间，门前尚悬日升昌金字招牌，闻其主人已宣告破产，由法院捕其来京矣。
经梁怀文与债权人协商，72名债权代表向司法部请求暂免日升昌破产，让它以收账还债。之后，日升昌的债权从1914年10月的多于204万两白银减到1921年2月的170万两白银。1922年，在296户日升昌债权人中，293户赞成日升昌复业，之后获准，日升昌不再受京师地方审判厅之节制。李姓财东不再为专一股东，债权人也成为股东，保留日升昌招牌，仍由梁怀文负责经营票号业务，此后分号只有北京、天津等地，其余全部收撤。
但到1932年，清理无望的日升昌票号最终还是歇业了，部分伙友利用日升昌的牌号改营钱庄。1948年，日升昌钱庄停业。至此，中国第一家票号日升昌历经100多年跌宕起伏之后终于退出了历史舞台。
日升昌票号的后门旁建有一堵挡风墙，当年雷履泰每天都从这里进出。在修建这堵墙时，墙内嵌入了铁片和铜钱，有取“铜墙铁壁”之喻。雷履泰老骥伏枥，志向不小，但世易时移，一切都随风消散。
在中国票号史上曾诞生过51家票号，山西占绝对大头，有43家，其中平遥占22家。到民国初年，上海的票号尚有20多家，其中祁县帮有大盛川、大德通、合盛元、存义公、三晋源、大德恒6家；平遥帮有蔚泰厚、蔚丰厚、百川通、协同庆、蔚盛长、新泰厚、天成亨、蔚长厚、宝丰隆9家；太谷帮有志一堂、大德玉、协成乾、大德川、锦生润5家。
到1921年年末，平遥、太谷两帮各大票号相继倒闭、改组或在清理之中，阎锡山把持下的山西银行逐步控制了金融市场，只留下祁县帮4家票号三晋源（到1934年歇业）、大盛川（到1929年歇业）、大德通（到1932年歇业）、大德恒（到1932年歇业）仍在惨淡经营。而与蔚字连号东家侯家及其大掌柜毛鸿翙的后辈一样，毛鸿翙的后任范凝晋的后代以及协同庆东家王栋、米秉义的后代也都染上了吸毒的恶习，最后变卖家产，坐吃山空，在穷困潦倒中饿死，空留下一时的显赫。
作为中国银行业的“乡下鼻祖”，日升昌开创了一个时代，由此发轫的金融智慧和实践，让这片厚重的土地人才辈出，这足以让山西人引以为豪。除清朝第一家官办银行的行长由山西祁县人贾继英获任外，7岁丧母的山西太谷人孔祥熙，在其46岁那年，担任广东省财政厅长兼广州国民政府代理财政部长，总揽后方财政事务，支持北伐战争，之后成为国民政府的财政部长兼中央银行总裁。
而4岁丧母、生在山西洪洞县的南汉宸（1895~1967），则在抗日战争时期，被毛泽东召见任命为边区财政厅厅长。用毛泽东的话说，“我就是要你做一个会做无米之炊的巧媳妇”。之后，他先后出任晋察冀边区政府财政处处长、华北银行总经理等职。1948年12月1日，中国人民银行成立，他出任首任行长，1950年4月兼任中国银行董事长，6月兼任交通银行常务董事，成为新中国中央银行的奠基人。
山西票号的衰落标志着山西商人辉煌历史的终结，纵横驰骋中国商界500多年的山西商帮从此走到了尽头。