1904年，21岁的高野五十六从海军兵学校毕业。以少尉候补生的身份，到战舰“日进号”上任职，随即参加了日俄战争。
日俄战争结束后，高野五十六在海军中的职位不断上升。1907年任中尉，1909年任大尉，成为训练舰队宗谷分队的指导官，对实习的少尉候补生进行指导。
1910年12月1日，高野五十六被海军大学录为将校科乙种学生，学习舰炮、水雷和航海。
1914年，高野五十六再次被海军大学录为将校科甲种学生。
1915年，高野五十六被授予四等瑞宝勋章，升任海军少佐。经过战争洗礼和高等教育的高野五十六，已经在各个方面渐趋成熟。他依旧沉默寡言、不露声色，但对任何重大问题都能做到反复琢磨、深思熟虑、独立思考，一旦作出决定，即果敢行动，给周围的人留下极其深刻的印象。
这一时期，高野五十六的生活中发生了两件较为重要的事：一是改姓山本；二是与三桥礼子成亲。
高野五十六的故乡长冈是一个武士道精神盛行的地方，有着悠久的封建历史和浓厚的封建思想残余。戊辰战争以后，长冈在国家中的地位一落千丈，常成为人们的话柄。长冈武士为此感到耻辱，他们时刻准备重整旗鼓，再振长冈。
武士们认为，要为长冈振名声，最好的办法就是培养出身名门世家的大人物。于是，长冈人一致把目光对准了崭露头角的高野五十六。由于高野五十六门户一般，不能从声望上代表长冈，而长冈最有名的望族山本家又在戊辰战争之后后继无人。一些人便开始策划高野的改姓活动，以让高野五十六继承长冈武士名门山本家的遗业。
至1915年，高野五十六少佐即将从海军大学毕业，他们看到了希望。因为除了高野本人是一名很有前途的海军军官外，他还是与山本家的中兴之祖山本老于齐结为刎颈之交的高野荣轩的子孙，继承山本衣钵者几乎非他莫属。
藩主牧野为恳请高野五十六再兴山本家，绞尽了脑汁，付出了异常的努力，并动员曾担任高野家长老的田中浪江、山本家的旧臣渡边廉吉等人一同来做高野的工作。
此时的山本家，经过明治维新的冲击，庞大的家产早已被政府没收，作为可继承的财产只有一套褪了色的破旧麻质武士礼服和位于长冈市稽古班长兴寺的山本家荒凉的墓地。
然而聪明的高野五十六并没有计较这些，他考虑到高野家和山本家历代的关系，更重要的是，满脑子充斥着武士道思想的高野五十六，认识到继承山本遗魂，对其将来的发展会产生不可估量的作用。
因为它符合日本近代天皇制利用封建残余加强统治、对外实行扩张侵略的需要，以他的话来说就是，继承长冈第一名门是长冈藩士的天命所在。几经考虑，他答应了牧野的请求。
1916年5月19日，经过精心准备，在长冈藩最有纪念意义的长冈城落成纪念日，举行了高野五十六改姓山本的仪式。在其五哥高野季八主持证明下，高野五十六作为山本家的后嗣，改名为“山本五十六”。
改姓后，山本五十六所做的第一件事是在藩士们的簇拥下，厚祭山本家历代祖先，清理自戊辰战争以来已经荒废了五十多年的山本家墓地；接着他又修心静身，于当日用了一个通宵将山本家祖先自庆长以来的各代法号、戒名全部书写了一份，并于第二天在长兴寺大作法事道场，以资纪念招魂。
改姓之后，山本五十六这个长冈武士的后代无形中又增加了一种荣耀，长冈遗魂以及一些旧武士倡导的军国主义色彩极浓的“长冈精神”“常在战场”的遗训，刺激着他为了不辱山本名门之“声誉”更加竭尽全力，勤学苦练，忠于职守。
在山本五十六武士战袍加身后的第二年，即1918年，35岁的山本五十六与三桥礼子结婚。三桥礼子出生在一个普通的家庭，身高1.54米，身体结实，吃苦耐劳。据山本五十六的至交、曾任海军中将的堀悌吉说，山本的妻子在日本这样的国度里，堪称是个贤妻良母，是日本名副其实的一流女性。但是，两人婚后的生活有许多不和谐的地方。升任高级将领后，每逢山本看到部下在船舱内摆着妻子的照片，就深有感触地说：“你们是经自由恋爱而结婚，情投意合，多好啊！我是无可挽回了！”悔意溢于言表。这种想法并非因为山本地位变了才有的，而是一开始就隐藏着一些矛盾。从山本订婚时的情形看，他同意这桩婚事，主要是因为女方出身劳动家庭，体魄健壮，能够吃苦，而且生于祖辈曾经流血牺牲的地方，至于个人性格等因素却未过多考虑。
婚后两人经常吵架，一遇到闹别扭，山本总是蒙头大睡，渡过难关。家庭的矛盾和枯燥的军人生活，促使山本五十六在婚姻以外寻找感情寄托。
在他的一生中，曾与许多艺妓保持长期的密切关系，其中关系最密切的就是千代子。在山本五十六荣任联合舰队司令长官时，曾秘密携带其一同前往。
即使大战爆发以后，山本五十六也总是找各种机会与之幽会，甚至为讨其欢心，还曾谎称治病，背着千代子在大街上走。千代子对山本也是感情笃深，在战火纷飞的年月里给了山本五十六莫大的安慰。