山本五十六原姓高野，1884年4月4日生于新潟县长冈市古志郡竹泽村一个破落的士族家庭。
父亲高野贞吉在戊辰战争时曾任洋枪队小队长，战争结束后，回到故乡长冈，在柏奇县政府工作，后转任古志郡一个小学校长。
高野贞吉是由长谷家族入赘高野家的，最初与高野家的大女儿成婚，生下让、登、丈三、留吉四个儿子。其妻病死后，又与妻妹峰子成亲，生下嘉寿、季八和五十六。五十六是他的第六个儿子，时年高野贞吉56岁，故取名高野五十六。
高野五十六从小就受到军国主义和武士道精神的熏陶。他的父母经常给他讲述祖父高野贞通和养祖父山本带刀的故事。
高野五十六的祖父在77岁高龄时，仍参与战斗，并坚持与夫人留下守城，并用6支祖传的火枪毙敌数十人后阵亡。
高野五十六的养祖父山本带刀在战斗最激烈的时候接替了身受重伤的河井继之助的总指挥职务，指挥队伍顽强抵抗。战败后，山本带刀被俘，不降被杀，年仅24岁。
祖辈忠勇刚烈、战死疆场的武士道精神，在高野五十六幼小的心灵中打下了深深的烙印。
少年时代的高野五十六家境贫寒。戊辰战争结束后，明治政府颁布了一系列法令，废除了武士阶层的封建特权和食禄制度。武士们过去不从事生产劳动，缺乏基本的生活技能，大多数武士生活水平急剧下降。
高野家在明治维新前俸禄是120石，在长冈镇算得上中上家庭。戊辰战争中，高野家两死三伤，财产付之一炬，家境一下子败落了。
战争结束后，仅仅依靠政府发放的金禄公债勉强度日。
然而，祸不单行，高野五十六的大哥高野让主持的农场在一场火灾中化为灰烬，让只得用全部家产赔偿，其女高野京子被迫放弃学业，到东京帝国大学医院当了一名护士。
生活在这样一个破败的士族家庭中，高野五十六从幼年就开始参加一些力所能及的劳动，如照看菜园、打扫庭院，和大人一起捕鱼。艰苦的生活磨炼了高野五十六的意志，造就了他沉默寡言的性格。
1890年3月，高野五十六进入阪上小学，开始了学校生活。
他聪明、勤奋、好学，学习成绩一直很好，每年都能得到学校的奖励。小学毕业那年，得到学校的优等奖以及教育奖励会樱花银质奖牌一枚。
1896年4月，高野五十六升入长冈中学。这是一个有着特殊背景的学校，学校的老师大部分是旧长冈藩的武士，学生则是士族子弟。当时，无论是学校老师还是社会上的武士都认为，要改变长冈的地位，最有效的手段就是用他们的武士精神培养优秀人才。
1875年成立的长冈社，就是一个武士发起以育英为目的的团体，专门资助那些家境贫困但品学兼优的有用人才。高野五十六的情况十分符合长冈社的标准，因而得到了长冈社的资助，每月一日元。资助的数额虽小，但高野五十六觉得受到了莫大的精神鼓励，他几乎放弃一切娱乐，努力学习。在上中学的几年中，大部分教科书都是自己抄写的。五年的时间，他只穿一套校服，回到家马上脱下，换上母亲做的土布衣服。高野五十六寡言少语、朴素实干，有一种超乎常人的不达目的誓不罢休的顽强品格；同时，又待人真诚，乐于助人，被称为“长冈武士的榜样”。进入长冈中学后，高野五十六受到更加浓烈的武士道精神教育，开始更多地关心外界事物，爱好也更加广泛。还经常利用学校的单杠、木马等体操用具进行体育锻炼。有人说他是7岁的秀才，到了15岁就成了蠢材，但他从不为自己辩解。沉默而显得有些木讷的他，在军国主义思想的熏陶下，已经暗中选定了自己的目标，即当一名拓展日本帝国疆土的海军军官。1901年，高野五十六中学毕业。据其老师后来所说，个子矮小瘦削、寡言少语、老实朴素的高野五十六，最后成绩在全班40山本五十六名学生中，名列第五，其中品行课得96分，为全班最高成绩。接下来，高野五十六就要为自己报考海军学校作出努力了。为了能够考上海军学校，实现自己的愿望，高野五十六专门跑到他姐姐家，躲在一间小屋里复习。他的姐姐嘉寿子嫁给了旧长冈藩的藩士、学校教员高桥牛三郎。他只有这一个姐姐，比他大18岁。高野很小的时候，就非常讨姐姐的喜欢，嘉寿子自出嫁后一直没有生孩子，因而对他更是爱护备至。在听说他要来她家准备考试后，非常支持他的选择，并迅速清扫了一个多年不用的房间供他使用。经过几个月的准备，1901年7月9日，高野五十六顺利通过考试。在得到录取通知以后，高野五十六异常高兴。当有人问他为什么去当兵时，他决然回答说：
武士家的孩子成为武士岂不是理所应当。
1901年11月，高野五十六来到了他久已向往的江田岛海军兵学校。江田岛位于濑户内海的南端，东与日本著名的军港吴军港隔海相望，在行政上属广岛县管辖，距神户大约有150海里。
海军兵学校是日本军国主义培养海军军官的摇篮，创立于明治初年。明治维新后不久成立的明治政府，在西方列强日益渗透的压力之下，为维持民族独立提出了“富国强兵”的口号，并以此为国策，首先进行了全面的兵制改革。
在这一过程中，明治政府认识到，作为岛国的日本，海军的有无和强弱对其生存和发展有着无比重要的意义，而兴建海军的当务之急，是开设军校培养军官，因此下令军务官筹办海军学校。
1869年9月，兵部省为培养日本海军军官，在东京筑地旧广岛藩邸创建了海军操练所，作为统一的海军教育机构，并令鹿儿岛、山口、佐贺等16藩派出18至22岁的青年前来学习。
1870年2月，海军操练所改称海军兵学寮，此即海军兵学校的前身。在海军兵学校组建初期，由于日本在军制上是陆军取法国式，海军取英国式，因此从英国招聘了许多有经验的海军教官，依靠他们使其海军教育走上了正轨。
1876年，海军兵学寮正式改称海军兵学校。
日本在建立近代军队和军事教育体系的过程中，继承了封建武士道的精神传统，向军队灌输绝对尊崇天皇的思想。
所谓“武士道”，本是封建武士的道德规范，忠君爱国是其根本，它强调杀伐为荣，宣扬自我牺牲精神，甘为主子卖命。
武士为了殉主之死，或者为了挽回因打败仗而招致的耻辱，必须勇于剖腹自杀，以表示对其主子的绝对忠诚。至近代，日本统治集团继承这一精神传统，并百般加以美化，冒充日本民族的固有精神，强加给广大士兵和人民，致使军国主义武士道精神的反动性和野蛮性愈益突出，达到了无以复加的地步。
在日本海军兵学校，武士道精神得到彻底贯彻，被称为“江田岛精神”。
每到重大节日，学校都要组织学生举行升军旗仪式，向天皇的照片行叩拜之礼。每个星期都要朗读、背诵一遍天皇的《军人敕谕》；为了磨练学生“意志”和适应任何环境的能力，除了正常的军事课程之外，学校经常举行残酷的训练，各种剑术、柔道、相扑更是不可或缺。学校的目的是把学生培养成为天皇拿枪的奴隶。
一名英国人在谈到他对日本海军兵学校的印象时写道：
在日本的青年中选择那些出类拔萃者，在这里接受世界上严酷无比的艰苦训练，他们的身心在经过只有十分顽强的人才能经受住的锻炼后，被培养成具备古代武士道德的现代海军军官。
因此，从海军兵学校毕业的年轻人，既有一副能经受一切艰难困苦的身体，也有一种不屈不挠的精神。为了天皇和祖国，他们可以不惜一死。
高野五十六所向往的海军兵学校正是这样一所训练战争贩子的学校。他入校的成绩，在同年入校的三百多名新生中名列第二。
据档案记载，他的各科成绩分别为：代数79分，几何97分，算术100分，三角95分，汉语70分，作文90分，英译日78分，日译英71分，语法62分，总计749分。
高野五十六在海军兵学校学习的三年，正是日俄矛盾日益尖锐激化的时期。1900年，俄国借出兵镇压中国义和团运动之机，占领了中国东北全境，其中包括几年前日本被迫退出的辽东半岛。
这自然不能为日本所容忍。日本全国上下一致要求驱逐沙俄，单独霸占中国东北，于是日本政府马上开始了对俄作战准备，日俄之战已势不可免。
笼罩在日本国土上的日俄战争风云，激励着年轻的高野五十六发奋用功。在高野五十六同年级的学生中，可谓“人才济济”，后来就有四人升任大将、三人升任中将。
就在这样一个群体中，高野五十六仍以其刻苦、严肃获得了声誉，被人称为“顽强的五十六”。三年级时，他是第九分队的队长，在学校进行的黄海海战和攻占旅顺的各次模拟训练中，均获得优异成绩。在海军兵学校，他与堀悌吉结成了莫逆之交，这对其后来的发展也有较大的影响。在海军兵学校的三年，军国主义武士道的“江田岛精神”在高野五十六身上打上了深深的烙印。贫穷的学生生活和特殊的家庭背景，造就了高野五十六特殊的性格，盲目的忠君思想和武士道精神，造成了他人生的悲剧。