1874年8月10日，胡佛生于爱荷华州的西布兰奇。胡佛的父亲是一位铁匠，后来又成为了一名农具推销员。父亲的这个行业，让胡佛小时候有了一些特殊的经历。一次，胡佛赤脚踩上了铁匠铺里的一块发烫铁块，这在胡佛脚底下留下了一块伤疤。
小时候，胡佛也曾险些丧命。2岁的时候，胡佛患上了喉炎，胡佛的父母错误地认为胡佛已经死了，就用被单盖住了胡佛的脸。
对于一个只有2岁，而且又处于病中的孩子来说，被单蒙上脸后，即使活过来也可能不会被发现了。就在这时，胡佛的舅舅约翰·明索恩来了。明索恩是个医生，他发现胡佛并没有死，就这样，明索恩算是救了胡佛一命。
1880年，胡佛的父亲因为心脏病去世。为了减轻家里的负担，胡佛经常寄宿到亲戚家中。三年之后，胡佛的母亲也去世了。这一次胡佛不是“经常”，而是要一直去到亲戚家寄宿了。
当时胡佛寄宿的对象主要是舅舅和叔叔。不知道是不是因为经常迁居的原因，反正胡佛的学习成绩并不好，第一次参加斯坦福大学的入学考试时，他因为除数学成绩之外其他科目都不太好而没能获得入学资格。
1891年，胡佛接受了一段升学指导学习之后，再次报考了斯坦福大学，但又被英语拖了后腿。最后，胡佛还是获得了暂准入学的机会。
在斯坦福大学时，胡佛成为学生团体的财务管理员，后来还成为棒球队和橄榄球队的经理。这种学校球队经理并没有太大职权，但就是这个不起眼的职位，却让年轻的胡佛有机会认识了一下当时的美国总统本杰明·哈里森。
当时哈里森总统到斯坦福大学做系列演讲。一次，哈里森去观看一场棒球比赛，但他没有买票就从检票口走了过去。
作为球队经理的胡佛此时正负责收门票，看到哈里森没有买票之后，他就走到哈里森身边，要求哈里森支付25美分的入场费。哈里森总统有些尴尬，就立即掏出钱买了三张入场券。
对于这次经历，胡佛很难忘记，多年后他还回忆到：“这是我第一次和一个伟大的官员进行接触。”
胡佛属于父母双亡的年轻人，他的学费更多的是要靠平时兼职打工得到。为了解决学费问题，他开过学生洗衣服务社，也在地质勘探所做过助理员。
1895年5月，胡佛从斯坦福大学毕业，他获得了地质学学位。这个时候，他决定去做一名采矿工程师。
但找工作时，胡佛并不顺利。实在找不到合适工作的时候，胡佛决定先在一座金矿内推矿车。这个工作不仅辛苦，而且工作时间长，一周要干70个小时。
直到第二年，胡佛才被一家公司聘请成为一名开矿工程师，主要负责在购买之前对矿山进行审查和评估。
三年后的1899年，胡佛还来到了中国，在热河和直隶两省担任工程师。但不久就遇到了义和团运动，胡佛在天津负责保护外国租界。
到了1902年，胡佛去了澳大利亚，并在那里开发了几座利润很大的锌矿。从这个时候起，胡佛的个人财富开始快速增加起来。
此后的几年，胡佛又在缅甸等地开矿。到了1914年第一次世界大战时，胡佛的个人财产已经达到400万美元，这在当时，已经算是一个名副其实的富翁了。