1833年8月20日，哈里森出生于俄亥俄州北本德的祖父家中。他出身名门，其曾祖父威廉·亨利·哈里森是美国第9任总统，而他的父亲则是国会议员。
虽然家世很好，而且在他6岁的时候，祖父当选为总统，但小的时候哈里森也做过不少农活，诸如拖运木头、汲水、饲养家畜等。
哈里森的基础教育主要是借助家庭教师完成的，他的家庭教师给哈里森的评价是：“他是这个家庭最聪明的人……立志要出人头地……在很多事情上又非常固执。”
在这个时候哈里森的理想有两个，一个是牧师，一个律师。这是两个差别很大的职业，尤其是牧师，要想出人头地是比较困难的。
1850年，哈里森以大三学生的身份，进入了位于俄亥俄州的迈阿密大学牛津校区读书。在大学里，哈里森不仅学习成绩名列前茅，他还是一个优秀的公共演讲者。毕业典礼上，他还做了一篇题为《英国的贫民》的演讲。
大学毕业之后，哈里森的理想变得清晰起来，他要做一名优秀的律师，而不是牧师。为此，他到了辛辛那提的一家律师事务所学习法律，并在1854年进入了法律界。
进入法律界后不久，哈里森开始涉足政界，但官职一直不高。到南北战争爆发前，他也只做到印第安纳州最高法院的记者。
从1862年7月起，哈里森开始在印第安纳第七十步兵连服役，军衔是少尉。哈里森对打仗的兴趣并不大，但在战场上却有过非常出色的表现。
在南北战争中有决定性影响的亚特兰大战役中，哈里森动员自己的部队突破了邦联军队的防线，这为威廉·舍尔曼将军继续进攻亚特兰大提供了条件。亚特兰大之役之后，哈里森被晋升为准将。
战争结束之后，哈里森继续做起了印第安纳州最高法院的记者。此后，他还被格兰特总统任命为军职人员的辩护顾问，但在仕途上一直没有崛起。
1872年，没有多少资历的哈里森，试图参加共和党内的州长候选人竞选，结果自然是失败了。这个时候，具有很强演说才能的哈里森，只好忍受着自己不太成功的政治生涯。
1876年，印第安纳州和俄亥俄州突然出现了一拨人，支持哈里森作为共和党的总统候选人。这个提议多少有点可笑，因为这个时候哈里森根本不具备冲击总统的资历，所以这个提议很快就消失了。
1881年，经过了多年蹉跎、已经近48岁的哈里森，终于进入了美国国会，这对他来说无疑是个非常重大的进步。在国会中，哈里森坚定不移地支持为内战老兵获得养老金，他也因此赢得了“军人之友”“军人议员”等称号。
1884年大选时，又有部分共和党人要提名哈里森为总统候选人，可能感觉自己的资历还不够，所以哈里森主动退出了共和党全国大会，他的总统提名自然没有成功。
四年之后，感觉翅膀硬起来的哈里森公开发表演讲，宣称自己将参加1888年大选。
参加大选，需要在全国人民面前露面，参与者需要好好地包装一下自己。具体到哈里森来说，他有一个非常不好的缺点，那就是一贯严谨生硬，外人看起来就是一副冷冰冰的样子，后来他成为总统后，人们还给他起了个外号叫“白宫冰人（山）”。
这样冷冰冰的外表自然不利于赢得选民的支持，但气质又是很难改变的，为了弥补这个缺陷，善于演讲的哈里森对选民说：“我是一个没有生气的政治家，但我是一个充满生机与活力的共和党人。”
后来，“有活力的共和党人”就成为了哈里森的一个竞选口号。