当海斯还在军队中任职的时候，他突然得知自己获得了共和党国会议员的提名资格，面对这个提名建议，海斯的做法是果断拒绝。
作为一个有远大政治抱负的年轻人，海斯应该是想成为国会议员的，海斯拒绝参加这次竞选，可能是因为感到自己正在服役，不太方便参加竞选。他在一封信中这样说：“一个有任务在身的军官，如果在这个危急时刻离开自己的岗位，去竞选一个国会议员的席位，他应该被剥掉头皮。”
从这段话中，我们能够看出海斯的义正词言，但问题的猫腻在于这封信被公开了，而且很多选民都知道了。这样一来，虽然海斯拒绝了参加竞选活动，但他还是赢得了非常高的支持，并成为了国会议员。
所以回过头来看，海斯当初拒绝参加竞选，可能真的包含部分服兵役的原因，但也不可否认他选择了一个古老但又被人不断使用的战术，那就是以退为进。
成为议员之后，海斯的工作很卖力的。两年之后，他又竞选成为了俄亥俄州州长。海斯有两大特点，那就是为人正直和办事有效率，凭借这两大特点，海斯担任了两任俄亥俄州州长。本来他还有机会继续连任的，但他不想打破州长任两届的惯例，所以他拒绝了第三任州长的提名。
但时隔三年多之后，海斯在国会议员竞选中遭遇失败，格兰特总统给海斯提供了辛辛那提市副财务主管一职，但他还是拒绝了这个职位。这时海斯再一次参加了州长选举，而且又顺利成为了俄亥俄州州长。
海斯的政治生涯有些跌宕起伏，而最为有争议的还是他的那次总统大选。在第三次成为俄亥俄州州长不久，1876年的总统大选又开始了。
本来海斯似乎是没有多大希望当选的，甚至连党内提名他赢的也非常侥幸。在辛辛那提举行的共和党提名大会上，詹姆斯·布莱恩最被看好，这个布莱恩还有一个有个性的外号叫“有羽毛装饰的爵士”。
在前几轮投票中，海斯一直比较靠后，直到第六轮投票中，海斯才排名第二。但第二和第一的差距很大，当时海斯的得票是113票，而第一名的布莱恩则是308票。
如此大的差距，海斯要想超过布莱恩似乎是不可能的。但转机很快出现了，这个布莱恩的支持者很多，但反对者也不少。看到布莱恩的支持率这么高，那些反对布莱恩的人联合了起来一起支持海斯。
就这样，在第七轮投票中，海斯以384票获得了共和党总统提名。可以说，海斯的这次胜利多少有一些侥幸成分，但更侥幸的还在后头。
赢得党内提名之后，海斯面对的对手是塞缪尔·蒂尔登。这个蒂尔登有一个特殊的父亲，和那些因为其他事业成功而转到政界的政治家不同，蒂尔登的父亲是个专职的政治家，即民主党党内工作者。因为父亲的这个特殊职业，蒂尔登在很小的时候就开始了解并擅长于党内事务。
长大之后，蒂尔登在政坛更是如鱼得水，参加大选之前，他就因为反腐败运动和捍卫改革而闻名全国。在民主党提名大会上，蒂尔登以535票的高票数赢得民主党提名。
海斯不仅在个人威望上赶不上蒂尔登，同时他还有一个致命的劣势，海斯的这个劣势不是来自海斯本人，而是来自海斯所在的共和党。
首先，现任总统格兰特来自共和党，格兰特任内不仅政绩平平，而且还出现了很多丑闻，尤其是非常严重的腐败问题，这让共和党的名声很臭。
其次，由于共和党一直采取非常激进的措施，对付在南北战争中的南方白人，随着南方白人在政治方面的崛起，他们自然不会支持共和党。
因为有这些原因，所以大选前人们普遍认为蒂尔登将会赢得大选。普选的结果也证实了人们的这种预见，蒂尔登应以51%的选票取得领先优势。