刚刚进入州议会时，罗斯福只有23岁，是当时州内最年轻的议员。年轻人有年轻人的虎劲，担任州议员时，罗斯福因为抵制官僚政治、支持改革，而赢得了“旋风议员”的称号。
就在罗斯福仕途春风得意的时候，他的生活却出现了不幸。在哈佛大学毕业那年，罗斯福与爱丽丝·李结婚，新娘身材高挑，聪明又可爱，两个人生活非常幸福。
但在1884年2月，罗斯福夫人因为肾炎和分娩并发症去世了，而且就是在同一天，同一间屋子里，罗斯福的母亲也去世了。
对于一个20多岁的年轻人来说，这个打击无疑有点太大了。从此之后，罗斯福不再提起第一个妻子，并将妻子生下的那个女儿委托给大姐抚养，自己跑到达科他过起了一段放牧生活。
在北达科他牧场，罗斯福学会了骑马等牛仔技能，闲暇时他也参加拳击赛。有一段时间，他担任了当地的代理警长，追捕盗窃犯。从1884年6月到1886年10月，罗斯福的这段放牧生活持续了两年多的时间。
1886年11月，罗斯福参加了纽约市市长的选举，此时的罗斯福并没有多少资历，而且他才只有28岁，要成为纽约这一个超级大城市的管理者，罗斯福无疑显得有点稚嫩了。所以竞选的结果，罗斯福得票数名列第三，远远逊于对手。
1888年总统大选时，罗斯福在中西部为本杰明·哈里森助选。哈里森当选总统后，罗斯福被任命为美国文官委员会成员。在此期间，罗斯福开始不遗余力地严格实施公务员服务法，他的这一做法一方面得到了一些人的认同，但也招致一些共和党内人员的不满。
但总的来说，罗斯福做的还是不错的。最明显的证明是，1892年大选时，虽然罗斯福是哈里森总统的支持者，新当选的总统格罗弗·克利夫兰仍然将罗斯福留任。
做了五年多文官委员会成员之后，罗斯福又开始成为一个执法单位的负责人，那就是纽约市警察局局长。作为执法者就是要严格按照法律要求执法，罗斯福非常明确自己的身份，他严格按照法律，清除警察局内部的腐败、唯利是图、敲诈等行为。
能够证明罗斯福严格执法的事情很多，在这里可以举出一个例子。当时有一个《安息日课税法》，该法禁止在安息日销售酒类饮料。这个带有一定宗教性质的法案，在纽约这个充斥各类移民的城市非常不受欢迎，就连罗斯福本人也不认同这个法案。
但不认同归不认同，既然已经成为法律，自己作为一个执法者就必须遵守，所以罗斯福尽职尽责地关闭了市内违反法令的酒吧，并对酒吧进行了处罚。
面对部分人对这件事的不满，罗斯福如是说：“我不是在处理大众的感情，我是在处理法律。如果一个立法者应该建议哪种法令，这与我没有关系，我只是一个负责执行法律的行政官员。”
罗斯福的这种做法是值得肯定的，在那个时候的美国，各种社会弊端、犯罪大量涌现，严格执法显得非常重要，至于法律本身是良法还是恶法，那是立法部门的事。
做了两年的警察局局长之后，罗斯福又被任命为了海军部长助理，这是1897年的事，而这个时候罗斯福只有39岁。
年轻的罗斯福属于一个非常激进的人，担任海军部长助理时，他主张对外扩张，并希望尽快与西班牙开战。当时的海军部长约翰·郎既不赞同罗斯福的这些主张，更对罗斯福旋风式的管理做法非常不满。
但这位部长大人有时也有点无奈，因为他的身体不好，经常请病假，在病假期间，罗斯福自然也就成为了代理部长。