来到田纳西州不久，约翰逊就收获了一份爱情，女子是伊莱扎，第二年两个人就结婚了。这时约翰逊只有18岁，而伊莱扎只有16岁，二人也因此成为总统和第一夫人结婚最早的人。
按照常理来说，约翰逊是一个没有上过学的裁缝，而且又过早地就有了家庭负担，这样一个人要想从政，甚至问鼎总统，这几乎是不可能的。但在美国的这种政治体制中，奇迹常常会发生。
也许是受竞选制度影响，约翰逊生活的那个年代，美国社会特别流行政治辩论。约翰逊之前看过一些关于演讲方面的书，也自己有意识地进行了这个方面的训练，当裁缝店的生意步入正轨之后，约翰逊也开始关注起这些辩论活动来。
当时，距离约翰逊裁缝店约8英里处有个格林学院，每星期五的晚上格林学院都要举行公众辩论会，约翰逊经常步行去参加，并很快成了该学院演讲俱乐部的成员。
本来裁缝这个职业和政治是没啥关系的，一个裁缝很难指望这个职业能够为自己的从政之路帮上忙。但约翰逊不这样认为，他认为裁缝实际上是个非常有利于自己从政的职业。
首先，约翰逊认真为顾客裁制服装，尽量使顾客满意，因为约翰逊知道当自己有一天参加竞选时，这些顾客不仅会支持自己，还会为自己做宣传。
其次，裁缝店经常会有各种各样的人到来，约翰逊可以借机广泛调查田纳西州以及全国发生的政治问题，揣摩哪些问题最能吸引选民，研究州议会和国会将要讨论并制定哪些新法律，这些法律对民众会哪些影响。
当然完全靠听顾客的只言片语还是不行的，约翰逊还注重从其他方面掌握更多的讯息。为此，他专门雇了一个人为他读报，所以等店里没有其他人的时候，约翰逊就可以一边缝衣服，一边听人读报。
机会总是留给那些有准备的人，1828年，也就是约翰逊20岁的时候，他终于当选为格林维尔市参议员。市参议员尽管并不具有非常高的政治身份，但对于一个没有上过学的裁缝来说，这无疑是一个重大的突破。有了这次突破，就有了进一步向前冲的台阶。
进入政界之后，约翰逊成为一名擅长于政治方面的发言者，平时他拥护平民，轻视贵族政府。到了1842年，约翰逊成为田纳西州州长，而且获得了连任。
在两届州长任内，没有进过校门的约翰逊，建立起了一套全州的公立学校体系，并提出了一个定期举行农产品和机械博览会的计划。
然而，在奴隶制废留、扩张与否成为社会主要话题的时代，建学校这些具体的政绩并不是非常重要。重要的是对奴隶制问题持有何种观点，因为这既涉及站到哪个阵营的问题，也涉及能否得到高层和民众的信任问题。
1860年大选中，反对奴隶制扩张的林肯当选总统，内战迫在眉睫，此时作为美国参议院议员，约翰逊支持联邦，反对分裂，并积极发言批评现任的布坎南总统没有能够用严厉的手段镇压叛乱者。
其实，当时和约翰逊一样持有这种观点的人很多，所以约翰逊的这些言行本来是正常的。但约翰逊的两个身份，让他的这些言行变得不正常了。
首先约翰逊是民主党人，而现任总统布坎南也是民主党人，约翰逊抨击布坎南总统，实际上是和民主党站在了对立面。
其次，约翰逊的另一个身份更为特殊，他是田纳西州人，也是田纳西州选出的参议员。而田纳西州却支持奴隶制，脱离联邦，并加入了邦联。这样一来，约翰逊就成为了唯一一个抛弃了邦联的联邦参议员。
林肯就任总统后，林肯政府实施的很多维护国家统一的政策，约翰逊作为南方和民主党参议员，都极力地支持林肯政府。
在南方叛乱州眼里，约翰逊无疑是个背叛了自己家乡的叛徒，约翰逊的生命和家人都受到了威胁，他的妻子从格林维尔的家中被赶走，被迫到其他地方躲避了起来。在约翰逊生活过的田纳西州，他的模拟像被家乡人高高地吊了起来。