1820年，布坎南以联邦党人身份，参加了国会众议员选举，并一举获得成功。
进入政坛后的忙碌让布坎南逐渐忘记了失去安妮的痛苦，但他已很难从其他女孩那里再获得爱情，所以他开始把自己的全部精力都投入进了自己的事业之中。
刚进入众议院时，布坎南显得有些不太适应。但由于具有渊博的法律知识，并且工作认真勤勉，他很快做得得心应手起来。
1824年总统大选时，布坎南支持杰克逊一方，亚当斯当选后，布坎南成为了亚当斯政府的反对党领袖之一。
布坎南的威望在日益提高，加之，他在处理政务中保持了持续恒久的热忱，所以布坎南连选连任达四次之久。
到了1830年，已经做了十年众议员的布坎南拒绝再参加连任竞选。完成自己的任期后，他决定重新回去做律师。
杰克逊当选总统后，他任命布坎南为俄国公使，这个任命很快在次年得到了国会的批准。从此，布坎南开始进入外交领域。
虽然刚刚进入外交领域，布坎南的外交工作做的却很出色，在俄期间，布坎南与俄国谈判，并成功地与俄签订了商务公约和有关航海权利的条约。由于在俄国期间表现出色，1833年布坎南于返美后被选入联邦参议院，供职长达十一年。
1845年，因为具有出色的外交才能，布坎南成为了波尔克政府的国务卿。国务卿这个职位虽然权力很大，但布坎南做的并不怎么样。这不是因为布坎南不喜欢这个职位，也不是因为布坎南不能胜任这个职务，而是因为波尔克总统很看重外交问题，并“在很大程度上，自己亲自履行了国务卿职责”。
虽然因为波尔克总统的越权，让布坎南没有能够好好地享受一下做国务卿的滋味，但国务卿这个职位却能够让布坎南的声望大增。
做了一届国务卿后，布坎南成为了民主党总统候选人之一，但在党内提名中，他最后败给了富兰克林·皮尔斯。
皮尔斯成为总统后，布坎南被任命为驻英公使。任职期间，皮尔斯总统打算从西班牙手中获得古巴，美国驻西班牙公使找到了美国驻法国、英国公使一起，商议解决办法，并商议出了一个《奥斯坦德宣言》。后来这个宣言被曝光，皮尔斯总统立即否认了这个宣言，这件事也搁置了。
《奥斯坦德宣言》虽然失败了，驻西班牙公使和皮尔斯总统也因此被人指责，但作为协商这个宣言的三个公使之一，布坎南却得到了美国南部人的欢迎。这其实也很好理解，反对合并古巴的是北方自由州的人，南方蓄奴州是希望合并古巴的，因为他们希望可以把奴隶制扩大到古巴。所以代表南方利益的人认为，布坎南公使是站在南方这个阵营的。
可以说，因为有了驻英公使这个职位，布坎南才有机会参加了协商《奥斯坦德宣言》，所以是驻英公使这个职位帮了布坎南一个大忙。当然，驻英公使给布坎南带来的好处远不止这些。
1856年6月，民主党召开提名大会，布坎南和现任总统皮尔斯，以及参议员斯蒂芬·道格拉斯，成为民主党总统候选人。当时的奴隶制问题，是美国国内争议最多、也是民众最为关注的话题，民主党内还发生了关于这个问题的争斗，但布坎南却因为远在英国从而避开了这场争斗。
有了这两件事，南方代表大力支持布坎南当选，布坎南从而领先了现任总统皮尔斯。在道格拉斯退出之后，布坎南得到党内代表的一致提名，从而成为了民主党总统候选人。