光武帝建武二年（公元26年）先后发生了两次较大的叛乱：邓奉在南阳举兵反叛，彭宠在渔阳背叛光武政权。
邓奉之乱肇始于汉兵的军纪问题。由于光武帝麾下多河北之兵，军纪问题由来已久。渔阳、上谷之兵堪称天下精兵，所向无敌，但同时也是一支缺乏军纪的悍野之兵，所过劫掠是常见之事。刘秀初至河北，招集兵马以解燃眉之急，故兵员混杂，军纪混乱，刘秀为了部队内部的团结也难以求全责备。刘秀又善用坚壁之策，放任兵士掠夺放散在野的粮物，虽为挫敌之计，但也纵容了兵士好掠的恶习，以至于部分将士经常掠夺百姓，盗掘坟墓，即使违反军法，也大多相容不咎。
直到占领河北和河内之后，整顿军纪才引起刘秀的重视。邓禹的西征部队师行有纪，受到关中民众的拥戴；光武帝对冯异也谆谆告诫，务以王者之师的姿态争取人心，严明军纪，约束兵众。侍御史杜诗受命安集洛阳，将军萧广放任兵士，暴横民间，杜诗劝诫无效，遂下令格杀萧广。光武帝嘉奖并提拔杜诗，以示自己整饬军纪的决心。
吴汉是光武帝的心腹，居大司马之职，为武将之首，深得信任，然而他积习难改，在攻城徇地之际，多有侵暴之举。建武二年八月，他在攻占南阳诸县之后，放任军士劫掠。正巧邓晨之侄、破虏将军邓奉回乡省亲，对吴汉抢掠乡里极为不满，一怒之下，竟然举兵击破吴汉的军队，与宛城的董欣联兵造反。
史书没有记载邓奉的性格为人，很难理解他的失常举动。他既是光武功臣邓晨的亲侄子，又是阴丽华母亲的同宗亲戚，年纪轻轻就当了将官，手握精兵，前途不可限量。仅仅是吴汉的兵抢了他的家乡，他就和一个与他同样弱智的武夫在光武帝的故乡举兵造反，实在是愚蠢至极。
这一突发事件出乎光武帝的意料，当时他正用兵东西两线，无法抽调大量部队南下讨伐叛军。只有坚镡率领的一支独立部队在夺回宛城之后，面对强敌，孤军作战，南拒邓奉，北抗董欣。在道路隔绝、粮草不至的情况下，坚镡与士卒共劳苦，先当矢石，身被三创，艰苦抵抗，长达数月。十一月，岑彭、朱祐率部讨伐，在堵乡被邓奉击败，朱祐被俘。由于邓奉的部队都是南阳精兵，战斗力极强，所以岑彭的几次攻势皆无成效，双方进入相持阶段。
建武三年三月，在消灭赤眉之后，光武帝第一个重大决定就是亲征邓奉。
大军到达叶县（今河南叶县西南），邓奉、董欣陈兵遮道，光武帝的部队顿时无法前进。刘秀见状，便对岑彭说：“此将军之任也。”岑彭领命，立刻率军奋击，大破邓、董联军。随后光武大军又浩浩荡荡到达堵阳，车骑一日不绝。邓奉得到探子的报告后连夜撤退，董欣畏威而降。四月，岑彭、耿弇、臧宫、傅俊诸将挥师追击邓奉至小长安。光武帝亲临阵前，率诸将进击，大破邓奉之兵，邓奉在急迫之中只得投降。
刘秀考虑到邓奉是姐夫邓晨的侄子，又是阴丽华母亲的同宗，而且他的叛乱又肇于吴汉，所以不免心有恻隐，准备宽赦邓奉。但岑彭、耿弇据理力争，认为“邓奉背恩反叛，致使贾复负伤，朱祐被俘；陛下亲征，邓奉不知悔过，亲自参战，兵败乃降。若不诛邓奉，无以惩恶。”
看来刘秀要自己吞下苦果了。河北兵的军纪、南阳兵的军纪，都让他十分苦闷。既然要整顿军纪，就得大义灭亲。光武帝难违众议，只得下令处斩邓奉，随后离开了让他伤心的南阳。
渔阳之叛也在建武二年发生，爆发于光武帝一时鞭长莫及的地区。刘秀初至河北，为王郎兵威所逼，仅依信都、和成二郡而苟活，幸得渔阳太守彭宠、上谷太守耿况合兵拥护刘秀，又发精兵诛灭王郎，耿、彭二人功在众将之上。后彭宠又转运军粮，前后不绝，终得封侯，赐号大将军。但他自负其功，意望甚高，觉得光武帝亏待了他。吴汉、王梁都曾是彭宠的部下，在刘秀即位之后均列三公，他以前的护军都尉盖延也被重用。而光武帝对彭宠独无所加，致使彭宠异常不快：“我功当为王；但尔者，陛下忘我邪？”
彭宠与幽州牧朱浮的关系也十分紧张。朱浮年少气盛，十分自负，经常向光武帝密报彭宠多聚兵谷，图谋不轨。光武帝对彭宠反复无常的势利性格也早有所闻，十分反感。他似乎不愿调解彭、朱二人的矛盾，而有意泄露朱浮的密奏，以试探彭宠的真实用心。
这也是光武帝刻忌多疑的性格在作祟。他对镇守一方的将领总是过分敏感，一有风吹草动，就如针芒在背，他夸大了渔阳的威胁。
刘秀和彭宠之间，究竟是谁先负了谁，确实难以评说，任用朱浮，更是在已有的矛盾上火上浇油。刘秀重用吴汉、盖延、王梁等人，也无疑给了彭宠这样的信息：渔阳的力量将被进一步地分化瓦解，他个人的前途将更加无望。
不久，彭宠被单独征召，他因此更加怀疑光武帝暗布罗网。彭宠之妻是一个刚烈的女人，不堪委屈，她极力反对彭宠接受光武帝的召见，彭宠的亲信也一致认为其中有诈。
建武二年二月，彭宠举兵反叛，率二万精兵在蓟县击溃朱浮的部队，又分兵出击广阳（治所在北京市房山县东北）、上谷和右北平。由于光武帝在中心战区与诸雄作战，无暇北讨幽燕之地，故彭宠得以肆无忌惮。第二年春，彭宠又一举拿下右北平、上谷郡的几个县，南连张步，北和匈奴，并得到匈奴八千骑兵，军容大振。这年三月，他又攻下蓟城，自称燕王。同时，涿郡（治所在今河北涿县）太守张丰也举兵投靠，联兵对抗光武帝。
建武四年五月，光武帝利用关中、中原战事相对稳定之机挥师北伐。朱祐、耿弇、祭遵率大军进讨涿郡。祭遵的部队首先到达，急攻涿郡，一战而擒张丰。张丰是一个迷信方术的武夫，曾有道士声称张丰当为天子，并将一块石头裹在他的肘上，谎称石中藏有玉玺。张丰临刑之际，还叫喊肘石之中含有玉玺，以求不死。但石破之后一无所有，张丰这才知道被骗，仰天叹道：“当死无所恨！”
消灭张丰之后，幽州形势顿然改观。不久，祭遵袭破潞县，屡挫彭宠兵锋；耿弇等部攻拔望都、故安一线的十余个据点；耿弇之弟耿舒也率兵大破彭宠主力，斩匈奴二王，占领广阳郡的军都（今北京市昌平县），控制了幽州的局势，被汉军紧紧钳住的彭宠再也无力出战。
建武五年二月，彭宠已如一只困兽坐卧不安，他经常听到望气卜筮之人扬言兵当从中而起。风声鹤唳，懦夫心惊，连堂中火炉之下虫子的几声鸣叫，也会引得彭宠凿地而寻，疑心有鬼。终于有一天，彭宠夫妇斋戒之际被奴仆子密等人杀死，渔阳割据集团也在内乱之中四分五裂，迅速瓦解。祭遵领兵入渔阳，夷灭彭宠宗族，平定幽州。
渔阳之乱源于彭宠的个人野心，它是一种没有战略眼光的武装反叛，既不得人心，又自不量力，更无远图大略，其众叛亲离、自取灭顶的宿命昭然若揭。
值得附带一提的是，光武帝在平定邓奉之乱后，又调动相当多的部队，围追堵截流窜荆州的延岑兵团，围歼了割据黎丘的秦丰兵团和田戎兵团。
延岑，南郑人，于更始二年起兵汉中，归降汉中王刘嘉。建武二年又重新反叛，攻汉中，围南郑，刘嘉败走。延岑在杜陵大破赤眉十万兵马后，兵威大振，自称武安王，拜置牧守，又勾结关中地方武装，攻击冯异的部队。冯异遣兵大破之，俘敌八千余人，延岑自武关走南阳。
建武三年六月，延岑攻下南阳数城，建威大将军耿弇率部迎战于南阳郡的穰县，大破延岑，斩首三千，生俘五千，得印绶三百，延岑仅余数骑逃至东阳。当延岑纠集旧部准备反攻之际，又被汉将朱祐、祭遵击破，收得印绶九十七。
建武四年春，延岑又流窜至顺阳，邓禹领兵迎战，在邓县（今湖北襄樊市北）痛击延岑，追至武当，复破之，延岑只得逃至汉中。在汉军一系列重创之下，延岑丧师失地，余党皆降，穷途末路，只能投奔蜀地的公孙述。这一最具流动性的武力集团终于被清扫出荆州地区。
平定邓奉之后，岑彭又率部进击活动于黎丘（今湖北宜城西北）的秦丰兵团。汉兵夺得南阳黄邮之后，在邓县被秦丰的军队阻挡，数月不得前进。岑彭遂夜勒兵马，扬言引兵西进山都，以调虎离山计诱使秦丰主力西进，汉兵却潜兵渡过沔水（汉水），袭破阿头山（今湖北襄阳西），又从川谷问伐木开道，直取黎丘。秦丰闻讯大惊，连忙回兵营救。汉军依山为营，偃旗息鼓以待来犯之敌。秦丰果然夜袭汉营，岑彭出其不意，挥师逆击，大破之，追斩敌将蔡宏，秦丰败走黎丘。汉军又乘胜包围黎丘，困敌一年有半，斩首数万，最后秦丰仅余一千多残兵，粮草且尽。
建武四年十二月，光武帝亲临黎丘城外慰问将士，封功百人，由朱祐代替岑彭指挥黎丘战事。第二年六月，秦丰被迫出降，槛车送往洛阳伏诛。
岑彭挥兵南下，讨伐田戎兵团，汉军在夷陵（今湖北宜昌市东南）大破田戎，追至秭归，俘虏数万敌军，田戎仅剩数十骑亡入蜀地。
在围剿秦丰兵团的同时，光武帝又令马成、刘隆率部围攻在庐江称帝的李宪集团，长达16个月。到了建武六年正月，李宪粮尽，终于被一举消灭，汉兵尽平江淮。其问，傅俊也兵徇江东，平定扬州。
南方地区的战事至此全部结束，荆扬地区尽入光武版图。