刘秀称帝之初，仅控有河北、河内、河东、河南四地，定都洛阳无疑是明智的选择；西线战役的长期性和复杂性，也使光武政权的建设重心放在关东地区；更始政权迁都长安的覆辙，更为刘秀提供了一个反面的借鉴。然而洛阳也是四战之地，为了保卫洛阳，使其从军事前线转为战略后方，光武政权与东线几个重兵集团的冲突便不可避免。
东线最大的武力集团是刘永集团。刘永是西汉梁孝王的八世孙，他投靠更始帝后被封为梁王。更始政权覆灭之后，他在睢阳（今河南商丘市南）称帝，又和西防的佼强兵团、东海的董宪兵团、更始旧将苏茂联兵割据，拥有济阴、山阳、沛郡、楚郡、淮阳、汝南等地（今豫东、鲁西、皖北、苏北），兵据二十八城，成为关东地区最有实力的重兵集团。
盘踞在青州的张步兵团也是光武帝的一个劲敌。张步起兵琅琊，自称五威将军，称霸齐地已有多年，他接受了刘永的封拜，督青、徐二州，屯兵剧县（今山东寿光县南），攻占太山、东莱、城阳、胶东、北海、济南、齐国等地（今山东大部），拓地渐广，兵甲日盛。
此外，河北农民军余部尚有十余万，对光武政权的后方形成威胁；荆州北部还有一批更始将领拥兵自守，对中原战局持观望态度。河北和荆州北部都是战略要地，光武帝也是志在必得。
建武二年（公元26年），光武帝开始实施他的东线计划，该战线纵贯冀州、河内、兖州、豫州、徐州和荆州，在洛阳以东形成一条半月形的战略防线，其战略意图有三：全歼河北的农民军；以攻为守，与豫、徐、兖、青州地区的刘永、张步集团形成相持局面；收降荆州地区的更始余部。
当时关中的形势对光武帝比较有利，邓禹的西征部队成功地牵制了赤眉军，与之周旋几近一年；更始政权的汉中王刘嘉、延岑兵团也和赤眉军混战不休，赤眉军连遭丧败，无暇东进。光武帝利用这将近一年的时间，有条不紊地实施了他的东线计划。
建武二年初，光武帝命令吴汉等十位将军率部攻击在魏郡、清河一带的檀乡农民军。汉军在漳水大破檀乡军，俘敌十余万，取得重大胜利。八月，光武帝亲率大军，进剿魏郡的五校农民军，俘敌五万人。这两次大规模的扫荡，使洛阳通往渔阳、上谷的道路再次畅通，沿途州郡逐步平静。
建武二年四月，围剿刘永集团的战役正式打响，盖延、马武、刘隆、马成、王霸率部在睢阳包围了刘永的主力。汉兵尽收城外野麦，以困城中之敌。数月之后，汉兵在夜里架云梯攻入城中，刘永引兵出逃，被盖延杀得大败。汉兵乘胜进击，杀其鲁郡、沛郡太守；又在沛郡之西大破苏茂、佼强的三万援兵，刘永只得退守湖陵、广乐等地。沛、楚、临淮之地尽在光武帝的掌握之中。
建武二年三月，贾复、阴识、刘植等将率部南击郾城（今河南郾城），连连得手，迫使更始郾王尹遵投降，颍川之地重新回到光武帝的手中。汉兵又东进淮阳，逼其守军投降，属县悉定。与此同时，大司马吴汉攻占宛城，更始将刘赐归降光武政权。
这年四月，更始将王常率众归降。光武帝见到王常，高兴异常，他感慨地说：每当想起旧日的艰难，总是难忘你的相援之情；如今你归顺汉室，南方之地也就不足为忧了。光武帝还在群臣聚会时盛赞王常的辅汉之功：“此家率下江诸将辅翼汉室，心如金石，真忠臣也。”王常被拜为汉忠将军，成为光武帝的得力干将，经常领兵出征，屡建战功。
这样，经过半年多的努力，光武帝在东线构筑了一条绵长而坚固的半月形防线，保卫洛阳，控制中原。这一厚积薄发的战略谋划，体现了光武帝运筹全局的军事胆略：雄踞天下之中心，灵活用兵于东西两线而不失军事主动，以一定的兵力消灭河北农民军，遏制东线的重兵集团，以赢得充足的时间和空间，集中兵力对付西线的赤眉，其用兵之高瞻，屈伸之自如，显示了光武帝的军事才华。
在消灭赤眉集团、平定邓奉之乱后，光武帝不断向中原地区调集部队，围剿刘永集团，豫州、兖州等地的战斗进入了高潮。
建武三年四月，汉军集中兵力，再度对刘永集团发起攻击，吴汉部在广乐包围了苏茂，盖延部又一次在睢阳包围了刘永。
广乐被围之后，刘永的部将周建急忙纠集十万兵马驰援苏茂，吴汉分兵迎敌，却未能挡住周建的攻势。激战之中吴汉不慎坠马，膝部受伤，影响了士气，在战斗不利的情况下只得鸣锣收兵。吴汉回营之后，杀牛犒赏，鼓舞士气，使军心复振。翌日，苏茂、周建又出兵挑战，趾高气扬。吴汉选派四支精兵和三千突骑，齐鼓并进，锐不可当，一举击破周建的部队。周建带领残兵急返广乐，吴汉挥兵追击，争门并入，纵横奋击，获得大胜。
盖延率部包围睢阳，长达三月，他命令军士尽收城外野麦，断绝梁兵的粮食来源。七月，睢阳城中粮草告罄，刘永故伎重演，率部突围。盖延早有准备，领兵追击，尽获梁兵的辎重。刘永在逃亡途中被其部将所杀，只落得身败名裂的下场。盖延又在蕲县、留县、西防屡破梁兵，追至彭城（今江苏徐州市）。苏茂、周建退至垂惠（今安徽蒙城东北），拥立刘永之子刘纡为梁王，继续负隅顽抗。
在掌握战场主动的情况下，光武帝采用轮番进攻、重点打击的策略，消耗梁兵的有生力量，向敌人的腹地推进。建武四年七月，光武帝令马武、王霸二部进兵沛郡，围困垂惠。
翌年二月，苏茂、周建各领兵马在垂惠与汉兵展开会战。经过精心的准备，苏茂先发制人，他避开汉兵的锋芒，派一支精锐骑兵截夺汉兵的粮草，马武闻讯之后立即回兵援救，苏茂、周建二部迅速出动，对汉兵前后夹击，将马武的部队一举击溃。马武收拾队伍，退往王霸的营地，大声呼喊，请王霸赶快增援。
王霸察看战况之后坚营不出，营中将士都争着要求出战，王霸说道：“敌军兵锋盛锐，而我军心不稳，如果出兵相救，两支部队指挥不一，极易遭到失败。今闭营固守，示不相援，敌军必定乘胜轻进，马武将军只能背水一战，待敌兵疲惫，我精兵出击，定能克敌。”
苏茂、周建果然派出全部兵马攻击马武，双方合战良久。这时王霸的营中有数十壮士向他请战，王霸知士气已锐，遂令精骑在敌军的阵后发起猛攻，梁军前后受敌，顿时队形大乱，士卒溃散而逃，汉兵反败为胜。遭受重创的苏茂、刘纡被迫退至东海郡；周建亡走他乡，死于途中。
就在光武帝准备对刘纡、董宪集团发起总攻的时候，发生了一件他意想不到的事：平狄将军庞萌举兵反叛，这一事变使东线的战况又趋复杂。
庞萌原为下江兵将领，被更始帝任命为冀州牧，听命于尚书仆射谢躬。后来谢躬被刘秀所杀，庞萌遂归降刘秀。刘秀即位之后，任命他为侍中，十分器重，常常对众将说：“可以托六尺之孤、寄百里之命者，庞萌是也！”不久又任命他为平狄将军，协助盖延进剿董宪兵团。
庞萌是反复无常之人，他表面上十分谦逊，但内心却猜忌多疑。因光武帝的诏书只送达盖延一人，庞萌便断定盖延在光武帝面前中伤自己，担心光武帝对他下手，左思右想，终于决定反叛。
建武五年三月，庞萌起兵反叛，自称东平王，随后又攻破彭城，残害楚郡太守孙萌。光武帝得知庞萌反叛，勃然大怒，立即亲征庞萌，并致书诸将：“我常以为庞萌是社稷之臣，将军不会笑话我吧？老贼当灭族。诸将各厉兵马，会师睢阳！”
在下邳的董宪、刘纡等人闻讯之后，急忙还兵兰陵，派苏茂、佼强率领三万兵马，援助庞萌围攻桃城（今山东宁阳西北）。
六月，光武帝的主力部队到达梁国的蒙县，他留下辎重，亲率三千精骑数万步兵，日夜兼程，驰赴桃城。大军到达任城（今山东济宁市）之后扎下营寨，距桃城仅有六十里。
第二天，庞萌出兵挑战，汉军诸将请进兵攻敌，光武帝却命令闭营坚守，休兵养锐以挫敌锋，同时命令在东郡的吴汉各部向他靠拢。庞萌不由感叹光武帝用兵之奇：“数百里日夜兼行，想必一到此地便会投入战斗，谁知他坚坐任城，与我对峙，真是神不可测！”于是庞萌悉兵转攻桃城。城中的汉兵得知光武车驾已至，士气大振，坚守二十余日不下。
刘秀此举不仅为各部汉兵聚集任城赢得了时间，也使他的主力部队得到了必要的休整，更拖疲了不断进攻的敌军，其用兵技巧可谓炉火纯青。
不久，吴汉、王常、盖延、王梁、马武、王霸六支部队赶到，攻击桃城之敌的时机已经成熟，光武帝当即命令各部出击。他亲临战场，身先士卒，奋勇搏战，显示了高于常人的英勇。汉军人人思奋，争先杀敌，大破庞萌的军队。庞萌、苏茂、佼强丢弃辎重，夜奔兰陵，与董宪会合。
七月，大军在东海郡的昌虑（今山东滕县东南）追及董宪。光武帝再次亲临战场，指挥汉军向董宪兵团发起攻击，激战三日，大破之，董宪众皆奔散。在汉军的攻势面前，佼强被迫投降，苏茂亡归张步。
八月，汉军又攻下郯县、彭城，进逼下邳（今江苏睢宁西北）。王常率部强攻，一日数战。光武帝登城南高处眺望，只见城上矢下如雨，王常率兵奋战，勇不可当。攻占下邳之后，汉军已控制徐州大部。刘纡在亡命途中被随从所杀，董宪、庞萌退至朐县（今江苏连云港市西南），身后便是无垠的大海，退路已尽。
建武六年二月，朐城粮尽，董宪、庞萌潜兵出城，袭击赣榆，被琅琊太守陈俊击败。吴汉攻下朐城，尽获董、庞家室，董宪和庞萌在逃亡途中被杀。至此，中原最大的武力集团——刘永、佼强、苏茂、董宪、庞萌的联合势力终于全军覆没，自更始二年冬刘永起兵至朐城之战，前后历时五年。
围剿刘永集团的战役尚未结束，攻击张步的战斗就已开始。
建武四年，汉将陈俊与张步战于赢县，大破之，追至济南，获印绶九十余。这年冬天，耿弇与吴汉联兵击破平原郡的富平、获索二部农民军，俘敌四万多人，东进的道路已经打开。
建武五年，光武帝命令耿弇进剿张步。耿弇收编降卒，集结部曲，安置将吏，与陈俊率部渡过济河，进入齐地。张步闻讯之后，立刻派大将费邑屯兵历下城（今山东济南市），又分兵驻守祝阿、钟城，以抵挡东进的汉军。
十月，在轻松拿下祝阿和钟城之后，耿弇引兵进逼巨里（今山东济南市境）。他传令军中加紧营造攻城器械，三日之后开始进攻；又派士兵砍伐树木，准备填平据点外围的护城沟堑。一切安排就绪，耿弇却故意放走俘虏，让费邑得知他的攻城计划。费邑果然中计，率三万精兵增援巨里。耿弇留下三千人马围困巨里，自己亲率主力埋伏在山岗之上。等费邑的部队进入伏击圈后，汉军居高临下，大破敌军，阵斩费邑。随后汉兵又持费邑的首级威慑巨里，巨里不战而下，大批辎重被汉兵缴获。汉兵又连续攻下四十多个据点，平定济南郡。张步的第一道防线全线崩溃。
为了稳住阵脚，张步连忙让他的弟弟张蓝领二万精兵驻守齐郡的西安，诸郡太守合兵一万余人驻守临淄（今山东淄博市东北），两地相距四十里。耿弇考虑到西安城小而坚，又有张蓝的精锐部队把守，而临淄虽大，却易于攻取，所以决定先打临淄。
耿弇扬言五日之后攻击西安，张蓝闻讯后日夜坚守。而耿弇却在半夜下达命令：全体将士饱餐一顿，凌晨攻击临淄。众将都感到不解，耿弇这才把自己的想法告诉大家：我军深入敌人腹地，后无援兵和军需接济，不战必困，所以必须速战速决。西安日夜为备，进兵强攻，死伤必多，纵能拔之，张蓝的部队必定逃回临淄，将难以消灭。现在出敌不意攻击临淄，一日就可攻下。
于是将士听命，乘夜色朦胧袭击临淄，果然只用半天就夺下了临淄城。张蓝闻讯大惊，急忙率领部队撤回剧县。耿弇屡以声东击西的战术取得胜利，举一而得二，可谓用兵如神。
张步连连丧师失地，却还口出狂言：“尤来、大彤十余万众都被我击破，如今大耿的兵比他们少，又十分疲劳，何足为惧！”他遂与三个兄弟率领十余万兵马进击临淄，自信可一战而决。
耿弇的部队先至淄水，与敌人的前锋相遇，他的精锐突骑纷纷请战。但耿弇决定诱敌深入，遂引兵回归临淄小城，潜兵于内，仅派出一部分人马与敌交锋。
张步的主力到达之后，与耿弇的部将刘歆展开激战。在小城旧宫的环台上观战的耿弇见两军已战至高潮，便亲自率领精兵，奋勇出击，横扫千军万马。战斗异常激烈，刀光飞闪，流矢如雨，耿弇的大腿被流矢射中。他以坚强的毅力忍住伤痛，挥刀砍断箭杆，不让左右军士察觉。这场血战一直持续到暮色降临，耿弇终于击溃了张步的主力。
第二天清晨，耿弇再度勒兵出战。这时，光武帝已亲率大军前往齐地，增援耿弇。陈俊得知消息，建议耿弇闭营休兵，等待光武大军到达。耿弇坚决不从：“天子将至，臣下应当杀牛备酒以待百官，怎么能把贼寇留给天子呢？”
在战场两侧安排了伏兵之后，耿弇再度命令部队全线出击，这一仗又是从清晨杀到夜里。汉军拼死而战，张步的士卒被杀伤无数，沟堑之中堆满了尸首。入夜之后，张步渐渐不支，终于败退，此时汉军伏兵四起，纵击敌兵，追至巨昧水上，张步大败而逃，八九十里僵尸相枕。汉军尽获辎重，取得了青州决战的胜利。
几天之后，光武帝到达临淄，慰劳将士，大会群臣。光武帝盛赞耿弇的智勇，可与当年的韩信相媲美：“当年韩信从历下打开局面，如今将军从祝阿攻入齐地，可谓功劳相当，真是有志者事竞成啊！”
汉军进逼剧县，张步又逃至平寿。苏茂带着一万多援兵来到平寿，当面责问张步：“邓奉手握精兵，延岑骁勇善战，都被耿弇击溃。大王为什么贸然向他进攻？既然已经叫我增援，为何不能等待？”张步羞愧难当：“惭愧，惭愧，无话可说。”
光武帝知道张步已是穷途末路，决定劝降。他分别派人告诉张步、苏茂二人：能相斩而降者，封为列侯。见利忘义的张步果然杀死苏茂，举城而降，兵士尚有十余万，辎重七千余辆。耿弇占领平寿，又进兵城阳，降五校余部，彻底平定了青州之地。
耿弇是光武麾下最出色的年轻将领，前后平定四十六郡，攻占三百城池，未尝有过一次挫败。无论是大规模的阵地战，还是机动灵活的运动战，他都游刃有余，驾轻就熟，显示了过人的胆略和智谋。这一年他只有26岁。
至建武六年二月，东线的丛生之敌悉数平定，北至幽燕，东至青徐，南至荆襄，都成为光武帝的天下。辽阔的关东之地和稠密的人口，为光武政权的经济建设提供了坚实的基础。
关东之战也奠定了光武统一战争的胜利基础，集中体现了光武帝的雄才大略。在中原鏖战的间歇，不仅集中兵力消灭了西线的赤眉军，还穿插了平定涿郡、青州的两个战役，驾驭如此恢弘的战争格局而能游刃有余，纵收自如，其战略之高远，用人之得当，运兵之神速，岂庸碌之辈所能相比。
在全力争夺关中、关东之际，光武帝对河西的窦融、天水的隗嚣、蜀地的公孙述，基本上采取守势。更确切地说，对这三大势力，尤其是前二个势力，极尽笼络之能事，以避免在东、西两条战线上同时作战。等关东大体平服后，他的矛头也就开始西指了。