中央军事机构的变化
东汉初建时，统治者接受了西汉末年政治动荡的历史教训，出于强化皇权的目的，对中央行政机构进行调整，中央军事机构亦相应有所变化，其主要表现有：
1.太尉职权相对增强
在西汉时期，太尉有管理郡国常备军的职责，太尉一旦权重，便会对皇帝构成威胁，所以经常受皇权压制甚至裁撤。东汉太尉仍为最高军事行政长官，但因地方都尉及郡国兵的取消，皇帝对其戒心远不及西汉，以致其职权反而相对扩大，如：太尉在三公中地位最尊。西汉时，三公中的丞相职权较大，常有皇权与相权之争。到了东汉，太尉的职权超过了司徒、司空，列名于三公之首；太尉属官较西汉时有所增加。东汉时，将九卿分属三公。太尉领有太常、光禄勋、卫尉。太尉有椽史属二十四人，分为东曹、西曹、户曹、法曹、兵曹、仓曹、奏曹、辞曹、尉曹、贼曹、决曹、金曹等；太尉有时可以统领中央实权机构尚书台。
2.尚书台成为事实上的军事权力机构。
尚书，在秦与西汉时不过是少府属官，起初仅掌殿中传达诏令之事。武帝时，其职权扩大到代替皇帝裁决并下达章奏，至东汉刘秀时已扩充为尚书台，明定其“掌凡选署及奏下尚书曹文书众事”，成为皇帝身边一个无所不统的机构，形成朝中“虽置三公，事归台阁”的格局。在军事上，尚书台因参与国防、战略各项决策，而成为事实上的中央军事领导机构。由于尚书台位卑而权重，所以无论是皇帝、大将军、太尉，谁掌朝政实权时就听命于谁，这也是尚书台作为事实上中央军事机构的一个特点。
3.中央禁卫军的裁编
以往学者多认为刘秀是加强中央军而削弱地方军。削弱地方军是事实，但说加强中央军，恐怕既不符合刘秀“省兵减政”的意愿，也有悖于史实。以下事实证明，东汉的中央军不是加强而是削弱了：人数锐减。东汉的禁卫军总人数仅约四万，远不及西汉；北军中的编制，也从西汉时的七校尉压缩为五校尉，即屯骑、越骑、步兵、长水、射声。成份变化。宫中卫队的郎中在西汉多系武士，东汉则多从孝廉，博士弟子等文人中选拔。北军也不似西汉时征自三辅乡间，而仅出于京师子弟。因此，中央禁卫军在数量质量上都比西汉时严重下降。
4.东汉中央军的基本构成
东汉中央直辖军的主体是宫廷宿卫军和北军。
宫廷宿卫军又分两部，一部由光禄勋统辖，下设有七署，即五官中郎将，左、右中郎将，虎贲中郎将，羽林中郎将，羽林左、右监。他们所辖的郎官、虎贲郎，羽林郎、羽林左、右骑的主要职责是“陛戟殿中一宿卫侍从”或“出充车骑”。从某种意义上，他们可以视作为皇帝的警卫部队。
宫廷宿卫军的另一部分由卫尉统辖。负责警卫南宫、北宫，宫内巡逻，守卫七座宫门等事宜。
北军也由两部分组成，一部分由执金吾统辖，担任洛阳城内宫廷以外的巡逻、警卫、备水火非常之事。皇帝出巡时，则充任护卫及仪仗队。北军的另一部是五校尉所统之兵，五校尉分别为屯骑、越骑、步兵、长水、射声。他们直接由皇帝指挥，负责宿卫京师，担任京城守备及扈从车驾、有时也要出征。这是北军的主力。
东汉晚期，社会危机四伏，统治集团内部斗争白热化。宦官与外戚争夺兵权的结果，是中平五年（188），设立了西园八校尉。从此，宦官、外戚分掌兵权，互不上下。西园八校尉于是成为东汉晚期中央直辖军的重要构成部分。
地方军制的变化
刘秀称帝不久，便着手削弱地方军，所以东汉地方军制的变化相当大，主要有：
建武六年（30），取消内地郡国都尉，并其职务于太守，又废都试制度。
次年，罢郡国轻车、骑士、材官、楼船等常备军，全部复员为民。
建武二十二年，又罢边郡亭候吏卒。
刘秀取消地方军只是一种主观愿望。每当郡国有事，又不得不在郡国屯兵，以代替被取消的地方军，例如守卫黄河北岸的有黎阳营（今河南浚县东），守备三辅地区的有雍营（今陕西凤翔），驻守长安的有长安营。终东汉一代，不断有郡国常备军的重新组建，例如明帝时在五曼柏（今内蒙古东胜东北）设度辽营以备匈奴；和帝肘为镇压南方少数民族起义而置象林营（今越南顺化）；安帝时因鲜卑犯居庸，设渔阳营，后又在辽东设扶黎营（今辽宁义县东）；顺帝时在沿海一再设防镇压人民起义，在内地则因西羌暴动而于魏郡、赵国、中山、常山设置六百一十六坞，河南建三十三坞，扶风、汉阳、陇道三百坞，每坞为一据点，设兵屯守。以上这些地方驻军，有的名义上划归中央指挥，但就其实质与作用而言，与地方军并无二致，甚至独立性更强，以致逐渐形成地方割据势力。由此可见，刘秀取消地方军，其原意虽是“省兵减政”，但在地方上仍存在一些取消不了的军队。
征兵制为募兵制所代替
西汉兵役采取普遍征兵制，适龄男子傅籍后除定期服更卒、正卒、戍卒、卫卒之役外，遇有战争还必须随时听命应征。东汉刘秀改革军制，基本取消了征兵制，采取了遇有战事临时招集的募兵制。
募兵制是以雇佣形式招募兵员的一种兵役制度，最早形成于战国时期，例如魏国招募勇士组建成战斗力较强的“武卒”，以后齐国与秦国也相继组成“技击”、“锐士”。西汉在实行征兵制的同时，曾招募壮士组成“勇敢”、“奔命”、“伉健”等军队。不过以上招募并不带有普遍性，只是选择体力强壮、技能突出的人员组成特种精锐部队。到了东汉初期，经过西汉末年的战乱，人口流散，加之土地兼并问题未能解决，农民大量破产，征兵制已无从实施。同时西汉的征兵制也存在着不少的弊病，例如被征人员不习边疆水土，长途跋涉远离故土耗费大量的人力、物力，增加了军费开支，而被征人员视服役为畏途，常有对抗情绪。因此刘秀建立东汉王朝以后，下令废止西汉的征兵制，中央军多采取招募，地方郡县不设常备军，遇有战事临时招募组成军队，在全国实行募兵制。
东汉募兵制招募的对象有农民、商贾、少数民族。招募的办法大体有以下三种：
诱以财物。招募士兵往往是临时遇非常军情，故非得诱之以利，如刘秀起兵时曾因兵少问策于任光，回答是：“人贪财物，则兵可招而致也”。
免除赋役。如东汉末军阀混战时，孙策曾以“乐从军者，一身行，复除门户”为条件募兵二万余。
强行捕索。在汉代募兵通常并不困难，因为吃粮当兵亦贫民一条生路，但在某些时候也就未必然了，如汉末袁绍之子袁谭就曾以招募为名，放兵捕索壮丁。
由于募兵制往往是应急性临时招兵，又未经平日军事训练，缺乏战斗力，“是以每战常负，王旅不振”。
刺史州牧的崛起与家兵
西汉在地方上基本采取郡县两级官制，但自汉武帝始，中央为加强对地方的控制，在秦监御史制度基础上创立州刺史制度，即把全国划为十三州，各派刺史负责监察行政。但从西汉末年起，刺史或更名州牧，或复名刺史，职权逐渐扩大，终在东汉演变为凌加于郡县之上执掌军政实权的一级地方机构，并成为东汉军阀武装的中坚力量。
刺史州牧在军事上的崛起，早在王莽时期已见端倪。当时由于社会矛盾激化，为镇压地方起义，中央开始赋予州牧军队统领权，如地皇四年（23）诏令兖州牧寿良、杨州牧李圣等与太师王匡“亟进所部州郡兵凡三十万众，迫措青、徐盗贼”。东汉初，在统一战争中出于军事需要，刘秀赋予州牧统兵作战权；战后又从限制地方军权角度出发，于建武十八年（42）“罢州牧、置刺史”，明确其监察职责而削弱其军权。东汉中叶以后，社会矛盾激化，地方反抗加剧，刺史监察地方的职能逐渐丧失，统兵领郡镇压人民反抗的职能与日俱增，已演变为“内亲民事，外领军马”的地方军政最高长官。
除刺史以外，在地方上的太守也能领掌兵权。东汉初年，刘秀“省诸郡都尉，并职太守”，太守的军权相应增大。郡守原来要有皇帝的虎符才能发兵，但从《后汉书·杜诗传》记载的“征兵郡国，宜有重慎，可立虎符，以绝奸端”来看，可见当时的虎符发兵制已遭到破坏。郡国的刺史、州牧、太守，不但据有领兵权、发兵权，而且还有募兵权。
东汉实行募兵制，地方军政长官临时招募兵士已十分普遍，如刘陶“募吏民有气力勇猛能以死易生者”数百人；虞诩“设令三科，以募求壮士”。东汉末年，土地兼并剧烈，社会上“游食者众”，这些无业游民就成为各地军阀割据势力的招募对象。各地军阀为了扩大自己的力量，把招募人员按军事编制组织起来，成为一支私人武装部队——部曲、家兵。例如朱为交趾刺史，“令过本郡简募家兵及所调，合五千人”。吕虔“将家兵到郡”，从亡命中“简其强者补战士”。此外如许褚、田畴、李乾等，均拥有私人武装“千余家”或“数千家”。这些家兵地位低下，一般世袭，并可任意转让，如孙坚募召精勇千人，坚死由其子孙策继领；凉州征西将军马腾的家兵，死后也由其子马超继领。各地军阀可以招募士兵，建立私人武装，削弱了中央集权，成为东汉末年战乱的根源之一。