辽在当时是一个军事强国。据《辽史》卷三十六《兵卫志下》记载，辽有军队164.28万人。为维护这样一支庞大的军队，辽实行全民皆兵的制度。辽制规定：“凡民年十五以上，五十以下，隶兵籍。”几乎所有成年男子（老年除外）都是国家的战士。
辽军大约可分为六大类：一是御帐亲军，这是辽军的主力，是由皇帝直接掌握的精锐禁军。下分为大帐皮室军和属珊军两部分。太宗耶律德光（902～947）时，两军共有蕃汉精骑50万。二是宫卫骑军，又称“斡鲁朵（契丹语“宫”的意思）”军。辽所立斡鲁朵是12宫1府，共有宫丁40.8万人，骑兵10.1万人。三是大首领部族军，由亲王、大臣的部曲组成。国家有战事时，首领率领自己的部族军参战，数量一般在三五千骑。四是部族军，这是以部落为单位，由契丹境内各游牧民族组成的军队，包括契丹、奚、渤海、室韦、唐古、突厥、女直诸部，分立南北二府，北府辖28部，南府辖16部，是拱卫国都及边防要地的地方部队。五是五京乡丁，由隶属上京、中京、东京、南京、西京的民丁组成，约有110万人，实际是一种民兵，主要是承担军队的徭役。六是属国军，是辽朝境外附庸国家的军队，如西夏、吐蕃、高丽、回鹘等。属国军在辽对外发动战争时，有义务派兵助战。
辽朝的军队分为正军和家丁。正军是国家的正式军队，家丁由奴隶和部曲组成，兵器战马自备，不供给粮草，军需物资靠战时抢掠供给。辽军以骑兵为主，主要武器是弓箭和刀枪。每一名正军，备有三匹战马。辽后期从宋传人抛石机式的火炮，编有炮手军。
辽朝主管军事的最高机关为枢密院，后为南、北二枢密院。北枢密院统领契丹兵马，南枢密院统领汉族兵马。枢密院使是全国最高军事首脑。然而，由于辽太宗是以天下兵马大元帅继嗣帝位的，所以天下兵马大元帅一职成为辽朝皇帝以下的最高称号，只能由皇太子和亲王担任，成为辽朝军政大权的实际执掌者。天下兵马大元帅闲总领全国军政、有大元帅、副元帅，下又设大元帅府、都元帅府、大详稳（汉语将军之意）司、东都省、西都省、护军司、卫军司、诸路兵马统署司等。为了控制诸奚，在上京路置诸军都虞侯司、奚王府等；为了控制高丽，在东京辽阳路置东京兵马都部置司和契丹、奚、汉、渤海四军都指挥使司；为了对付北宋，在南京置南京都元帅府、南京兵马都总管府、南京都统军司和南北皮室详稳司等；为了控制东北诸部，在长春州（今吉林农安县北）置黄龙府兵马都部署司、东北路都统军司；为了控制西北诸部，在西北路置西北路招讨使司、西北路总领司、西北路阻卜都部署司等。