南宋军制大体上沿袭北宋制度，仍以募兵为主，禁军、厢兵、乡兵等各种军队名称仍然存在。但禁军作为国家主力军的地位已为新形成的屯驻大军所替代，西北边防的蕃兵，也因陕西的失去而不复存在。
建炎兵制
靖康元年（1126）闰十一月，赵构被任命为河北兵马大元帅，陈亨伯为元帅，汪伯彦、宗泽为副元帅。十二月（1127），建立大元帅府，赵构把所领军队万人分前、后、左、中、右五军，这是南宋建军之始。靖康二年五月赵构即位后，另设御营司，由宰相、执政兼任正、副使，其下设都统制，统管御营军，御营军分为五军。建炎三年（1129）四月苗傅和刘正彦兵变失败后，刘光世的御营副使军和韩世忠的御前左军、张俊的御前右军，均脱离御营军而独立成军，御营军分而为三：御营副使军、御前军和御营军。而御营军仍有五军。此时，御营司仅能管辖御营五军，御营副使军与御前军则与御营司脱离关系。建炎四年（1130）六月，御前军改为神武军，御营军改为神武副军，御营副使军改为御前巡卫军，统归枢密院领导，撤销御营司，恢复北宋旧制。
绍兴兵制
绍兴元年（1131）以后，南宋在江南稳定了统治，军制也渐趋稳定。当时，除川陕的吴蚧大军外，东南地区的大军为刘光世的御前巡卫军、韩世忠的神武左军、张俊的神武右军、王躞的神武前军、陈思恭的神武后军，杨沂中的神武中军。后来王理、陈思恭部并入神武左右军。由宗泽余部发展起来的岳飞军，于绍兴三年用神武后军的番号。这样，南宋军队在绍兴初年便形成了吴王介、岳飞、张俊、刘光世、韩世忠为主帅的五支屯驻大军，其次则有杨沂中的神武中军、王彦的八字军等，总兵力30万。吴王介是川陕大军主帅，刘光世是御前巡卫军主帅，韩世忠是神武左军主帅，张俊是神武右军主帅，岳飞是神武后军主帅。
绍兴五年（1135），屯驻大军的番号改为行营护军。韩世忠为前护军，岳飞为后护军，刘光世为左护军，吴王介为右护军，张俊为中护军。各支大军都分成若干军，军级统兵官有统制、统领等。军下设将，将一级有正将、副将、准备将，总称将官。在将之下，还有部与队的编制，设有部将、拥队、押队等职。
绍兴七年（1137），刘光世被解除兵权，其部下大将郦琼率4万人降齐，余部8000人由王德统率，并入中护军，左护军名存实亡。绍兴九年（1139），吴王介病死，右护军分裂，由吴磷、杨政、郭浩三大将统率，因此，右护军的地位降低。于是，只剩下岳飞、韩世忠、张俊三帅地位最高。绍兴十一年（1141），宋高宗和宰相秦桧推行投降路线，罢韩世忠、张俊兵权，杀害岳飞。此后，将四支屯驻大军陆续改编成十支屯驻军，部署在长江沿岸和川陕交界处，统称为“御前诸军”，为南宋的主力军。
三衙和班直
南宋初，三衙机构仍然保留，但不统兵。班直也保留充当宿卫。绍兴五年（1135），杨沂中的神武中军改为殿前司军，三衙始有兵将，且兵力不断增加。绍兴十一年以后，三衙军成为与御前诸军平列的屯驻大军，不再有隶属关系。三衙军的编制，与御前诸军相同。南宋的三衙军与北宋时有所不同，侍卫马军司并非全统马军，侍卫步军司也掌管部分马军。三衙各军的情况是：
殿前司：绍兴五年，改神武中军为殿前司军，共7军。绍兴九年（1139），殿前司有统制13，统领21，正、副、准备将178.绍兴十八年（1148），兵力增至7万余人，辖12军。宋孝宗时（1163～1189年在位）规定，殿前司军的编制为7.3万人。从此维持到南宋末年未改变。
侍卫马军司：绍兴七年（1137）开始组军，共6军12将、6000人。绍兴十四年（1144），从四川右护军调入4个军。到绍兴三十一年（1161），马军司共有兵力3万人。孝宗乾道七年（1171），调马军司戍建康，临安只留殿前司和步军司两支部队。此时，马军司共有6个军，实有兵力2.7万人。
侍卫步军司：绍兴十二年（1142）始组军。绍兴二十九年（1159），有5军编制。南宋的军，相当于北宋的厢；南宋的统制，相当于北宋的厢都指挥使。孝宗乾道年间，规定步军司编制为2.1万人，南宋末年，步军司有兵力2.3万人。
使臣、效用和军兵：北宋禁兵分上、中、下三等，南宋屯驻大兵分效用、军兵两级，或使臣、效用、军兵三级。使臣是八至九品的十等武阶官的总称。使臣并不全带兵，有的担任侦察任务，称探事使臣；有的给大将管印，称背印使臣。使臣也有充当战士的，因此禁军中形成使臣、军兵两级。宋孝宗时，对军队进行改革，改变使臣充军的状况，实行效用、军兵两级制。
效用的身份和待遇高于军兵。在军情紧急时，招效用是一种高价的募兵手段。效用一般不刺字。效用的出现和普及，是南宋兵制的一项重大改革，反映了兵士社会地位的提高。刺字制的部分废除，也使应募的壮士，愿充军前效用，而不愿为军兵。
骑兵、水师：南宋的骑兵建设和北宋相比变化较大。由于陕西的丧失，南宋只能从广南西路少数民族地区和四川购买军马，由于广马和川马体型矮小而且数量不多，所以南宋的屯驻大军缺马情况比北宋更为严重。如左护军刘光世5.2万余人，仅有战马3000；右护军吴军7.3万人，仅有战马9000，殿前司的骑兵有五分之一无马。战马的严重缺乏削弱了南宋的战斗力，这是在同金军作战中常常失败的原因之一。
南船北马，宋金各有优势。南宋为了发挥自己的优势，很重视水师建设。岳飞、刘光世、韩世忠、张俊率领的各路大军中都有强大的水师。绍兴末年，当完颜亮再次大举攻宋时，南宋水师的战绩比陆军显著得多，多次击败金军。孝宗以后，为了防御金军南侵，南宋在沿江、沿海陆续设置了20余支水军，防御从武昌到常熟、从嘉兴府杭州湾的澉浦到广西钦州的海防的战略要地。重点配制在长江下游和两浙路沿海。后来在抗击元军南侵时，南宋水军发挥了重要作用。