其兵制中斡鲁朵中的宫卫骑军兵甲，教练完习，简选天下之精锐，聚之腹心之中，既担任保卫任务，又出兵打仗。另外还有部族兵、汉军、渤海军等。契丹是游牧民族，善于骑射，平时放牧渔猎，既是生产经济活动，也是军事练习。有战争很快即可集合成军。
辽朝的军队，平时约在二十万至三十万左右，而契丹部族全民皆兵，辽所能动员的兵力在总人口当中，比例很高，为164万2800人。由于保留着原始部族的痕迹，并处于由奴隶制向封建制迅速转化的历史阶段，军事制度初期多与本民族社会制度合为一体，进入长城以南地区后，既保有本民族特色，又逐步接受汉族影响，具有民族融合的特点。
辽朝皇帝亲掌最高兵权。下设北﹑南枢密院。北枢密院为最高军事行政机构，一般由契丹人主管﹔南枢密院亦称汉人枢密院，掌汉人兵马之政，因而出现一个朝廷两种军事体制并存的局面 。
辽军大体分为宫帐军﹑部族军﹑京州军和属国军。宫帐军，征集直属皇帝的着帐户壮丁组成，是契丹族亲军，供宿卫和征战，“以行营为宫，选诸部豪健千人，置腹心部”。部族军，主要由契丹以外的部族壮丁组成，供守卫四边。以上两种部队是辽军的主力。京州军，亦称五州乡军，征集五京道各州县的汉族﹑渤海族等的壮丁组成。属国军，由臣属国壮丁组成。后两种部队为辅助兵力。辽初，贵族男子人人服兵役，年龄在15～50岁之间的列籍正军，兵器﹑战马自备。“正军一名，马三匹，打草谷﹑守营铺家丁各一人”，“人马不给粮草，日遣打草谷骑四出抄掠以供之”(《辽史·兵卫》)。后来，“沿边各置屯田戍兵，易田积谷以给军饷。”(《辽史·食货》)辽军以骑兵为主，主要武器是弓箭和刀枪。后期从宋朝传入抛石机式的火炮，编有炮手军。