明代师承宋代兵制遗意，也把军令和军训二权分离开来，由兵部和五军都督府分负其责。
明代军队实行卫所制度。每省设都指挥使司(简称都司)，有都指挥使一人，都指挥同知二人，都指挥佥事四人。都司下辖诸卫，卫设指挥使，卫辖五千户所，每所千余人，千户为之长，下有百户所，百户为之长；下有二总旗，总旗为之长，下有十小旗，小旗为之长。各省卫所统属京师前、后，中、左、右五军都督府，府设左、右都督，都督同知。这一套组织机构负责管理明军平时生活和训练。
兵部握有任免军官、调遣军队之权。兵部调派的各省各镇的军官另有名号。总领一方军务者为“镇守”，独守一城一堡的为“守备”，协同主将防守一路的称“协守”。又曾因军事需要临时设置总兵、副总兵，参将、游击将军、守备、把总等，这些临时之职后来也渐渐变成长期驻守地方的军职，以后在这些军职之上又不断设有巡抚、经略、总督、督师，以总领一方军务。若有征战，由朝廷临时指派挂印将军或大将军、前将军、副将军等率兵出征，事毕缴印回任。
京师除五府的卫所军外，还有皇帝直接控制的亲军、京军和班军。
亲军26卫，卫有指挥使统领宿卫皇宫，臭名昭著的锦衣卫便是其中之一。
京军是京师机动精锐部队，由五军(中军、左右掖、左右哨)，神枢营(原称三千营，由边外三千降人组成)、神机营(使用火器之军)这三大营组成，后改称“十二团营”。
班军是从外地一些地方抽调来宿卫京师的军队，由京卫指挥使、同知、签事等统率。
