古代军队的管理其实在每个朝代都比较严密，古代皇帝为了防止功臣将军谋反，更是对手下的军队实行严格的管理。朱元璋建立明朝后，就对手下的各个军队设立了严密的管理机构。
五军都督府是明朝军制卫所制度的产物，其是明朝重要的军事行政制度。说到五军都督府，就必然要提到明朝的军卫法。
军卫法是明朝官民分别的重要体现，明朝建立后，太祖朱元璋曾根据刘伯温等人的建策，遂在明朝内部设立了卫所制度。太祖将一部人划为军，分配在全国各个卫所，这些人不仅担任地方镇将，还有守边护国的责任。平日里，这些军人根本无法与将领沟通，只有到战时，太祖才派出大将统领卫所兵马出征。兵虽然不识将，但平时的训练也没有落下，所以，无论太祖遣将如何，这些卫所兵马都有效忠朝廷的忠心。
划分到卫所的军人就算是入了军籍，他们一辈子都要参军，且还有世袭的权利。军籍兵马受朝廷都督府节制，于是，五军都督府便产生了。
一开始，明太祖朱元璋并没有设立五军都督府的想法，明朝建立后太祖曾设立了大都督府，专门掌管卫所兵马。大都督府不仅有统兵之权，还有调兵之权，权利极大，朱元璋正是摄于这一点，才分设五军分割大都督府的权利。于是到了洪武十三年，明太祖便将大都督府划分为五军都督府。
五军都督府分别指的是中军都督、左军都督、右军都督、前军都督和后军都督，其中，中军都督权利最大。每个都督府设左右二都，左都督为主，右都督为辅，分管府事。
五军都督府是明太祖朱元璋分化瓦解武将权利的措施，对于武将的选用和任调，五军都督府也都没有裁决之权。和兵部相比，五军都督府只有领兵的权利，而无调兵之权，不过，兵部要想通过皇帝手令调兵，也是非常困难的。
五军都督府大多是由明朝的武臣元勋组成，他们在军中享有很高的声望，如明朝初年的大将蓝玉、傅友德、廖永忠等人都曾在五军都督府担任都督。因为五军都督府为朝廷武官的重要职位，所以五军都督府后来也成为了武将集团的势力根据之一。和兵部比较，兵部官吏或许可以以文官来担任，但五军都督府却不行，其必须以武官来担任都督。
宰相制度被废除之前，兵部的品阶是高于五军都督府的，不过，自丞相被废除后，五军都督府却高出六部一大截。五军都督府有直接参政的权利，遇到战事的时候，其都督可以直达天庭，根本不需要获取六部的同意。朱元璋之所以如此做法，就是要直接掌握军备，以便最快速度的了解各地军情。
明初，五军都督府的权利很大，其一度可以与明朝文官分庭抗礼，就是朱元璋在没废除丞相以前，也是以武将徐达为左丞相，文官李善长为右丞相，不过，随着武将权利的扩大，五军都督府的将领却心生骄矜之气，甚至到了胡惟庸案件的时候，五军都督也和丞相暗自勾结朱元璋摄于武将和文臣的掣肘，遂在废除丞相后大力除杀武臣元勋，于是，五军都督府便在皇帝的猜疑之下逐渐走向了边缘化。
五军都督府掌管的是卫所兵马，卫所军队皆是世袭子弟，前期，这些人还可以安分守己，但随朝廷的腐败，这些人便心生脱离军籍的想法，于是，到了明朝中后期，卫所军队人员则大量逃亡，五军都督府也变得有名无实。成祖之后，明军的战斗力急转直下，到了明英宗朱祁镇继位，明朝实际的军事权利又集中到了兵部的手里。
