在兵部之上。凡武职世袭官、流官、土官的袭替、优养、优给等项，皆须上报五军都督府，再由五军都督府转送兵部。兵部批准之后，具体的发放、任命，还要通过五军都督府。也就是说，在明前期的时候，兵部只有调兵权，五军都督府才是总揽内外军事的中枢机构。这也就是为什么在外任职的武官来京都要到朱勇的成国公府来拜望。
五军都督府的官员一向是由公侯勋戚们担任的，职位最高的是大都督，能担当这一级别的官员是张辅、朱勇一类的公侯，次一级的官员大多也是勋戚，少部分是循资历一步步熬上来的。京城里有爵位的勋贵基本上入了都督府，在里面担任大小官职，他们又不像文官有流动性，基本上一进去就在里面混一辈子了。他们有爵位有资历，兵部的指令和调令等闲不放在眼内，因此一般兵部要跟五军都督府协调军事上的大事，就得向皇上请一道旨意，否则就行不通。那群丘八才不理会那些张口闭口之乎者也的书生呢！
后来爆发了土木堡之战，很多武臣勋贵都死在了那里，其中就包括军方的两个大佬英国公张辅和成国公朱勇，这也造成了武臣集团一下子衰落了下去，文臣集团崛起开始左右朝局。五军都督府威风不再，变成兵部的应声虫儿，处处受制于兵部，这已是后话了。