军队是军事实力的保障，曹魏时期的中央军，分为中军和外军。魏的中军略等于汉代的南北军，担负着宿卫皇宫、拱卫京师的任务，所以《历代兵制》认为;魏制略如东汉，南北军如故”，依然把魏的中军称为南北军。
不过由于汉末三国战事频仍，中军常常四出征伐，与汉代北军相比，魏中军的作战任务重得多。
《历代兵制》叙述了魏中军的发展：;初，曹公自置武卫营于相府，以领军主之。及文帝增置中营，于是有武卫、中垒二营，以领军将军并五校统之。”武卫营是曹魏集团最亲近的宿卫禁兵，其设置时间，王欣夫《补三国兵志》说在建安十三年（公元二零八年）。那时曹操刚做相国，便在相府自置武卫营。当时汉帝的禁兵为数已不多，且在曹操控制之下，武卫营一成立，相府更是威重汉宫。
武卫营的统帅最初是许褚，官职为武卫中郎将，后迁武卫将军。曹魏王国作武卫将军的，都是皇帝很亲近的人。魏文帝置中垒、中坚二营，归中领军统帅，魏明帝又置骁骑，游击二营。《历代兵制》只提到武卫、中垒二营，有所疏漏。《历代兵制》说;武卫、中垒二营，以领军将军并五校统之”，也是不确的。事实上，曹魏先后置武卫、中垒、中坚、骁骑、游击等新五营，归中领军统帅；东汉以来北军的屯骑、步兵、射声、越骑、长水五营，曹魏时期依然存在，但兵员已少的可怜，五校地位已不如武卫将军等，已无可能去统帅武卫、中垒等新营。
关于魏中军的组织系统，《历代兵制》说：;有中、左、右、前军各一师，又有中护、中领军、领、护军将军各一人。其他杂号无常数。”陈傅良认为，汉的南北军到曹魏时期演变为中、左、右、前军了。其实，只有中军相当于汉的南北军，所谓左、右、前军等，显然与中军相对，可能是对留屯在不同地方的外军的称呼。
《三国志》、《资治通鉴》常有;东兵”、;东军”一类提法，都是指留屯东方的外军，左、右、前军等也是这类提法。中军的统帅，陈傅良认为有;中护、中领军、领、护军将军各一人”。历来谈曹魏兵制者，多象他一样，以为魏中军同时存在中护军、中领军与领军、护军这样一批统帅。其实领军与护军和中领军与中护军是不同时期的职官。
《玉海》卷一三七：;魏武为相，以韩浩为护军，史涣为领军，非汉官也。建安十二年，改护军为中护军，领军为中领军。”这段话与史实略有出入，但指出中护军、中领军的前身就是护军、领军，无疑是正确的。改领军、护军为中领军、中护军，是由于当时中央军在事实上已分成中军与外军，所以要在中军统帅领军、护军前冠以中字。由于领、护军改名中领、中护军后还有人沿袭旧称，载之史书，故后人往往认为领、护军与中领、中护军并存。
对于中领军或中护军中资历厚重者，可进称为领军将军或护军将军，但中军也不可能同时既有领军将军、护军将军，又有中领军、中护军。中领军是中军诸营的统帅，他亲领中领营，并兼领中军诸营；中护军在中军的地位仅次于中领军，他负责武官的选用，并亲领中护营。
留屯各地的外军，开始编制很不一致，统帅往往临时由中央委派和更换。到魏文帝时，情况发生了变化。《历代兵制》：;黄初三年，特置都督诸州军事，寻加四征四镇将军之号，又置大将军都督中外诸军，位太尉上。”
曹魏的都督诸州军事，是代表中央分驻各地的军事长官，所领是不同于州郡兵的中央军队。所谓四征四镇，是指征东将军、征南将军、征西将军、征北将军与镇东将军、镇南将军、镇西将军、镇北将军等称号，此外还有所谓四安四平将军的称号，这些都不是固定军职，而是临时赠封的称号。
从这些称号也可以知道，那些都督诸州军事的将军，是代表中央去行征伐镇压之权。中外诸军即中军与外军，;置大将军都督中外诸军”，则是以大将军统帅全国中央军，大将军成为曹魏最高军事统帅。曹魏政权是取代东汉王朝而建立的，开始仍以太尉为最高军政长官，置大将军后，太尉最重要的权力被分割，所以大将军;位太尉上”。
除了中军与外军，曹魏政权还有作为地方兵的州郡兵。东汉光武帝罢兵募士，郡国兵力十分薄弱。到东汉末年，一些州郡守割据称雄，兵力转强，多数州郡的军队则逐一消灭或兼并。曹操统一北方，大大小小的割据武装或被消灭，或被收编，北方各州郡往往只有留屯的中央军，而没有地方武装了。当时丞相主簿司马朗建议令州郡都建立地方武装，以;外备四夷，内威不轨”。
《历代兵制》：;自纳司马朗之言，复令州郡典兵，然未置尉，盖太守或刺史兼帅。”州郡兵以守备本州郡为职，必要时也应调出征。州郡兵地位比中军、外军低，;州郡都督不与中外军同......苟在中军之例，虽下功必侯；如在州郡，虽功高不封”，但地方州郡长官的权力却借此大大膨胀起来。所以《历代兵制》认为，曹魏政权的;兵权外聚于州牧，内归于大将军及太尉”。
因此后来有人上疏魏明帝，要求解除缘边州郡刺史、太守的领兵权，另外派遣大将去镇守，以免刺史、太守领了兵则;专心军功，不勤民事”，而不能;独修务本之业”。
