唐代是中国封建时期最强大的朝代之一，也是当时世界上最强盛的帝国。而唐代之所以那么牛，和其拥有一支强大的大军密不可分。
唐代大军前期沿用了从南北朝时期创建的“府兵制”，该制度最大的特点就是实现了兵农合一。国家将部分国有土地授予给农民耕种，而作为回报，农民就要对国家承担服兵役的义务。农民成为府兵后，平时在家以耕种务农为主，农隙时前往军中接受训练，一旦有战事发生则要从军打仗。对国家而言，府兵制最大的好处是可以用极低的成本维持一支庞大的大军。对农民而言，在没有发生战争的情况下，当一名府兵既可以免除税赋(唐代时期当兵的家庭可以享受免税的恩惠)，在大部分时间里又可以和家人在一起。也是非常理想的。
贞观十年(公元636年)，唐太宗李世民设置折冲府作为大军的基层组织。折冲府分上、中、下三等，上府一千二百人(有时增至一千五百人)，中府一千人，下府八百人，折冲府中的兵员全部为府兵。折冲府的结构为十人一伙，五十人一队，一百人一旅，二百人一团。这些府兵中既有骑兵，也有步兵。他们需自备武器、干粮。而折冲府的武器库中则会向他们供给甲胄和复杂的武器。
当时全国共有折冲府约633个，总兵力超过60万人。其中有261个折冲府位于关内道(唐代的京畿地区)，其余的大多分布在河东与河南西部的洛阳附近，其他地方的折冲府很少。
京畿地区的折冲府隶属于“十二卫”，十二卫中的大将军在名义上可以管理其归属下的府兵。但如果有战事发生，皇帝会另外选派临时的行军大元帅作为最高指挥官。因此，十二卫、行军大元帅以及地方州县长官互相制约，没有人能够单独控制大军，天下兵马大权仍牢牢掌握在皇帝手中。
除了府兵之外，唐代大军中还有专门负责守卫宫禁的北衙禁军，专门守卫边疆地区的边防军，以及由各州刺史统掌的团结兵。
北衙禁军直接隶属于皇帝本人，士兵全部是招募而来，兵员素质较高，很多都是贵族家庭出身的子弟;边防军一般也采用募兵制，士兵都是职业军人，其战斗力要明显强于府兵;团结兵是不长期脱离生产的地方武装，相当于现代的民兵。团结兵不入军籍，军事任务结束即回乡耕种。不过，北衙禁军、边防军、团结兵都是作为府兵的补充。唐代前期国家的主要军事力量还是府兵。
从唐代中期开始，土地被大规模兼并到权贵阶层手中。失地的农民越来越多，所以府兵逃散的情况也日渐增多。此外，战事频繁、兵役繁重也导致百姓们逃避到军中服役。唐玄宗为了增强军事力量，改用募兵制招募大军，府兵制逐渐名存实亡。
