隋唐兩朝的軍隊，以府兵為主。府兵始于西魏，當時兵士及其家屬的戶籍屬于軍府，稱為軍戶。入軍戶后，世代為兵，非經免除，不得脫籍。隋文帝于開皇十年(590)取消軍戶，兵士除有軍籍外，還同其家屬列入民籍，由州縣管轄，同民戶一樣依照均田法令請占土地。這樣，府兵制便和均田制結合起來，成為寓兵于農、兵民合一的兵役制度。取消軍戶后，府兵可以從一般民戶中挑選，擴大了國家的兵源。府兵的征發年齡，隋代是二十一至六十歲，唐代是二十至六十歲。府兵輪番到京城宿衛，叫番上。番上的府兵，稱衛士，免去本人賦役。唐代的番上制度是：“五百里內五番，五百里外七番，一千里外八番，各一月上。二千里外九番，倍其月上。”番上是保衛朝廷，需要精壯和可信賴的士兵。因此，一府之兵僅五分之一有資格當衛士，如有兵千人之府，其中二百人為衛士。五番，即將二百名衛士分為五組，八番分八組，每組宿衛一月輪換；九番分九組，兩月一輪換。這樣，一千府兵中，五番每月四十人、九番每月二十二人服兵役，對生產影響不大。遇有戰事，征發在役年齡的府兵，命將出征，戰爭結束，兵散于府，將歸于朝，使將帥不能長久專兵，以保證軍權集于皇帝。從征時間，超過役期，免去租調。唐太宗整頓府兵后，府兵建制更完備。當時，折沖府的組織與編制，已成定制：十人為火，五火為隊，二隊為旅，二旅為團，團上是府；府分四等，上、中、下府各轄六、五、四個團，每團兩個旅，特府轄五個團，每團三個旅。府上是衛、率，衛設大將軍一人、將軍二人，率設率一人、副率二人。隋代軍府隸屬于十二衛和皇太子東宮十率；唐貞觀間，全國分布六百三十四個軍府，由十二衛和東宮六率分別統領。隋唐軍府的組織系統與各級軍職名稱、品級略如下表：

府兵制下的兵士，就是均田制下的農民，通過均田制來鞏固府兵制，使隋唐兩朝的軍事力量空前強大。到唐玄宗時，土地兼并日益加劇，均田制被破壞，府兵制也隨之瓦解，為募兵制所代替。這說明，府兵制不是隋唐唯一的兵役制度。另外，隋代有稱作羽林、佽飛的禁軍，同府兵共同擔任京城宿衛，唐代邊疆有軍、城、鎮、守捉(長官皆稱使)等名目的鎮戍兵，還有戰時臨時招募的猛士，皆非府兵一個組織系統。因此，不能把府兵作為隋唐整個兵制來敘述。關于唐代兵制，見于《新唐書·兵志》。對府兵制度研究的專著有谷霽光的《府兵制度考釋》和岑仲勉的《府兵制度研究》(上海人民出版社1978年和1982年版)。