唐高祖李淵稱帝之後，他命蔣國公兵部尚書屈突通和左屯衛大將軍李靖等人修改唐朝初年的「府兵」制度。
若說起這個「府兵」制度的由來，還必須從西魏和北周時期說起。
隋朝沿習西魏和北周時期的「府兵」制。打個比方說，那就是「府兵」制的完善，經歷了從簡單到複雜的演變過得，至隋朝三十七年的封建統治已成為更加完善的一種徵兵制度。
在西魏宇文泰時期，他為了同北齊的高歡對抗。在長期的戰爭中，他聽取大臣蘇綽的建議，創立了「府兵」制度。
他選拔體力合格的民眾充當府兵。府兵可免去自身的租庸人頭稅。他們這些「府兵」制人員在每年的農閒時節，可由朝庭的軍事機構派員對他們進行軍事訓練。
府兵中的一人所用馬匹、糧食和武器，由六家農戶所供給。
「府兵」制共設有百府。每府設一郎將，分屬二十四軍統領。
在西魏時期最高的將領是宇文泰以及漢人李弼（李密的祖父）、李虎（李淵的祖父）、趙貴等八人，他們號稱「八柱國」。
在「八柱國」中總督內外之諸事務者是宇文泰。元欣是魏室皇親。他不掌管軍事。其餘的六位上柱國，每人可統領兩個大將軍。共設有十二大將軍。其中，漢人中有李遠、楊忠（隋文帝楊堅的父親）、王雄等人。
每一將軍各統領兩個開府。每一開府統領一軍。府兵都是一些漢族人士。
屈突通和李靖等人就在隋朝的「府兵」制的基礎上實行大膽的改革。
在四月的天氣中，長安城內和煦的春風將大唐王朝的一種百廢待新、要在戰爭的廢墟上建立一個強大的王朝的新氣象，送入到了隋朝設在兩儀殿中的檔案館內。
此時，屈突通和李靖等人正在一堆書籍前忙碌地按卷查閱歷代的「府兵」制軍隊編成等歷史文獻。
他們要將新興的大唐王朝從民眾中擴充兵員，即將著手新的國家在建立之後，要擴充大量的軍隊，實施全面的統一中國的戰爭，為在軍事理論方面先行，為建立一支強大的「府兵」制的軍隊，他們幾個人就在檔案館中認真努力地工作著。
現披露唐代「府兵」制修定之內容——
唐代的「府兵」制是屬於中央集權制度所領導的機構，主要統領十二衛。有一小部分屬於東宮太子所統率。
「府兵」制的基本單位是設在各地的折衝府（亦稱兵府、軍府），由折衝都尉和果毅都尉（有軍功的驍勇之軍官）所統領。
折衝府之下有團，每團二百人；團下有旅，每旅一百人；旅下有隊，每隊有五十人；隊下有伙，每伙有十人。
折衝府有上、中、下三等：上府有六團，統領士兵一千二百人；中府有五團，統領一千人；下府有四團，統領八百人。在全國所設置的折衝府最多時可達到六百三十四個。折算下來將近有府兵三四十萬人。
府兵的來源，由軍府所在地從「六品以下子孫以及白丁無職役者」中挑選。每三年挺拔一次。徵選的原則是，「財均者取強，力均者取富，財力又均，先取多丁」。
府兵要從二十一歲服役至六十歲免役，實行終身制。直到唐天寶年間由唐玄宗楊隆基為了平叛「安史之亂」，被迫無奈由「府兵」制改為「募兵」制。唐代初期所制定的「府兵」一度不再沿用。