武衛軍已名不存，實已亡，袁世凱的野心因而可以藉機擴展。當時的北洋大臣又兼練兵大臣，袁自朝鮮回國後，就是因練兵而贏得各方稱許，如今他已掌大權，更可發揮了。於是他奏陳改革軍制，擬定「新軍募集操練規則十九條」，獲得清廷認可。派王英楷、王士珍分赴各地，精選簡募壯丁6000人，又選派武衛右軍卒業50名到日本陸軍士官學校深造，並在保定設立督練公所，把軍權集中於參謀、教練、兵備三處。每處設一位總辦，派段祺瑞為參謀處總辦，馮國璋為教練處總辦，劉永慶為兵備處總辦，王士珍為步兵第一協統兼直隸全省操防營務處督理，王英楷為總參議。袁世凱則自任全軍總統，正式改名為「常備軍」。
常備軍可以算做中國正式陸軍的開始，袁世凱計劃先編成常備新軍左鎮和常備新軍右鎮兩個軍制。每鎮轄步隊二協，馬隊一標，炮隊一標，工程隊一營，輜重隊一營。全鎮官兵共12512名。當時的軍制，所謂鎮、協、標、營、隊等於現在的師、旅、團、營、連。兩鎮為一軍，是一種戰時組織，統率這一軍的名叫總統或軍統。統制或翼長就是後來的師長，協統就是後來的旅長，標統就是後來的團長，管帶就是後來的營長，隊官或哨官就是後來的連長，幫帶或督隊官就是後來的副營長。還有一種混成協，是不同兵種混合組成的一個旅，其規模比普通旅大。
常備軍建立後，王士珍任第一協協統。其後又成立了第二協。當時袁世凱有個新規定，是「用人唯才」，因此新軍所有高級將領必須經過考試，成績最佳的出任高職。第二協成立後，舉行了一次考試，考得最高的是馮國璋，因此便由馮出任第二協協統。
袁世凱小站練兵時，他的三個重要幹部是：王士珍、段祺瑞、馮國璋，號稱北洋三傑，王是龍、段是虎，馮是狗。袁對這三傑一視同仁，不分軒輊，這是袁的統御術，要他的三個重要幹部平衡發展，以便互相牽制，便於控制。常備軍的協統由考試選拔時，王士珍和馮國璋都當了協統。因此袁對段祺瑞感到非常遺憾。在第三個協成立時，袁怕這位成績不佳的段祺瑞，仍考不上，乃在考試前把試題偷偷告訴了段，這才使段考上了協統。由於這件事使段畢生為之感動，常常對知交說他受袁宮保的私恩太重。
常備軍的成立，是袁以方面大任組織中國正式陸軍，這就是後來北洋軍的源始。
光緒卅年（1904年）以前，北洋軍已經成立了一二三鎮，由王英楷、吳長純、段祺瑞分任統制。光緒卅一年（1905年）又成立了四五六鎮。第六鎮是由「巡警營北段」擴充編製組成的。段祺瑞由第三鎮統制調為第四鎮統制，張懷芝、馮國璋分任第五、第六兩鎮統制。不久袁又將第三鎮和第六鎮兩鎮的番號互相調換，段祺瑞又被調為變更了番號的第三鎮統制。這個新的第三鎮本是第六鎮，它的前身就是「巡警營北段」，所以其中將領都是北洋各鎮的骨幹，可以算做北洋各軍中的核心部隊。這第三鎮駐防娘子關時，有一個士兵曾打了洋教官一個耳光，惹出了外交麻煩，袁乃派段芝貴接任該鎮統制，直到幾個月後事態平息，才叫段祺瑞復職。
在北洋軍不斷擴充過程中，各鎮統制經常調來調去，如段祺瑞就先後擔任過第三、第四、第六鎮的統制，這顯示袁對幹部的使用，決不讓他們自己形成一個力量，只把他們當作一張牌在打。
袁世凱雖然使用一切手段來敷衍、攏絡皇室親貴，可是隨著他的權位和勢力膨脹，皇室貴族對袁的疑忌也是日益增大。早在小站練兵時，就有滿族大臣說過袁的壞話，並且指使御史參劾袁。到了光緒卅二年（1906年）清廷中滿族排擠漢族的風潮發展到頂點，袁的處境也遭遇到空前的艱難。
這一年秋天，清廷舉行了一次著名的彰德大操，指定大操地點在安陽、湯陰、淇縣之間一個地方舉行南北新軍大演習。參加會操的，北軍是第三鎮統制段祺瑞部，南軍為第八鎮統制張彪部。這所謂的南軍和北軍，是以駐防地點來區分的。第三鎮駐防石家莊和娘子關一帶，所以稱為北軍；第八鎮駐防湖北，所以稱為南軍。這次會操時間定為一個星期。清政府派兵部大臣鐵良、直隸總督袁世凱為閱兵大臣，王士珍為總參議兼中央審判長，馮國璋為南軍審判長，良弼為北軍審判長，各省派來的觀操大員，一律被派為審判員。這種安排顯示出清廷是有深意的，閱兵大臣滿漢各一員，南軍審判長是漢人，北軍審判長是滿人。這時滿人中排漢最激烈的是鐵良。鐵良爬得很快，由道員不幾年就做了兵部大臣，其特點就是排漢，受到滿族大臣的擁戴。鐵良的重要幹部之一是良弼。良弼在滿族中也是很優秀的一個後進，他從日本士官學校畢業，回國不久就表現得不同尋常。袁慣於用私恩收買別人作他的工具，見到良弼是滿族中的人才，遂邀請他擔任第六鎮的標統。一個剛畢業的學生，一下子就做到標統，在當時是很稀有的事情，可是良弼竟薄標統而不為。
袁世凱最特出的長處就是機警，他看出滿族貴胄少壯派對他極不滿意，而他這時也沒有力量可以抗衡清政府，因此，他在彰德會操後就向清政府奏請調整軍事指揮權，建議把第一鎮、第三鎮、第五鎮、第六鎮四鎮的兵權改歸兵部大臣直接統轄，只留下駐紮直隸省境以內的第二鎮和第四鎮以尚須訓練為理由，請仍由直隸總督統轄。
袁這個建議或許是恰合時機，因為建議立刻被接納，並且立刻派滿族將軍鳳山接替袁的京畿督練新軍處會辦，同時接替袁所交出的北洋四鎮指揮權。有一個傳說是：袁這時如果不交出兵權，他很可能要遭遇到嚴重打擊。可是就在緊要關頭，他自動交出了大半數以上的兵力，使得一般反袁的人無話可說，同時慈禧仍很信任他，奕-也全力支持他。而且他手中還握了兩鎮兵權。為了安慰袁，清廷補授袁長子克定為農工部參議。
在中國近代軍事史上，日本士官系佔了極重要的地位，日本士官系並不屬於北洋派，但日本士官系的學生在北洋時代亦曾扮演了重要腳色，因此必須在此作一個交代。
原來清朝政府的建軍工作，是以甲午戰敗為其開始。日本政府為了迎接中國的建軍潮流，特在「成武學校」以外，加設「振武學校」，這兩個學校都是初級軍事學校。振武學校的主要學生，都是由中國前往日本投考軍事學校的青年。日本的軍事教育規則，初級軍事學校畢業生，必須先送入聯隊（相當於現代軍隊的團），進行下等兵至下士的實習，入伍期由半年至一年不等。這種實習在日本人稱呼為「士官候補生」。實習期滿，便以下士資格派入士官學校肄業，肄業期一年到一年半。士官學校是日本的中級軍事學校。士官畢業後仍須派回聯隊為士以上的實習，實習期由四個月到六個月，期滿後以少尉資格錄用。
光緒卅年（1904年）日俄戰爭爆發，日籍學生全體提前入伍，故士官班停辦一年。這時中國學生曾推湯爾和、鈕永建為代表，由日返國，向北洋大臣袁世凱請願，要求清朝政府不得允許外國軍隊在中國領土上作戰。光緒卅一年（1905年）日本士官學校步科第三期畢業班、中國籍學生蔣方震以第一名畢業。依照日本規定，士官學校第一名畢業生等於是武狀元，應由日本天皇接見，並親賜刀，這是一樁極大的榮譽。可是這一年的光榮卻落在中國學生身上，因此，日本人以後便規定有些課程不許中國學生上課。
日本士官的第一、第二兩期，中國學生甚少，從第三期起中國學生人數大增，後來為人所知的有：蔣方震、蔣尊簋、李烈鈞、蔡鍔、張孝准、許崇智、良弼等。蔣方震字百里，浙江海寧人，回國後和同學張孝准、陳調元同被東三省總督趙爾巽延攬，後來做過保定軍官學校校長。蔡鍔字松坡，湖南寶慶人，回國後被雲南總督李經羲延攬，後來領導護國軍討袁。良弼回國後則成為清廷皇族軍——禁衛軍的高級軍官。留日士官學生的出路都是很特殊的，不僅所獲的職位高，而且晉級也快，大多在短期內做到了標統（團長）或協統（旅長），也有做到統制（師長）的，這是由於當時清廷缺乏中上級軍事幹部，因此留日士官生便受到了重視。可是日本士官系的中國學生都具有反滿革命思想，大多數後來都參加了辛亥革命。
有一個奇怪的現象，袁世凱的北洋軍中很少選用留日士官生，所以士官生多數是在南中國活動。後來袁在民國時代做了洪憲皇帝，領導和組織反袁的人物竟多是這些留日士官系。
庚子之變後，清朝政府的建軍工作是全國性的，袁世凱北洋練兵只是建軍工作中的主要部分，其他各省也都在練兵，不過後來未能自成一系，所以沒有歷史意義。在當時全國各省練兵中，東三省是比較特殊的，東北系軍人後來加入了北洋系，在民國初年的軍閥紛爭局面中，扮演了極重要的角色。
東北是清朝的發祥地，清朝末年東北又是對日俄兩國的國防前線，所以清廷對東北是非常重視的。光緒三十一年（1905年）盛京將軍趙爾巽（駐節奉天，是清朝在東北的最高軍政長官），成立了兩個軍事領導機構：一個是督練公所，主持新軍訓練工作，趙爾巽兼任總辦，實際負責人是士官武狀元蔣方震，以總參議名義主持練兵工作；另一個是主持整頓舊軍的軍務處，由行伍出身的老將張錫鑾為總辦。張錫鑾字金坡，浙江杭縣人，他父親是駐防四川的一個舊軍官。他早年隨軍習武，騎術和槍法都很精絕，廿歲在武昌投軍，一步一步往上爬。他和袁世凱私交甚篤，是袁的老把兄。他綽號「快馬張」，那時候橫行關外的綠林馬賊是著名的紅鬍子，快馬張曾招撫了兩個著名的紅鬍子頭目，一個是後來名震全國的張作霖，另一個是馮德麟。當時規定，凡受撫的人都必須覓具殷實保人，保證日後不反，張作霖的保人是南澳鎮總兵段有恆，就是段芝貴的父親。
這時候，關外還有一支舊軍，就是在「古北口」扈駕有功，由北洋巡防軍統領升任淮軍翼長的張勳。
舊軍看新軍，一切都不順眼，尤其對那個初出茅廬的蔣方震，他那時年才廿六歲，公然就主持新軍一切訓練事宜。舊軍當然知道，如果新軍練成，首先蒙受淘汰命運的就是舊軍，因此蔣方震的練軍工作才開始了三個月，舊軍將領就推舉張作霖領頭向蔣攻擊。張作霖為人俠義，敢作敢為，他能在東北系內崛起就是因為他有膽識，這時他領頭反對新軍，公然宣稱要找蔣方震拚命。趙爾巽左右為難，一方面想保全新軍幹部，一方面又不願太壓制舊軍，乃想出一個折衷辦法，就是派蔣方震到德國深造，專研陸軍，以緩和舊軍不滿的情緒。
張勳、張作霖後來都被劃入北洋派，這是廣義的說法，如果照狹義的說法，北洋派應該是指袁世凱在北洋大臣任內編練的新軍，並不包括其他各省區所編練的新軍或舊軍在內。
兩廣也是比較特殊的地區，舊系軍人很佔優勢。在廣西省的是陸榮廷。陸字干卿，廣西武鳴縣人，也是綠林豪傑出身，受廣西提督蘇元春的招撫，後來他自己亦做到了廣西提督，和張勳是同一時期在蘇元春下面做管帶，彼此曾義結金蘭。這兩個把兄弟隨後分道揚鑣，張勳向北方發展，而陸榮廷則始終留在廣西，成為地方勢力。
與陸榮廷齊名的還有一個龍濟光。龍濟光是雲南蒙自人，他的哥哥龍覲光是雲南蒙自的世襲土司，被雲南總督岑毓英提拔離開蒙自去作外縣知縣，土司職務遂由龍濟光繼任。過了幾年龍濟光也離開蒙自，外出做官，慢慢地竟爬到廣西右江道。就在這個期間，龍和陸榮廷不但結成朋友，而且還結為兒女親家。這時候的廣西藩司是張鳴岐，也和龍濟光很有交情，待張鳴岐升到兩廣總督時，龍濟光也得張的援引做到廣東提督。張鳴岐用龍濟光的原因是要龍來抵制跋扈的廣東水師提督李淮，就由於這一調動，使龍濟光獲得在廣東擴展勢力的機會。
陸榮廷和龍濟光分別在廣西和廣東建立他們的勢力和軍事力量以後，他們都和袁世凱發生了關係，龍濟光被列為北洋派的南方健將，和張勳、張作霖被列為北洋派的北方健將一樣。
在狹義的北洋派中，除了北洋三傑外，當時已嶄露頭角的人物，還有：
王懷慶字懋宜，直隸寧晉縣人，在武備學堂畢業，他是小站舊人。盧永祥字子嘉，山東濟陽縣人，是早期北洋軍第三鎮第五協協統。陸建章字朗齋，安徽蒙城縣人，也是武備學堂的畢業生。此人是馮玉祥舅父。姜桂題字翰卿，安徽亳縣人，行伍出身，曾充任僧格林沁的衛隊軍官，後來率領淮軍隨左宗棠到新疆，甲午中日戰爭，他曾在旅順參戰不利，戰後被派往小站統率新建陸軍的左翼，他是北洋軍中年齡最大的一個宿將。和姜桂題一樣是行伍出身的還有前面所提到的張勳，也是起自兵間。倪嗣沖，字丹忱，安徽阜陽人，秀才出身，也屬於小站練兵時的雜牌將領之一。段芝貴字香巖，安徽合肥人，北洋武備學堂出身，曾拜袁為義父，有干殿下之稱。王占元字子春，山東冠縣人，馬弁出身，被挑選入武備學堂。曹錕則是布販出身。上述諸人雖然出身不同，但大多數都在武備學堂受過軍事教育，只有行伍出身的張勳和姜桂題以及倪嗣沖始終沒有進過軍事學校。張勳字紹軒，江西奉新人，幼年在河道總督許仙屏家中做書僮，因偷東西被逐，乃投奔廣西提督蘇元春處做廚師，為人善於諂媚，一步一步升到管帶。八國聯軍時扈駕有功，升淮軍翼長、雲南和甘肅提督。
清朝末年編練新軍時，其步驟是一面練新軍，一面裁汰舊軍，並且逐步以新軍代替舊軍。由於這個決定，對於舊軍來說，是非常不滿的，任何人無論自己如何愚笨，總不願自甘受淘汰，所以面臨這種命運，他們內心的憤激是可以想像的。
當舊軍尚沒有完全裁汰以前，清朝政府按照新舊軍不同的性質和任務，分別編為中央軍和地方軍。中央軍有一定的番號，但無一定的防地，編製比較正規，軍器比較精良，軍餉也比較優厚；地方軍則仍舊沿襲綠營、巡防營、毅軍、殿軍等等名號，駐防地區是固定的，可是無論軍餉、軍械、編製都遠遠不及中央軍。由於這種待遇上的差別，便引起了新舊軍的極大矛盾，從矛盾的擴大而相互敵對。東北奉天新舊軍的互相敵對，就是一個明證。後來清室動搖，新軍除了北洋軍外都傾向革命，而舊軍將領則仍擁護清室。所以終清一朝，舊軍竟沒有被裁汰，便是因為舊軍是忠於清室的。
各省練新軍，按照清廷規定，凡已練成協（就是後來的旅）以上者，就可以在省城設立督練公所，下分兵備、參謀、教練三處，由督撫為總辦。
全國陸軍成立卅六鎮，按省分配，限期編練。其分配和次序為：近畿四鎮，直隸兩鎮，山東一鎮，江蘇兩鎮，江北一鎮，安徽一鎮，江西一鎮，河南一鎮，湖南一鎮，湖北兩鎮，浙江一鎮，福建一鎮，廣東兩鎮，廣西一鎮，雲南兩鎮，貴州一鎮，四川三鎮，山西一鎮，陝西一鎮，甘肅兩鎮，新疆一鎮，熱河一鎮，奉天一鎮，吉林一鎮，黑龍江一鎮，合共卅六鎮。這就是清廷編練新軍以之成為正式國防軍的全貌。卅六鎮番號原定自近畿第一鎮起，完全依照各省省份大小和省區遠近挨次編列，後因各省新軍的編組成立遲早不一，所以又改為每鎮組成的先後為各鎮的次序。每鎮下轄兩協，所以卅六鎮就成為七十二協，其番號亦按次序，如第一鎮就是第一協、第二協，第十鎮就是第十九協、第廿協，第卅六鎮就是第七十一協、第七十二協，以此類推。
新軍的服制和舊軍不同，陸軍的軍常服以軍帽和肩章分為三等九級，軍帽正中以齡蟠珠為征，珠的顏色則和文官頂戴分別一樣，帽牆綴金辮，以寬窄金辮之多寡為階級高下之分，肩章則以金辮一、二、三條，金星一、二、三顆表示三等九級，上等一級是金辮三道，金星三顆，中等三級是金辮二道，金星一顆，由此可以類推，領章則以顏色分兵種。
光緒卅三年（1907年）北洋的六鎮已很完整，其他的卅鎮則仍在編組中。北洋六鎮情況如下：
第一鎮是原京畿第一鎮，即京畿常備軍，駐地在北京，統制是鐵良。
第二鎮是原北洋常備軍第一鎮，駐地在遷安、永安一帶，統制是王英楷。
第三鎮是原北洋常備軍第三鎮，駐地在保定，統制是段祺瑞，後易曹錕。
第四鎮是原北洋常備軍第二鎮，駐地在小站馬廠，統制是吳鳳嶺。
第五鎮是原駐山東的北洋常備軍第五鎮，駐地在山東濰縣一帶，統制是吳長純。
第六鎮是原北洋常備軍第四鎮，駐地在南苑，統制是段祺瑞。
前面曾說過，袁看到清廷滿族親貴對新軍眼紅，所以把第一、第三、第五、第六四鎮的兵權交出。可是不久他又出了一個新花樣，他建議把東三省的官制改成和各省一樣，把盛京軍務名義取消，改為東三省總督，同時向慈禧保薦民政尚書徐世昌出任第一任的東三省總督。袁的另一位老朋友唐紹儀出任奉天巡撫，袁系的朱家寶出任吉林巡撫，有袁乾兒子之稱的段芝貴出任黑龍江巡撫。這一來袁系的大將徹底地掌握了東北，而徐世昌借口國防重要，要求調第三鎮出關，駐防於長春南嶺和黑嘴子一帶。第三鎮是當時北洋軍中最精銳的一鎮，當時第三鎮的統制段祺瑞已轉任第六鎮統制，而第三鎮統制則由曾經做過布販子的曹錕升任。
這時東北舊軍張作霖和馮德麟也已經由管帶升任為巡防營前後兩路統領，駐防新民屯一帶。
徐世昌在宣統三年（1911年）內調郵傳部尚書，遺缺由雲貴總督錫良（蒙古人）繼任。他攜帶了軍事幕僚陳宦赴任，同時自北洋諸鎮中各調一部合編為第廿鎮，統制就是陳宦。陳宦是湖北人，以苦學出身，和第六鎮統制吳祿貞，第二混成協協統藍天蔚號稱為關外的湖北三傑。
錫良只做了幾個月的東三省總督，因病辭職，遺缺由四川總督趙爾巽回任。這時陳宦被派到德國考察軍事，第廿鎮統制由士官生張紹曾接長。趙爾巽又把從德國研習軍事歸來的蔣方震找回擔任總參議。這時在東北士官學生很得意，有蔣方震、張紹曾、吳祿貞、藍天蔚等。新軍羽翼甚豐，蔣方震亦不怕張作霖來找他算帳了。
光緒卅三年（1907年）七月，袁世凱已經做了五年零九個月的直隸總督和北洋大臣了，他雖然用盡心思去應付滿族親貴的猜忌，可是排漢的滿人對他仍不放心，尤其對他握有兵權的職務不放心，因此他便被解除了直隸總督職務，有旨補授軍機大臣兼外務部尚書。這個命令發表的同時，湖南總督張之洞也被任為軍機大臣。清末的軍機大臣就是樞臣地位，張之洞、袁世凱是當時漢旅的兩大名臣，同日拜命入閣，也是一件大事。可是對袁世凱來說，這種調升實在是解除他的兵權，是一種削權的舉措。
袁的兵權始於小站練兵，獲得信任於戊戌政變，壯大於義和團之變，而完成於直隸總督任內。如今他羽翼已成，袁黨各據要津，都抓住了精銳的部隊，在此時來削弱他的力量是很難的。
袁奉命入閣時，堅請辭職，清廷當然不准，只好入京就職。這時首席軍機大臣是慶親王奕-，奕-對袁還好，加上慈禧對袁的寵信不衰，所以袁還能站得住，只是他和張之洞相處不很融洽，兩人個性和政見都有極大的距離，時常在公事房中鬧得很僵。
袁在軍機大臣兼外務部尚書任內才一年半的時光。這一年半中，袁依違其間，無所建白，所辦各項交涉，多有喪失權利者。在他一生中，這一段時間最沒有成就。