盧俊義從這些草草造就的海軍上面開始制定日後的軍制。
一開始盧俊義在改造軍制時尊重了宋朝和以前的漢唐時期的傳統，沒有改造的非常突兀。但是後來轉念一想，前面的不一定就是正確的，如果它是正確的，為什麼他們的軍制沒有幫助他們獲得成功呢，為什麼後人要改掉它呢。歸根結底，盧俊義想跟這個時代孱弱的宋軍有所不同，也想到這是屬於自己的軍隊，自然要使用自己熟悉的軍制。但是又一想，在這宋代，不但要讓自己清楚，還要讓其他將領習慣明白，所以也適當引入了宋軍的編制。
宋朝時禁軍編制是，五十人為一隊，兩隊為一都，五都為一指揮，五指揮為一軍，十軍為一廂。這種軍制有很大的問題，一個隊的規模太大，最基層的隊正往往是普通士兵選拔來的，他無法一下子指揮五十個人，兩隊化成一都，那都頭很容易被隊正給架空，然後十軍為一廂，那廂主掌控的也太多了。這樣的編制一定要改。
盧俊義針對這個時期基層軍官很難培養的特點，並沒有採用後世的三三制，而是採用了明朝的四五制。盧俊義將自己的軍隊分為下列幾級，伍、隊、都、旗、營、師、軍。這是他自己的軍隊，他是要造反的，不用在乎什麼私改軍制的罪名。
一伍自然是五個人，統領為伍長，一名，靠士兵推選。
一隊四個伍，二十人，正副隊長各一名、一名監軍。
一都五個隊，一百人，正副都頭、正副監軍各一名。
一旗四個都，四百人，設有一個旗正和兩名旗副、正副監軍各一名。
一營五個旗，二千人，設有一指揮和兩名副指揮、一個正監軍兩名副監軍。
一師五個營，一萬人，設有一師長和三名副師長、一名正監軍三名副監軍。
一軍五個師，五萬人，設有一正軍長三名副軍長、一名正監軍三名副監軍。
各級隊伍的順序按照編碼從第一到第二，以此類推。
其中監軍跟後世的政委指導員的性質一樣，跟這時候的監軍的性質則截然不同，不再像皇帝特使監督將帥、動輒干擾將帥用兵之法，行軍作戰他管不到，但是其他方面如同後勤內需、將士的生活思想狀況都需要他來管，要從他這裡開始為將士們做思想心理輔導，杜絕後世綿延不絕的兵變、炸營等各種內訌情況；另外鑒於盧俊義此時手下智謀之士甚缺，也暫定各級的監軍有聯絡軍情部搜集情報、分析情報、參贊軍機、給各級將領出謀劃策之責，但必須不得掣肘，如有爭議，速報總部解決。
目前劃分的職能部門只能按照戰爭時期的安排，共分作統帥部、政治部（掌控監軍和負責宣傳）、後勤部、裝備部、軍情部，各部掌管人選暫定為：統帥部和政治部由盧俊義親自掌管，直接領導各級將領和各級監軍，許貫忠做為他的副手，統帥部內部設有參謀處，由許貫忠和朱武負責參贊軍機。後勤部和軍情部由燕青掌管，分別有蔣敬和時遷做為他的副手；裝備部由許貫忠掌管，湯隆做為副手。上述部門一把手負責決策，真正負責日常工作的是二把手。日後有更多的人才進來後，便再做調整。
大兵種的設置，像陸軍不用多說那是重中之重，海軍還在籌建，那空軍要不要呢？空軍？這個時代沒有飛機啊，哼哼，是沒有飛機，但是有鴿子有各種大雕有風箏啊，訓練軍鴿的也安排進空軍裡，訓練一些可以騎乘的大雕，偶爾可以冒險前去窺測敵營，甚至可以趁著天氣的配合，空投時遷這樣的人物去敵營裡放火擾亂，當然是上下一起配合，這空軍有幾百人就了不起了，等到過上幾十年能有簡易的飛機就可以大規模裝備了。
至於炮兵呢，日後籌建出來就單列一種，必要的護炮隊伍一定要有，不能重蹈凌振炮擊梁山反被擒獲的慘事。炮兵大部分會支援陸軍，少部分也會安置到船上，在海上稱王稱霸。
在密州訓練的這一部分水兵有兩千人左右，問題來了，這麼大規模的人員調動不會驚動官府嗎？那是因為這兩千人招募來給官府的理由一部分是為了造船，一部分為了護航出海，再給相應的官員塞點錢財，就輕易過關了。
這兩千人裡面中有一百人是原來俊義武館培養出來的近衛軍士兵，他們都是會水的人，又經過盧俊義等人的洗腦，現在過來充實海軍的基層軍官隊伍。這些人裡面有六七十人做基層將領，有三四十人則充當各級的監軍之職。盧俊義在這裡詳細闡述了自己設置監軍之職的用意，希望他們能把在俊義武館學到的東西用出來，能夠很好的做好水兵們的思想心理工作，同時盡力協助相應級別的將領搞好軍機參贊。
這兩千人自然是成一營，正指揮是李俊，張順等人都佩服他，他除了一身武功冠絕這些人之外，還擁有一定軍事造詣，對水戰有一定瞭解，很有領導能力和威望。副指揮則是張順和盧俊游，下面的旗正則有張橫、李立、童威、童猛、孟康五人擔任，其中盧俊游和孟康只是掛銜，他們的具體工作則有盧俊義派出比較通曉海上事務的盧家子弟盧大海、盧大洋來負責，這兩個人是盧家旁支，但在海上做貿易多年，來擔當這樣的工作子自不在話下。
這一支海軍幾乎完全被李俊掌控，而且盧俊義想到原著裡李俊日後能離開梁山隊伍到日本稱王稱霸，這一點無論盧俊義如何地用人不疑都不由得有些忌憚。幸好李俊有些政治智慧，將自己所有能遷移的親戚宗族都從江州接過來安置在大名府，在盧俊義的監控下。
提到這一點不由不讓人心懷寒意，然而這一點又是如此的現實，讓人不得不去面對。同時盧俊義將整個水軍營上下的基層將領和監軍都安置為從俊義武館出來的人，即便李俊在海上多年萌生異志，也無法把已經在思想心理上被盧俊義控制的水兵們激發起來。這些水兵經過這些監軍們的洗腦後，知道自己聽從誰的命令，該效忠誰還有誰給他們陞遷獎賞的，前者是將領長官，只需要在訓練作戰是聽從就好，但是後者是主公，需要全身心的投效。
盧俊義跟這些未來的海軍官兵們一起演習操練了半個多月，在這些水兵心中留下了光輝的難以磨滅的形象。同時盧俊義也把後世的海軍操練演習之法教授給了李俊等人。這個時侯湯隆督造的大船的鐵皮和尖頭，以及海軍必備的弓箭弩機朴刀等一系列武器也在陸陸續續的做出來，然後依次運到了密州。但大船的安裝鐵皮和其他一些調試維護工作還是很需要時間，士兵的訓練還不是很到位，所以還是需要一兩個月後才能揚帆出海。
盧俊義也只得返回大名府去解決一些已經積壓了許久的事情。密州的事宜呢，文的交給盧俊游，武的交給李俊，讓他們在這裡便宜行事，等到準備出海之前通知盧俊義來密州做一次總動員和慶祝典禮。