接下來的幾天是長水、胡騎兩營準備北上的日子，朝庭上下都忙碌起來，北征部隊所需的一切都有各個部門加以準備，不僅是糧食、武器要運走，還要徵調大量的兵夫，好在皇上有旨，要所有人員都要竭盡全力的匈奴中郎將。這匈奴中郎將是霍光的新職務，新設立這個職位也是不得已而為之的，漢朝軍職最高的是大將軍，其次是驃騎將軍、車騎將軍、衛將軍，再下就是前、後、左、右將軍，然後各種雜號將軍，什麼樓船將軍，強弩將軍等。霍光的資歷使他無法擔任驃騎、車騎或衛將軍的職位，即使前、後、左、右將軍也不適合，而北疆的荀彘是左將軍、蘇建曾是右將軍，所以封他個雜號將軍也不合適。後來劉徹乾脆新設了匈奴中郎將的官，專門代表皇帝坐鎮長城，統一各部對匈奴的戰鬥，因為霍去病的威望，北疆的將領自然對霍光不會有什麼不滿。
雖然事情很多，霍光卻把這些事情都交給了胡騎校尉趙安嵇和長水校尉田仁，自己則把長安城中所有的高級將領轉了個遍，就連臥病在床的僕多都沒放過，請教了一系列有關征戰的問題，包括匈奴常用的戰術，匈奴騎兵的常用裝備，以及有關的戰法、補給等情況，最後他來到了大將軍衛青的府邸。
當霍光給衛青行完禮之後，衛青就把他帶到了後院一個大屋子裡。霍光從未到過這裡，他進屋一看，這間屋裡擺滿了各種旗幟、兵器、防具，不僅掛滿了四面牆，幾個大架子上也擺滿了各種裝備，不過這些裝備多數都是極普通的漢軍常備兵器，許多上面還有陳年的血跡。霍光輕聲問道：「舅舅，這些是……？」
衛青沒有急著回答，先在屋子裡轉了一圈，像是在參觀別人的房間，半天才說：「這些是我一些老部下生前用過的東西，我一直保留著，每天都來看看。」
光明白了，這是衛青在懷念他過去的戰友。
「來吧，」衛青打起精神，從架子上取下兩幅地圖，他把其中的一幅展開，鋪在中間的桌上，對霍光說，「你今天不就是想問問他這仗該怎麼打嗎？我就告訴你。」
霍光定睛一看，這是一幅大漢北疆和匈奴的地圖，地圖上清楚的標明各主要關隘、軍營、水源、城池，這些也是霍光這兩天看的最多的東西。
衛青用手掃了一下長城一線，對霍光說：「你的任務就是守住長城一線，至少要保證今明兩年不讓匈奴有機會進我長城腹地。」說到這，他轉過臉來問霍光：「你打算怎麼做？」
霍光早已成竹在胸，指著地圖說到：「我準備放棄長城以北地區，用北疆的步卒在長城設立兩道防線，一是由邊軍防衛長城的各個隘口，再由各郡國兵守衛各個城池，騎兵居中接應。」
衛青聽了點點頭，又問：「如果匈奴多股騷擾你怎麼辦？」
「集中優勢騎兵，吃掉其中的一股或數股。」
「那要是匈奴主攻右北平和漁陽呢？」
「北疆騎兵留在五原、雲中一線，長水和胡騎兩營前去增援。」
「要是敵人又出現在雁門、代郡，或是出現在朔方，你怎麼辦？」
「那……」霍光有點愣住了，他不是沒考慮過這種情況，不過此時他發現自己在被匈奴人牽著鼻子走，他的部隊如果一分再分，那根本就無法發揮騎兵的優勢，有可能被敵人個個擊破。
「那我是不是應該一路或兩路出兵匈奴北庭，迫使他們回兵，再伺機而動？」
衛青搖了搖頭，說：「如果是幾年前，或是現在南方已經平定，這是一個好辦法，但是現在不行。過去你哥哥多次出擊，雖說最多時只有數萬騎兵，可他有其他幾路人馬策應，吸引了匈奴的主力，而且他的身後是幾十萬步卒和民夫，讓他沒有後顧之憂。可是現在北軍八營只有兩營出征，朝庭也不可能提供足夠的糧草和民夫，所以你再去深入匈奴腹地，那就是孤軍深入了。」
霍光遲疑了，嘴裡喃喃地說：「難道就讓他們四處出擊，隨心所欲的攻擊我們？」他凝視著地圖，思索著，半天沒有說話，衛青也沒有再問什麼，只是靜靜地等著。
終於，霍光指著長城以北說：「我是不是應該把騎兵放在這？」
「為什麼？」衛青問。
霍光又找回了自信：「我的騎兵在長城以北，匈奴就不可能全力攻城，我軍可以在他們攻城的時候繞到他們的背後突然發起攻擊，那樣他們就會腹背受敵。而且憑借那裡已有工事，也不會擔心遭到匈奴人的進攻，只是……」說到這，霍光遲疑了一下，他還有些問題搞不清楚。
「是不是擔心匈奴人給你下個套，吃了你的騎兵？」衛青在一旁插話道。
霍光點點頭，衛青笑了，他拿出第二幅地圖並展開，鋪在了第一幅的上面。霍光一看，這是一幅大漢和匈奴整個疆域圖。這次衛青沒有問他，直接對他說：「現在我朝準備對嶺南地區用兵，而且東北和西北邊境也不太平，不過你不要忘了，六年前失敗的一方可是匈奴人，現在我們的日子不好過，他們的日子就更難過了，現在他們的兵力不足，還要對付北部大大小小的部落，所以他們對我們的進攻有限，無法同我們進行決戰，他們的目的就是壯大自己的力量，或者說是做給那些小部落看的。你的騎兵有五萬，匈奴人沒有十萬騎兵是不可能迅速吃掉你們的，而且騎兵的作用在於威懾，即使你什麼也不做，匈奴人也要分兵監視你，這樣他們根本沒有過多的兵力去攻城。」
霍光還不放心，又問：「難道他們就不會全力攻城，打開一個缺口衝進來？」
衛青搖搖頭：「他們耗不起，就算我們十萬步卒都完了，最多一年，甚至幾個月就能補充回來，可他們這五萬騎兵要是沒了，別說大漠以南，就是大漠以北他們也不一定能守住。」最後他又提醒霍光，「你記住了，匈奴人不管進攻哪裡，少於十天千萬別救，長城各個關隘都能堅守半個月以上，主要關隘能守三個月，如果他們是真的進攻，過了十天他們也會筋疲力盡，根本擋不住你的騎兵的一次衝鋒。」
霍光深施一禮：「謝舅父教誨。」
衛青送霍光出門，一路上還在對他說：「為將者，可以只看自己，但你現在為帥，一定要想到全局，不能因為衝動而做出錯誤的決定，要知道，你的肩上擔負著十數萬人的性命，關係到北疆數百萬人的安全，千萬不能一時貪功而鑄成大錯。」
從大將軍府出來，霍光並不輕鬆，按照大將軍的分析，這場勝利唾手可得，只要自己全力防守、按兵不動就能使匈奴人無功而返，這樣做可令當今天子滿意，讓朝堂上許多重臣滿意。可這樣一來他的部下們會怎麼看？也許憑借自己哥哥的威名，他們不會說什麼，但所有的人都會拿他和他哥哥冠軍侯霍去病去作比較，他想建功立業，不想一輩子生活在哥哥的光環下。因此，他現在非常矛盾，大將軍的話讓他更加清楚地看到當前的形勢，但也讓他更加困惑，他需要做的是在個人榮譽與國家利益之間做一個取捨，為了自己的榮譽是否應該拿國家的利益來賭一把？他現在唯一能提醒自己的就是：小心行事，隨機應變！
由於這次出動的全是騎兵，所以北上速度很快，到了四月中旬，全軍主力已經到達五原前線，附近將領紛紛迎接，路遠的也派了副手前來。
霍光在自己的帥帳中召開了第一次軍事會議，一是與各將領熟悉一下，二是瞭解一下當前的戰場情況，商討對策。