月，宋金剛率定楊軍數萬圍攻晉陽，李元吉率領城內城死守，晉陽內的存糧足夠數萬唐軍一年所用，晉陽城牆高大，護城河之水既深又寬，在定楊軍攻打榆次之時，李元吉就在晉陽城外廣挖壕溝，建築高壘，並於晉陽東門修建了兩座軍營，與晉陽呈犄角之勢，協助城內守軍防守。
宋金剛率軍來到晉陽城下，為了能夠攻下晉陽，他命令部隊向那兩座唐軍大營發起了猛攻，唐軍大多由晉陽的本地人組成，深知若是晉陽被賊寇一般的定楊軍攻破，家中的一切將無法保全，故而，面對定楊軍的猛攻，他們拚死作戰，絕不後退。
花費數日的功夫，折損了數千人，就連剛剛投降了定楊軍的原唐軍將領張達也死在了某道營壘之前，定楊軍宋金剛部仍然沒能攻進唐軍這兩座大營，最佳的一次戰果也僅僅是攻到了其中一座大營的寨棚前而已。
李元吉雖然狂妄無知，性情暴躁，卻也並非無能之輩，何況，李淵也給李元吉留下了不少能人，協助其鎮守晉陽，像宇文這樣不識時務自以為是忠臣的傢伙畢竟還是少數，對大多數的人來說，他們為李家賣命，不過也是混口飯吃而已，所謂的忠誠就是食人之祿，忠人之事，他李家的江山，他李家的人願意折騰，其他人又何必多事呢？
不過，面對定楊軍地攻擊。他們就不會視若無睹了。
晉陽是他們這些人家族的立身之地，定楊天子劉武周可不是唐皇那樣寬厚仁慈，知根知底的大人物。
當初，劉武周在馬邑任鷹揚府校尉，在馬邑太守王仁恭麾下任職，王仁恭對其格外信任。將府邸的安全也交給他看守，不想這傢伙卻和王仁恭的小妾勾搭起來，並且，乘天下大亂時，陰謀發動兵變，殺了王仁恭，奪了馬邑。
如此忘恩負義的傢伙，縱然一時得勢。也不會長久，現在，只不過是依仗突厥人之勢才如此猖狂，一旦時局變幻，失去突厥人地，他也只能敗亡了事。
所以，面對來勢洶洶的定楊軍，晉陽城內，卻很難出現投降的意頭，為了保衛家園。為了財富不被城外的豺狼奪去，他們只能團結在以齊王李元吉為核心的并州府文武大員麾下，奮力作戰，與城外的定楊軍進行殊死的搏殺。
久攻晉陽不下，宋金剛營中缺糧，馬邑。雁門兩郡地處邊塞，土地貧瘠，要想供應數萬定楊軍長期作戰，乃是一件不可能完成的任務。
面對這樣地局面，只有三個解決方法，第一就是率領大軍北返，退回馬邑；另一個解決方法就是盡快攻下晉陽，奪得晉陽的糧草補給；最後一個辦法就是另尋蹊徑。放棄難以攻克的晉陽不打，轉而南下，進取并州，河東之地。切斷晉陽和關中的聯繫，使其成為一座孤城，然後再徐圖之。
五月中，宋金剛突然從晉陽城下撤軍，率領大軍徐徐向南進發，其作戰意圖已經非常明顯了，宋金剛簡直就是大搖大擺遞在李元吉的面前揚長而去。
李元吉見宋金剛不但沒有知難而退，反倒繼續南下，簡直視晉陽的數萬唐軍如無物，他心中大是惱怒，不顧左右的勸阻，一心要親自率軍出城追擊，最後，在左右，特別是表兄竇誕的苦勸之下，這才放棄了親自帶兵的出城追擊的打算，只是，仍然派遣了一員大將率領一萬精銳出城追擊，攻擊定楊軍地後隊。
在唐軍的突然襲擊下，定楊軍的後隊很快就崩潰了，然而，就在唐軍追擊想要擴大戰果之時，宋金剛早就潛伏在前方不遠處的精銳鐵騎突然殺了出來，反倒打了唐軍一個措手不及，這一萬人逃回晉陽城的不過區區兩三千人而已。
遭到這樣的挫敗之後，李元吉甚是憤怒，將逃回晉陽地主將斬首示眾，不過，他到是不再一意孤行，非要再出城去攻擊定楊軍，而是採納了眾人的意見，先近觀其變，確切掌握定楊軍的行蹤之後再來談應對之策。
五月十九日，宋金剛部前鋒攻陷平遙（今山西省平遙縣）。
六月十日，定楊軍逼近介州（今山西省），在圍城之時，城內的內應和尚道澄動用信徒，秘門，將定楊軍放入城中，城遂陷落。
面對定楊軍來勢洶洶的攻勢，李淵甚是驚恐，一連數日都在關心并州方面的消息，連覺也睡不安穩，最喜愛的美人那裡也許久未去了。
劉武周雖然來勢洶洶，李淵其實卻並不是很擔心，他擔心的是劉武周只是突厥人地馬前卒，緊跟在後面的將是突厥的大部人馬。
當初，突厥的一千輕騎與梁師都地軍隊聯合，進攻延州，卻被延州太守段德操擊退，從這可知，那方向並非突厥人的主力，突厥人的主力應該在馬邑和雁門方向，說不定現在已經南下并州了。
為了讓突厥人放棄南下的意圖，在突厥汗國的使者來長安通知始畢可汗逝世的消息時，李淵進行了盛大的哀悼祭禮，他停止了朝會三天，命令文武百官按照順序到突厥時節住的國賓館弔喪，自己也親切地會見了突厥使者，在讓其帶回突厥的文書中，言辭顯得格外的卑下。
隨後，他又派遣內史舍人鄭德挺出使突厥，贈送了葬儀三萬匹，用以賄賂新任的突厥可汗，順便打聽突厥方面的虛實。
—
在外交方面，李淵將自己的位置在突厥人面前放得很低，希望能讓突厥人放棄南下的打算了，但是，同時他也沒有指望能憑借這些動作就能化解這次兵災。
他任命自己最為信任的親信，很久以前就跟隨他的裴寂前往晉州道（今山西省臨汾市），擔任晉州道行軍總管，全面指揮晉州道的各路唐軍，抵禦劉武周，衛護河東之地。
還未到達晉州道，裴寂就讓人快馬前去前線，讓位於第一線的左武衛大將軍姜寶誼，行軍總管李仲文迎戰。
這兩人都是裴寂的親信，自然對裴寂的命令堅決服從，沒有二話。
裴寂之所以沒有等到大軍全部集結齊全，就讓這兩人前去迎敵，出於他的一點小小的私心，晉陽起兵，最大的策劃功臣是裴寂和劉文靜二人，然而這兩人為了權位現在已經反臉為仇了，其根本原因在於裴寂緊跟著李淵的步伐，乃太子李建成的堅強奧援，而劉文靜卻一直和秦王李世民交好，乃是李世民的者。
第一次淺水原大戰，李世民被薛舉擊敗，劉文靜替李世民背了黑鍋，被李淵革去了官職，甚至差點殺了他的頭，後來，李世民剿滅西秦帝國之後，在李世民的懇求下，李淵讓劉文靜官復了原職，然而，這個時候他的官位已經在裴寂之下。
劉文靜自認為才幹和功勞都在裴寂之上，現在官位卻在裴寂之下，心中大為不滿。
所以，裴寂為了證明自己的能力，自告奮勇向李淵懇求，希望能讓他出任了晉州道行軍大總管，擔負起抵禦劉武周的任務，李淵欣然應許了。
面對這樣的狀況，姜寶誼，李仲文這兩個裴寂的心腹親信自然要為裴寂拚命效力，討個頭彩。
故而，兩人在各路大軍還沒有聚齊的情況下，率領本部人馬主動放棄了防區，主動向定楊軍發起了進攻。
在這只唐軍前面的乃定楊軍黃子英部，黃子英乃是劉武周的心腹，馬邑集團的悍將，和前軍統帥宋金剛相屬於兩個系統，故而，宋金剛讓他獨領一軍，獨當一面。
黃子英的軍隊駐紮在雀鼠谷（今山西省靈石縣西南汾水河谷），部隊行蹤飄忽，不時有小股部隊朝唐軍發起襲擾性質的攻擊，讓姜寶誼，李仲文這兩人不勝其煩。
不過，每次交戰，定楊軍總是很快被唐軍擊敗，如此反覆再三，姜寶誼，李仲文確認面前的這只定楊軍無力抵禦本方的進攻，於是，在又一次接觸戰後，他們率領全軍發起了追擊，這次卻進入了定楊軍的埋伏陣地，唐軍大敗，姜寶誼，李仲文這兩人也被黃子英所俘虜。
裴寂擔任晉州道行軍大總管的第一次戰鬥就以失敗收場了，這彷彿預示著他這次的行動恐怕將所行不順。