在大業十三年。隋煬帝楊廣在江都郡聽信身邊的大臣讒言：山西太原和晉陽等各地盜賊益多，突厥又屢屢犯邊。太原之留守李淵和汾陽太守王仁恭剿賊和抵禦胡人侵擾無功。懇請陛下速將二人革職，拘捕到江都郡問罪！
楊廣躲避在江都郡的時候，他一再訊問身邊最為寵幸的大臣虞世基（秘書監大臣）：「近來，匪事如何？」
虞世基只是隱瞞全國各地反賊風起雲湧，方興未艾的實際情況。他倒是將皇帝所疑慮和猜疑的李姓大臣有意在皇帝的面前嚼舌根子；在他的蠱惑之下，楊廣先後把右驍衛大將軍李渾，左光祿大夫李敏以謀逆和叛亂之罪，殺害並誅連兩家之九族。
因此，李淵在隋煬帝從江都郡派遣而來的宣旨的皇差的嘴裡，他聽到皇帝的聖載之後，他直嚇得驚出了一身的冷汗……
在此之前，他的兒子李世民勸說他起兵反隋。他當著李世民的面氣憤地說道：「逆子！汝將陷我於不忠不義也，我將你捆了你送官以此謝罪也？！」
在他擔任河東郡討捕使的時候，他請駐山西的重要行衙大理司直官銜的夏侯端為副將。
夏侯端此人善於卜卦和相面，他對李淵說道：「今玉床搖動，帝座不安，參墟得歲，必有真人起於其分，非公而誰乎！主上猜忍，尤忌諸李，李渾既死，公不思變通，必為之次矣。」
李淵心動之。
鷹揚府司馬許世緒對李淵說：「公姓屬桃李子，以應歌謠；據五郡之兵，當四戰之地，舉事則帝業可成，端居則亡不旋踵；唯公圖之。」
在當時，行軍司鎧武士擭、左勳衛唐憲和其弟唐儉皆勸李淵起兵反隋。
唐儉對李淵說：「明公北招戎狄，南收豪傑，以取天下，此湯、武之舉也。」
李淵回答：「湯、武非所敢擬，在私則圖存，在公則拯亂。吾將思之。」
李淵在當時還是感到時機倘不成熟，其主要原因是長子李建成、四子李元吉還在河東郡照顧李淵的家小。李淵是一個老成持重之人。他當然知道「開弓並沒有回頭箭」的道理！
關於在起兵反隋這一點上，他必須是慎之又慎！
結果，就在李淵等待皇帝楊廣會差人要將他解往江都郡問罪的時候，楊廣又從江都郡差人來，赦免了李淵的罪責。
這對於李淵而言，在他決定起兵反隋之前，上蒼給予他更為充足的時間以圖大志！