從宋太祖取得政權開始，到平定南方，趙普是主要的謀士，立了不少大功。宋太祖拜趙普為宰相，事無大小，都跟趙普商量。
趙普出身小吏，比起一般文臣來，他的學問差得多。他當上宰相以後，宋太祖勸他讀點書。趙普每次回家，就關起房門，從書箱裡取書，認真誦讀。第二天上朝處理政事，總是十分敏快。後來，家裡人發現，他的書箱裡藏的不過是一部《論語》。於是人們就流傳一種說法，說趙普是靠「半部《論語》治天下」的。
宋太祖信任趙普，趙普也敢於在宋太祖面前堅持自己意見。有一次，趙普向宋太祖推薦一個人做官。接連兩天，宋太祖沒有同意。第三天趙普上朝的時候，又送上奏章，堅持要求宋太祖同意他的推薦，這下可觸怒了宋太祖。宋太祖把奏章撕成兩半，扔在地上。
趙普趴在地上，不慌不忙地把扯碎的奏章拾起來，放在袖子裡。退朝回家以後，趙普把扯碎的奏章粘接起來，過了幾天，又帶著它上朝交給宋太祖，宋太祖見趙普態度這樣堅決，只好接受了他的意見。
再有一次，趙普要提拔一名官員，宋太祖不批准。趙普就像前次一樣堅持自己意見。宋太祖說：「我就是不准，你能怎麼樣？」
趙普說：「提拔人才，都是為國家著想，陛下怎能憑個人的好惡專斷！」
宋太祖聽了，氣得臉色變白，一甩袖就往內宮走。趙普緊緊跟在後面。宋太祖進了內宮，趙普站在宮門外不走。
宮門前的衛士見宰相站在門口不走，只好向宋太祖回報。這時候宋太祖氣已經平了，就叫太監通知他，說皇上已經同意他的請求，叫他回家。
趙普做了十年宰相，權力很大。日子久了，就有人想走他的門路，不時有人給他送禮物來。
宋太祖經常到趙普家裡去，事先也不派人通知。有一次，吳越王錢-（音ｃｈu）派個使者送信給趙普，還捎帶了十壇「海產」。趙普把十壇「海產」放在堂前，還沒來得及拆信，正好宋太祖到了。
宋太祖在廳堂裡坐下，看到這十隻壇，就問趙普是什麼東西。趙普回答說：「是吳越送來的海產。」
宋太祖笑著說：「既然是吳越送來的海產，一定不錯，把它打開來看看吧！」
趙普吩咐僕人，打開壇蓋，在場的人一看都傻了眼。原來壇裡放的不是什麼海產，竟是一塊塊金子。
宋太祖向來怕官員接受賄賂，濫用權力，看到這情況。心裡窩了一肚子火，臉色也就沉了下來。
趙普滿頭大汗，惶恐地向宋太祖請罪，說：「臣沒有看信，實在不知道裡面是什麼東西，請陛下恕罪。」
宋太祖冷冷地說：「你就收下吧！他們以為國家大事都由你們書生決定的呢。」
打這以後，宋太祖對趙普就有點猜疑起來；不久，又有官員告發趙普違反禁令，販運木料。原來，當時朝廷禁止私運秦、隴（今陝西、甘肅一帶）大木。趙普曾經到那裡運木料為自己造住宅。他的部下趁機冒用趙普名義，私運一批大木到東京販賣。這件事牽連到趙普。宋太祖大怒，要治趙普的罪，儘管其他大臣為他說情，宋太祖還是撤了趙普的宰相職位。