宋武帝劉裕在南方建立了宋朝後，過了十九年（公元４３９年），北魏太武帝拓跋燾（拓跋是姓，燾音ｄaｏ）滅了十六國中最後一個小國北涼，統一了北方。從東晉滅亡後的一百七十年的時間裡，我國歷史上出現了南北兩個政權對峙的局面。南朝先後換了宋、齊、梁、陳四個朝代；北朝的北魏，後來分裂為東魏、西魏；東魏、西魏又分別被北齊、北周代替。歷史上把這段時期合起來稱為南北朝。
宋武帝做了兩年皇帝，到第三年，就病死了。武帝的兒子宋文帝即位以後，北魏大舉渡過黃河，進攻宋朝，在黃河以南佔領了大片土地。宋文帝派檀道濟率領大軍抵抗。
有一次，北魏兵進攻濟南，檀道濟親自率領將士到濟水邊，在二十多天裡，跟魏軍打了三十多仗。宋軍節節勝利，一直追到歷城（在今山東省）。
這時候，檀道濟驕傲起來，防備也有點鬆懈了。魏軍瞅個機會，用兩支輕騎兵向檀道濟的宋軍前後兩翼發起突然襲擊，把宋軍的輜重糧草，放了把火燒了。
檀道濟的將士雖然英勇善戰，但是斷了軍糧，就沒法維持下去，準備從歷城退兵。
宋軍中有個兵士逃到魏營投降，把宋軍缺糧的情況告訴了北魏的將領。北魏就派出大軍追趕檀道濟，想把宋軍圍困起來。
宋軍將士看到大批魏軍圍上來，都有點害怕，有的兵士偷偷逃跑了。檀道濟卻不慌不忙地命令將士就地紮營休息。
當天晚上，宋軍軍營裡燈火通明，檀道濟親自帶領一批管糧的兵士在一個營寨裡查點糧食。一些兵士手裡拿著竹籌唱著計數，另一些兵士用斗子在量米。
有人偷偷地向營裡望了一下，只見一隻隻米袋裡面都是雪白的大米。
這個消息馬上被魏兵的探子聽到了，趕快去告訴魏將。說檀道濟營裡軍糧還綽綽有餘，要想跟檀道濟決戰，準是又打敗仗。
魏將得到情報，以為前面來告密的宋兵是假投降，來誘騙他們上當的，就把投降的宋兵殺了。
其實，魏將中了檀道濟的計。檀道濟在營裡量的並不是白米，而是一斗斗的沙土，只是在沙土上覆蓋著少量白米罷了。
到了天色發白，檀道濟命令將士戴盔披甲，自己穿著便服，乘著一輛馬車，大模大樣地沿著大路向南轉移。
魏將被檀道濟打敗過多次，本來對宋軍有點害怕，再看到宋軍從容不迫地撤退，吃不準他們在哪兒埋伏了多少人馬，不敢追趕。
檀道濟靠他的鎮靜和智謀，保全了宋軍，使宋軍安全地回師。以後，北魏也沒敢輕易進攻宋朝。
檀道濟在宋武帝和宋文帝兩代，都立過大功。但是由於他功勞大，威望高，卻引起了宋朝統治者的猜疑。
有一次，宋文帝生了一場病。宋文帝的兄弟劉義康就跟心腹商量說：「如果皇上有什麼三長兩短，留了檀道濟總是一個禍根。」
他們就用宋文帝的名義下了一道詔書，硬說檀道濟收羅壞人，企圖謀反，把檀道濟逮捕起來，要辦他死罪。
檀道濟在他被捕的時候，氣得瞪圓了眼，憤怒的目光像要噴射出火焰來。他恨恨地把頭巾拉下，摔在地上，說：「你們不是在毀壞自己的萬里長城嗎？」
檀道濟終於被殺了。這個消息傳到北魏。魏朝的將士都高興得互相慶賀，說：「檀道濟一死，南方就沒有叫人害怕的人啦！」
後來，宋文帝也很後悔。有一次，北魏的大軍打到江北的瓜步（今江蘇六合）。宋文帝在建康的石頭城上-望遠處，很感慨地說：「如果檀道濟還活著的話，不會讓胡騎橫行到這個地步。」