睢陽太守許遠地位比張巡高，但是他知道張巡善於用兵，智勇雙全，就請張巡指揮守城。叛將尹子奇帶了十三萬人攻城，張巡、許遠的兵力合起來才六千多人，雙方兵力相差很大。張巡帶兵堅守，和叛軍激戰十六天，俘獲敵將六十多人，殲滅敵軍二萬多人，使尹子奇不得不退兵。
過了兩個月，尹子奇得到了增援兵力，又把睢陽城緊緊圍住，千方百計進攻。張巡雖然接連打了幾次勝仗，但是叛軍去了又來，形勢越來越緊急。
一天夜裡，張巡叫兵士敲起戰鼓，號令整隊。城外的叛軍聽到城裡的鼓聲，連忙擺開陣勢，準備交鋒。等到天亮，還沒見唐軍出城。尹子奇派人登上高處眺望，只見城裡靜悄悄的，一點動靜都沒有，就命令兵士卸了盔甲休息。許多叛軍將士緊張了一夜，一倒在地上就呼呼地睡著了。
正在這時候，張巡和雷萬春、南霽雲等十幾名將領，每人帶領五十名騎兵，打開各城門殺出來，分路猛衝敵營。叛軍沒有防備，陣勢大亂，又被唐軍殺了五千多人。
張巡想在尹子奇出陣指揮的時候，射殺尹子奇。但是尹子奇是個狡猾的傢伙，平時上陣，總讓幾個將領伴隨著。他們穿著一色的戰袍，騎著同樣的戰馬，叫唐軍沒法辨認出哪個是主將。張巡想出了一個辦法。有一次，在兩軍對陣的時候，張巡叫兵士把一支用野蒿削成的箭射到敵陣裡，叛軍兵士拾到這支箭，以為城裡的箭已經使完了，高高興興地拿著箭報告尹子奇。
尹子奇剛剛把蒿箭接到手裡，城頭上的張巡看在眼裡，立刻吩咐身邊的南霽雲對準尹子奇射箭。南霽雲本來是個好箭手，他一箭射去，不偏不倚，正射中尹子奇的左眼。尹子奇摀住臉，大叫一聲，跌下馬來。張巡下令出城衝殺，又打了一個大勝仗。
尹子奇攻城不成，反瞎了一隻眼睛，哪裡肯罷休。他回去養了一陣子傷，又帶了幾萬大軍，像箍鐵桶一樣把睢陽圍住。城外的兵越聚越多，城裡的兵越打越少。到後來，睢陽城裡只剩下一千六百多人，又斷了糧食，唐軍兵士每天只分到一合（音ｇě，一升的十分之一）米，拿樹皮、茶葉、紙張和著燒來吃。最後，連一粒米都沒有了。兵士們熬不住，一個接一個餓倒了。
情況越來越危急。張巡沒法，只好派南霽雲帶了三十名騎兵突出重重包圍，到臨淮（在今江蘇盱眙西北）去借兵。
駐守臨淮的大將賀蘭進明（賀蘭是姓）害怕叛軍，不願出兵救睢陽。他見南霽雲是個勇將，想把南霽雲留下來作自己的部下，特地為南霽雲舉行一次酒宴，請眾將領作陪。
南霽雲心裡急得像火燒，哪裡喝得下酒。他流著眼淚激動地說：「睢陽的軍民已經有一個多月沒進一粒米了，我在這裡怎能忍心吃飯；就是吃了，又怎麼能嚥得下呀？將軍手下有的是兵，眼看睢陽城陷落，不肯分兵救援，難道是忠臣義士所該做的嗎？」說著，他把自己的一個手指咬了下來，咬得滿口鮮血淋漓，氣憤地說：「霽雲不能完成主將交給我的使命，只好留下這個手指作證，回去也好有個交代。」
參加宴會的官員看了大吃一驚，都用袖子掩住臉，有的忍不住哭了起來。
南霽雲知道賀蘭進明不肯出兵，只好離開臨淮，從別處借了三千兵士回到睢陽。到了睢陽城邊，被叛軍發現，又把他們圍了起來。南霽雲帶著人馬，橫衝直撞，在城下展開了一場血戰。
張巡聽到城外廝殺聲，知道南將軍回來，就打開城門，殺退敵人，把南霽雲和一批兵士接應進城，只留下了一千人。南霽雲把借救兵的情況向張巡、許遠報告以後，城裡的將士聽到借兵沒有希望，都痛哭起來。
張巡和許遠反覆商量，認為睢陽是江淮的屏障。為了保衛江淮，不讓叛軍南下，決心死守睢陽。城裡糧食斷了，他們就煮樹皮吃；樹皮吃完，就殺戰馬；戰馬殺光了，只好捉麻雀老鼠給戰士充飢。
城裡的將士、百姓被張巡的誓死戰鬥的精神激動了，他們明明知道守下去沒有希望，也沒有一個叛逃。
到了最後，全城只留下四百個人，尹子奇再率領叛軍用雲梯爬上城頭，城頭上的守軍餓得連使弓箭的力氣都沒有了。
公元７５７年十月，睢陽城終於陷落。張巡、許遠、雷萬春、南霽雲等三十六名將領全部被俘。
叛將把他們一個個綁了起來，逼他們投降。他們把刀架在張巡脖子上，張巡冷笑一聲，把叛將痛罵一頓。接下來輪到南霽雲，南霽雲沒有作聲。
張巡轉過臉朝著南霽雲高喊說：「南八（南霽雲排行第八）！
男子漢死就死，可不能在叛賊面前屈服啊！」
南霽雲笑笑說：「張公放心吧。我心裡在盤算用什麼辦法來收拾他們。哪會怕死？」
叛將知道他們都不肯屈服，終於把他們殺害了。
河南節度使張鎬得到睢陽危急的消息，趕快發兵，急行軍趕到睢陽，打退尹子奇叛軍，睢陽城已經陷落三天了。又過了七天，郭子儀帶領唐軍收復洛陽。
由於張巡他們的堅守，睢陽以南的江淮地區才沒遭到叛軍的破壞。