1945年8月15日，經過中國軍民八年浴血奮戰，抗日戰爭終於取得了最後的勝利，中華民族終於贏得了百餘年來反侵略鬥爭的第一次勝利，神州上下頓時沉浸在一片歡呼喜慶聲中。
10月，國共雙方在重慶簽訂「雙十協定」。中國，表面上迎來了和平建國的曙光。
次年元旦過後，原駐陪都重慶的國民政府機關陸續遷回南京，南京又恢復了她的虎踞龍蟠的京都地位。
誰來拱衛京師的安全呢？蔣介石想到了74軍，八年抗戰已寫就了這支鋼鐵之師的輝煌。如今江北的共產黨已今非昔比，只有讓這支美械裝備起來的軍隊守在臥榻之側，他蔣某吃飯、睡覺方能安穩。
74軍因此堂而皇之地成了蔣家王朝的御林軍。
4月，張靈甫升任74軍軍長，兼南京警備司令。1939年3月南昌之戰中，張靈甫右膝膝蓋被日軍子彈打得粉碎，後雖赴香港治療亦未完好，不時發痛。張靈甫經常跛腿在南京各處巡視，路人送他「瘸司令」的綽號，張聽後哈哈一笑，「我瘸了，中華民族站起來了，不好嗎？」俏皮中不失狂態。
張對王耀武的知遇之恩和蔣介石的器重擢用感激在懷，常常溢於言表。
張對王說：「司令(王耀武此時任徐州綏靖公署第二綏靖區司令官，駐濟南)，我接手74軍，也就是接過您創下的旗幟和光榮，我一定會把這面旗幟扛到一個更高的峰巔!」
他向蔣介石表示：「校長，74軍是抗擊日本人的鐵軍，也一定是消滅共產黨的鋼軍!」
衛戍南京期間，張靈甫請美國顧問來指導74軍的訓練。2個月後，張請蔣介石來檢閱他的部隊。
對此，蔣介石極為重視，他帶著何應欽、陳誠、白崇禧以及全國各綏靖區的長官都來觀摩、學習74軍的治軍成果和經驗。時蔣介石正籌劃發動內戰，蔣見74軍武器精良，訓練有素，十分高興，即席講道：「自先總理手創黃埔以來，革命軍隊迭經內外戰爭，成就了許多能征善戰的英雄之師，這其中新1軍、新6軍、第5軍、第18軍、第74軍作風頑強功勳卓著，最為國人欽佩，而74軍又是其中最突出之代表，今日的情形都是各位親眼目睹的，是名不虛傳的。74軍不愧是國軍的模範，軍人的表率，今後各軍的訓練應以其為榜樣，深加體會，認真學習，切勿敷衍從事，自遺其患。當前共軍蠢蠢欲動，於山海關外，黃河南北大肆搶奪勝利成果，破壞和平，國軍不能不予以清剿，這就需要我們各位同志認清形勢，抓緊練兵，像74軍一樣，把我們的軍隊一個個錘煉成讓黨國放心的隊伍，這樣，戡亂建國的日子也就為期不遠的了。」
6月，根據國共兩黨的協定，蔣介石著手整編全國軍隊，軍、師、旅、團均按下一級縮編，74軍整編為74師，師長張靈甫，下轄51旅、57旅、58旅，旅長分別為陳傳鈞、陳噓雲、盧醒，總兵力仍為32000餘人，不曾減少一員。