就在大明在張居正等人的努力下，呈現一片欣欣向榮的時候，張居正病了，他開始腹部不停的疼痛。每日的操勞，讓年近六十的張居正跨了。這是萬曆九年九月的事，初聽到這個消息，大為吃驚。特遣御醫診視。張居正上疏謝恩，並請給假調理。他說：
臣自入夏以來，因體弱過勞，內傷氣血，外冒盛暑，以致積熱伏於腸胃，流為下部熱症，又多服涼藥，反令脾胃受傷，飲食減少，四肢無力，立秋以後，轉更增劇。自以身當重任，一向勉強支持，又恐驚動聖心，未敢具奏調理，乃蒙宸衷曲軫，特遣御醫診視，傳奉溫綸，飲以良劑。念臣狗馬微軀，不自愛慎，以上貽君父之憂，沐此鴻恩，捐糜難報。但臣自察病原，似非藥餌能療，惟澄心息慮，謝事靜攝，庶或可痊，仍乞聖慈垂憫，特賜旬月假限，暫解閣務，俾得專意調理。倘獲就痊，臣即勉赴供職，不敢久曠，臣不勝感激懇祈之至。（奏疏十《患病謝遣醫並乞假調理疏》）
神宗得疏以後，一面派文書官太監孫斌，到張居正私宅視疾，並賜鮮豬一口、鮮羊一腔、甜醬瓜、茄、白米二石、酒十瓶：一面又下聖旨，「宜慎加調攝，不妨兼理閣務，痊可即出，副朕眷懷。」所謂「不妨兼理閣務」，指在宅辦公而言，張居正這一次小病，固是如此，後來大病的時候，還是如此。直到張居正後來昏沉的當中，他始終沒有放棄政權。
張居正對於自己的學生萬曆皇帝，固然在奏疏中，充滿依戀的感情，但是張居正的身子著實吃不消了，五十七歲的人了，體力逐日衰耗，國事已經到了可以放手的階段，為什麼要戀位？張居正也曾論到趙廣漢、蓋寬饒、韓延壽、楊惲這一群人底命運：
趙、蓋、韓、楊之死，史以為漢宣寡恩，然四子實有取禍之道。蓋坤道貴順，文王有庇民之大德，有事君之小心，故日「為人臣，止於敬也。」四臣者，論其行能，可為絕異，而皆剛傲無禮，好氣凌上，使人主積不能堪，殺身之禍，實其自取。以伯鯀之才，惟傲狠方命，雖舜之至德，亦不能容，況漢宣乎？易日：「坤道其順乎。」承天而時行，畢志竭力，以濟公家之事，而不敢有一毫矜己德上之心，順也。險夷閒劇，惟上之命，而不敢有一毫揀擇趨避之意，順也。內有轉移之巧，而外無匡救之名，順也。怨讟任之於己，美名歸之於上，順也。功蓋宇宙，而下節愈恭，順也。身都寵極，而執卑自牧，順也。然是道也，事明主易，事中主難；事長君易，事幼君難。（文集十一《雜著》）
終於在萬曆十年二月中，張居正的病勢越來越重了，開始只覺腹疼痛，後來是整個身子都開始疼痛起來，並且出現大量的痔。萬曆皇帝讓宮裡所有的太醫都為自己的老師效命。一定要治好張居正。在家居養病的期間，張居正想起徐階來了。隆慶六年秋間徐階七十歲，居正曾有一篇《少師存齋徐相公壽序》（文集七）作文的時候，高拱已經去位，居正當國，序中曾經說起：「後來者遵公約束，庶幾畫一之治，竊比於宋元祐耆碩者，公何啻君實，顧余於呂晦叔何如耳。」 元祐時代，司馬光以國事交付呂公著；隆慶時代，徐階以國事交付自己。張居正在十年前，原有很大的抱負，現在他知道抱負不但已經一一實現，而且在許多方面，超過當日的預期。「這總算對得起老師了，」張居正想。他知道老師的生日在九月二十日，時期還早，但是準備總得早一點。居正上疏請求優禮耆碩，派遣行人存問，量加賞賚，他稱述徐階的功勞道：
臣等看得原任少師大學士徐階，當世宗時，承嚴氏亂政之後，能矯枉以正，澄濁為清，懲貪墨以安民生，定經制以核邊費，扶植公論，獎引才賢，一時朝政修明，官常振肅，海宇稱為治平，皆其力也。（奏疏十一《乞優禮耆碩以光聖治疏》）
萬曆十年六月二十日，張居正捨棄十六年始終不放的政權、十年以來竭誠擁戴的皇帝、和六千餘萬中國的人民，（萬曆六年，人口總計六千六十九萬二千八百五十六口）死在北京的寓所，遺下七十餘歲的母親、三十餘年的伴侶，和六個兒子、六個孫子。神宗不曾和他說過嗎？「先生功大，朕無可為酬，只是看顧先生的子孫便了。」張居正已經把他的生命，貢獻國家，在臨死的時候，他用不到顧慮自己的子孫。
神宗得到居正病歿的消息，下詔罷朝數日。兩宮皇太后、皇上、和皇弟潞王，賜賻銀一千餘兩，司禮太監張誠監護喪事。一切飾終的典禮都完備了：贈上柱國、賜謚文忠、予一子尚寶司丞、賜祭十六壇。居正靈樞將發的時候，內閣張四維、申時行、余有丁疏請派員護送，隨即派定太僕少卿於鯨，錦衣衛指揮僉事曹應奎護送回南。趙太夫人也在同時南回江陵，護送的是司禮太監陳政。江陵的山水無恙罷！三十六年以前，看到一位少年入京會試，成為新科的進士；三十六年以後，又看到這位進士回來，成為功業彪炳的張文忠公。
兩年之後 的萬曆十二年（1584）八月，神宗在都察院參劾張居正的奏疏中批示道：「張居正誣蔑親藩，侵奪王墳府第，箝制言官，蔽塞朕聰。……專權亂政，罔上負恩，謀國不忠。本當斷棺戮屍，念效勞有年，姑免盡法追論。」這時候的張居正一家，已經被抄家。張府人口，一些老弱婦孺因為來不及退出被封閉於張府，餓死十餘口；張居正的長子張敬修留下了一份「丘侍郎（蕣）、任巡按，活閻王！你也有父母妻子之念……何忍陷人如此酷烈」的遺書，自縊身亡；張居正80歲的老母還是在首輔大學士申時行的請求下才留有一所空宅和10頃田地。張居正恐怕生前絕對不能想到，他死後竟然會遭到一手扶持的神宗如此無情的懲處。
人亡而政息，張居正在位時所用一批官員有的削職，有的棄市。而朝廷所施之政，也一一恢復以前弊端叢生的舊觀。致使剛剛中興的明朝，又走開下坡路。整個神宗一朝，沒有人敢為居正呼冤。
然而國衰而思良臣。直到天啟二年(1622年)，明熹宗為激勵臣下，才想起昔日的大功臣張居正，予以復官復蔭。然一切俱已晚矣，世間已無張居正