到楚莊王的孫子楚平王即位之後，楚國漸漸衰落了。公元前522年，楚平王要把原來的太子建廢掉。這時候，太子建和他的老師，伍子胥之父伍奢正在城父（在河南襄城西）鎮守。楚平王怕伍奢不同意，把伍奢叫來關進監獄，楚平王一面派人去殺太子建，一面又逼伍奢寫信給他的兩個兒子伍尚和伍子胥，叫他們回來，以便一起除掉。
伍子胥逃走，楚平王下令畫圖捉拿。伍子胥先奔宋國，因宋國有亂，轉投鄭國，但在鄭國又惹是非，只得再投吳國。東行數日，便到昭關。昭關在兩山對峙之間，前面臨江，形勢險要，並有重兵把守，過關難於上青天。伍子胥一連幾夜愁得睡不著覺，連頭髮也愁白了。幸虧他們遇到了一個好心人東皋公，同情伍子胥，把他接到自己家裡。東皋公有個朋友，模樣有點像伍子胥。東皋公讓他冒充伍子胥過關。守關的逮住了這個假伍子胥，而那個伍子胥因為頭髮全白，面貌變了，守關的認不出來，就被他混出關去。
伍子胥到了吳國，幫助吳國的公子光殺了吳王僚，奪取了王位。公子光自立為王。這就是吳王闔閭。闔閭即位之後，封伍子胥為大夫，幫助他處理國家大事；又用了一位善於用兵的大軍事家孫武當將軍，依靠伍子胥和孫武這兩個人，闔閭整頓兵馬，兼併了臨近幾個小國。
隨後，吳王闔閭拜孫武為大將，伍子胥為副將，於公元前506年親自率領大軍，向楚國進攻，連戰連勝，一直打到郢都，把楚國的軍隊打得一敗塗地。
那時，楚平王早已死去，他的兒子楚昭王也逃走了。伍子胥刨了楚平王的墳，把平王的屍首挖出來狠狠鞭打了一頓，已洩心中極憤。