國奧隊到達雅典後，先調整時差，再在組委會安排的場地裡，進行了恢復性訓練。
中國國奧隊在分組抽籤中作為第四檔球隊分在了b組，小組賽的三個對手分別是智利和西班牙以及巴拉圭隊。
a組：巴西，日本，捷克，斯洛文尼亞隊
c組：美國，喀麥隆，丹麥，墨西哥
d組：意大利，尼日利亞，南非，瑞典
賽程安排是：小組賽在9月13日－9月19日。
9月13日中國對巴拉圭，西班牙對智利，9月16日，中國對西班牙，智利對巴拉圭，9月19日中國對智利，巴拉圭對西班牙。
經過對對手實力的分析，中國隊制訂的出線計劃是首戰對相對較弱的烏拉圭一定拿三分，烏拉圭國奧整體實力和中國國奧當在伯仲之間，還是很有希望的。而智利和西班牙明顯高於中國國奧。只要第三戰和智利死拼，拿到一分就很有機會出線的。
四分之一決賽是a-b,c-d的前兩名交叉對陣。時間安排在9月22日，23日。即a，b組為上半賽區，c,d組為下半賽區。
就是說如果中國隊以小組第二出線，而巴西拿下a組第一應該沒問題，這樣中國就將在1/4決賽中對陣巴西。因此中國隊的終極目標就是進八強。
半決賽在上下兩個賽區裡分別展開。時間安排在9月25日。
決賽在上下半賽區的勝者之間進行。時間是當地時間9月28日上午10時，在雅典的奧林匹克體育場。
2004年9月13日，雅典奧運會男足比賽在阿德萊德揭幕,揭幕戰由衛冕冠軍喀麥隆迎戰墨西哥。比賽以1：1告終。
隨後，中國和巴拉圭的比賽開始。雅典的天氣極度炎熱，讓人汗水直淌。但比賽剛剛開始，天氣突變，雨下個不停，雖然場地排水系統十分良好，場內並無積水，但是卻也相當濕滑，球員經常失足滑倒，足球沾水變沉，球速明顯變快，力度很難控制，雙方的失誤大大增加。對於守門員更是不利，撲球極易脫手。因此，兩隊都不約而同的開始多了遠射。
比賽幾乎一直在中場糾纏，這種天氣下，沒人敢輕易讓人攻到禁區的。中國隊由於是361陣型，中場人數上佔據優勢，雖然巴拉圭的腳下技術很好，但在雨天也大打扣折，形勢對中國隊十分有利。所以中國隊在李維和胡兆軍的控制下，佔據了場上的主動，控球時間達到了55％。但真正的有效的進攻機會卻不多。整場比賽，中國隊有14次射門，只有2次打在門框內，但有3次擊中門柱或門楣。巴拉圭則只有6次射門，2次射正。
雙方都沒得到有威脅的任意球機會。場面只能用沉悶來形容。每個隊連續控球時間不會超過2分鐘。即使以李維的控球能力，每次拿球後面對2－3名對手的夾擊也無可奈何，而在聚集了十多人的中場區域傳球，加上不少隊員的接球技術不過關，每次最多經過兩三次傳遞，球就丟了。感覺就是一大幫子人在雨天裡肉搏。沒有技術，沒有戰術，拼的就是勇氣，體力，意志。而且由於場地的濕滑，常常讓人收不住腳，結果就是人仰馬翻。黃牌滿天飛。中國隊隊長杜威，中場大將胡兆軍，閻嵩，王新欣都先後吃了黃牌，巴拉圭的4號，8號，14號，17號，也都領到黃牌。比賽快結束的時候，巴拉圭17號再度領到黃牌被罰下場。最終儘管中國隊幾個隊員拼到抽筋，但卻不得不接受0：0的現實。
而在另外一塊場地上，西班牙並不輕鬆的以2：1勉強戰勝智利。
比賽結束後，中國隊內氣氛顯得十分凝重，如今的形勢不要說實現8強目標，就是國家體育總局下達的最低目標：進球。都顯得那麼難以實現。3次門柱讓大家的心裡蒙上了一層陰影，大家不約而同的想到了2002年世界盃上的法國，和人們總結的一個規律：一個隊擊中門柱次數太多，說明幸運已經離他而去，前途堪憂。
國內雖然也一片悲聲，但對於國奧隊員的拚搏精神還是予以了肯定和讚揚，所有人都盡力了，只是運氣不在我們一方。
而對於即將到來的比賽，國奧隊的教練以及隊員們，只有打起精神，認真備戰。所以在當天晚上的會上，沈祥福主教練只是總結了一下上場比賽的情況，對於隊員的努力進行了表揚。就開始看下場的對手西班牙首場比賽的錄像帶，當然是經過剪輯的，只有20多分鐘。看完錄像，都紛紛發表看法，指出西班牙的漏洞。認為西班牙不過如此，和他們完全有得一打。有隊員認為國奧隊361陣型剛好是西班牙4231陣型的剋星，雙方都用單前鋒，4後衛就純屬浪費。中國隊中場就仍然有人數優勢。胡兆軍和李維對付對方的14號和8號兩個後腰肯定沒問題，而其餘4人對付西班牙中場3人也顯然可以站上風。而控制中場是贏球的保證之一。大家信心迅速回歸。只有李維保持了沉默，等大家都平靜下來，他才說道：「我個人覺得應該保存實力，以和智利隊死拼。」有隊員道：「你這不是長敵人志氣嗎？而且韓國隊能贏西班牙，我們能打的韓國隊找不到北，雖然比賽不能完全這樣推理，我們不說能贏他們，但至少有得一拼啊。打平還是很有希望的。」
李維分析道：「西班牙隊球風偏軟，長於短傳滲透，隊員個人技術好，反應靈活，而我們的中後場球員大都身材高大，擅長卡位，但轉身速度較慢，所以防守會很吃緊，還容易吃牌，而我們一定要避免這種非戰鬥減員，以免影響對智利的比賽。韓國之所以能贏西班牙，一是裁判的因素，而二是韓國不惜體力的從第一分鐘搶到最後一分鐘，西班牙就怵這種打法。我們拼搶力度比不上韓國，之所以能對付韓國，是因為我們和他們是老對手，對抗能力較強，而且已經適應他們的打法，而我們的技術比他們好，所以他們才受制於我們。但對付西班牙就成問題了。當然，我們不是要放棄比賽，只是不必強求結果，只要打出我們的實力就可以了，盡量避免吃牌和受傷。尤其是已經背有黃牌的隊友。」