1979年，蘇聯入侵阿富汗後，年輕的拉登離開自己在沙特阿拉伯舒適的家庭，輾轉進入興都庫什山脈，參加了阿富汗伊斯蘭聖戰組織，並聚眾樹旗，展開了反對蘇聯入侵阿富汗的鬥爭，從此步人「聖戰」的道路。
他先是加入了美國支持的阿富汗伊斯蘭聖戰組織，展開了反蘇聯入侵阿富汗行動。拉登為自由戰士提供食物和武器，幫助招募了數千名阿拉伯人到阿富汗與蘇聯軍隊作戰。在阿富汗戰爭初期，許多穆斯林聯盟的武裝補給人員經常在穿越阿富汗北部山區的時候遭蘇軍武裝直升機的襲擊。天不怕地不怕的本·拉登自告奮勇，帶著自己的建築隊伍為阿富汗的自由戰士們在山間開出新的道路來。
本·拉登過去的一位盟友哈立德·福阿瓦茲說：「本·拉登帶去了巨型推土機。由於害怕蘇軍武裝直升機的攻擊而找不到駕駛員，他就親自上陣，並因此而負了傷。後來，本·拉登置身家性命於不顧，乾脆親自率領一支阿拉伯志願軍與蘇軍作戰，並且在1986年的一場關鍵性戰役中取得勝利。」
在這場戰爭中，拉登顯露了他的戰略天才。他意識到，阿富汗既缺乏設備，又沒有人力來應付這場持久的戰爭，於是他立即行動起來，著手解決這些問題。
拉登的第一步便是建立一個有系統的徵兵計劃。拉登組織了一批來自阿拉伯國家的志願者前往阿富汗參加聖戰。他向全阿拉伯世界的人宣傳，希望年輕人來為阿富汗而戰，為穆斯林而戰，而拉登則負責提供他們來阿富汗的路費。
拉登還建設了一些供這些志願人士訓練的設施，阿富汗政府則提供了場地和資源。同時，拉登還把世界各地的游擊戰、破壞和隱匿專家聚集在一起。
在一年多的時間內，拉登的私人步兵營裡就彙集了數以千計的志願者。
很快，拉登便成為在阿富汗參加戰鬥的阿拉伯人領袖，他領導的軍隊被稱作「阿拉伯阿富汗人」。
80年代上半期，年輕的信奉伊斯蘭聖戰主義的沙特億萬富豪奧薩馬·本·拉登與一名巴基斯坦兄弟會成員阿布達拉·阿扎姆共同創辦了一個名為馬克太布·阿爾—基達邁特的組織（或稱服務辦公室），為阿富汗抵抗組織提供兵源和資金。該組織在世界各地（包括美國、埃及、沙特阿拉伯和巴基斯坦等）建立了徵兵中心，最終從約50個國家徵募、輸送了數萬名戰士參加抵抗蘇聯的戰爭。該組織也在阿富汗和巴基斯坦建立了准軍事訓練營地。
當時，在「伊斯蘭聖戰」和抵禦蘇聯入侵的旗號的感召下，成千上萬的沙特和其他阿拉伯國家的青年來到阿富汗，加入到拉登經營的霍斯特、坎大哈、貝特安薩爾、賈拉拉巴德的訓練營地進行訓練。
拉登在許多阿拉伯國家開設的公司為這些「志願者」提供路費。當這些準備獻身聖戰的年輕人登上飛機之前，已經有一大把令他們心滿意足的鈔票拿在手裡了。
80年代未，本·拉登與阿扎姆分手，開始把觸角伸向全球每一個角落。阿扎姆則主要從事支持穆斯林極端分子發動軍事作戰的恐怖活動。
阿富汗戰爭結束後，本·拉登回到了老家。他認為任何西方國家在中東地區的存在都是對穆斯林的威脅。1990年8月，伊拉克入侵科威特後，沙特怕自己成為伊拉克的囊中之物，便邀請美國軍隊駐紮在這個王國。本·拉登聞訊後，請求與沙特阿拉伯國防部長會面，為保衛沙特的國家安全獻計獻策，表示可以不用美國人的幫助擊敗伊拉克。他在國防部長面前攤開地圖，講述如何不靠美國人幫助打敗伊拉克的計劃。當國防部長問他如何對付伊拉克的飛機。坦克和生化武器的時候，本·拉登一本正經他說：「我們用信仰來打敗他們。」沙特政府自然拒絕了他的極為荒唐的建議。本。拉登對此很是惱火，一氣之下移居也門，在那裡過了大約一年的流亡生活。
1988年，本·拉登選擇阿富汗為阿拉伯的聖戰者們建立了一個新的組織——名為「阿爾·伊達」（意為「基地」）的軍事大本營，專門訓練「聖戰者」。
用拉登的話說，「阿爾·伊達」的目標就是「統一所有的穆斯林，建立按照伊斯蘭教戒律統治的政府。」拉登認為，建立伊斯蘭教國家的唯一途徑是通過暴力。因此，「阿爾·伊達」的目的就是推翻幾乎所有的在拉登眼中看來是「腐敗無能」的穆斯林政府，驅逐這些國家的西方勢力，最終廢除國家的疆界。
1989年末，阿扎姆在汽車爆炸中被殺，馬克太布·阿爾一基達邁特組織分裂，而組織中的極端主義分子則加入到拉登旗下。
據國際反恐怖專家估計，從80年代上半期到1995年之間，在阿富汗拉登大本營接受過訓練的人有3萬之眾。這些人分別來自埃及、沙特阿拉伯、黎巴嫩、也門、阿爾及利亞、利比亞、突尼斯、蘇丹和巴基斯坦等國家，這些訓練有素的聖戰者當時為阿富汗抗蘇戰爭出了大力。
那些年間，每一個月就有80人到拉登營地受訓。在這些受訓者中，有各式各樣的危險人物，例如被埃及政府於1983年判處死刑的埃及伊斯蘭極端組織頭目穆罕默德·紹基等。這些「英雄豪傑」時常與拉登會面密談。
事實上，「阿爾·伊達」已成為一些阿拉伯國家裡那些鼓吹原教旨主義的極端組織的領導中心。
阿富汗的戰爭並不只是種族的仇恨，它是兩個超級大國——美國和蘇聯的長期對抗和全球爭霸的一個部分。當時，美國人和本·拉登的游擊隊員一樣懷著共同的目的：把蘇聯軍隊從阿富汗趕出去。
因此，具有諷刺意味的是，當時的本·拉登不僅得到了美國以及西方國家的大力支持，是美國中央情報局的盟友，甚至還有人將其稱為「英雄」。而拉登的許多陰謀詭計和暴力手法就是從中央情報局人員那裡學來的。
如今中央情報局就奧薩馬·本·拉登是否曾作為當年選中的對象培養的事情閃爍其辭。從80年代初至1985、1986年間，美國給了這些抗蘇鬥士們大量的援助，其中包括專門對付直升機的「毒刺」便攜式導彈等尖端武器。
在那時被吹捧為最成功的秘密行動中，美國中央情報局每年撥出5億美元的軍費來武裝和訓練貧窮且手無寸鐵的游擊隊員，那些當時最有前途的領袖就是由美國中央情報局看中並予以扶持的。
本·拉登的組織是當時7個主要游擊隊派別中的一派。美國高科技武器中的不少尖端產品，包括防空導彈等，都陸續進入了拉登的兵器庫。現在大部分武器仍在那裡。據估計，拉登的組織在阿富汗戰爭期間獲得的美國軍事援助高達2．5億美元之巨。
當然，中央情報局的計劃也是成功的。經過10年的殘酷戰爭，游擊隊員戰勝了蘇聯軍隊。當初軍容不整的游擊隊員變成了訓練有素、裝備精良的現代化軍隊，他們甚至打敗了世界上的超級大國。
儘管如此，在反對蘇聯軍隊的戰鬥過程中，拉登仍一直有意使自己遠離美國的影響，這場戰爭使拉登成為阿富汗家喻戶曉的人物。