朱元璋邊走邊乞討，他聽人說哪裡年景好就往哪裡走，他從濠州向南到了合肥，然後折向西進入河南，到了固始、信陽，又往北走到汝州、陳州等地，東經鹿邑、亳州，於1347年又回到了皇覺寺。在這流浪的三年中，他走遍了淮西的名都大邑，接觸了各地的風土人情，見了世面，開闊了眼界，積累了社會生活經驗。艱苦的流浪生活鑄就了朱元璋堅毅、果敢的性格，但也使他變得殘忍、猜忌。這段生活對朱元璋的一生產生了深遠的影響。
朱元璋在外雲遊的三年，也正是元末農民起義風起雲湧的時期。社會上廣泛流傳著「明王出世，普度眾生」的說法，北方的白蓮教也在進行同樣的宣傳。朱元璋在流浪中，也接觸到這樣的宣傳，他目睹國是日非、人民生活惡化的現狀，意識到天下大亂很快就會來臨了。於是在回到皇覺寺後，朱元璋發奮勤學，廣交朋友，準備幹出一番事業來。
1351年，白蓮教首領韓山童、劉福通在穎州(今安徽阜陽)發動起義，並推韓山童為明王。同年八月，彭瑩玉、徐壽輝在蘄水(今湖北浠水)起義。這些起義者用紅巾裹頭，故稱紅巾軍。1352年，郭子興和孫德崖在濠州起義。
朱元璋聞聽起義的消息，不由心想，老在寺院裡，隨時可能被元官軍抓走，性命難保。正在此時，朱元璋收到兒時夥伴湯和的信，湯和在信中邀請朱元璋參加郭子興的義軍。恰在此時，朱元璋的師兄秘密告訴他，說有人知道此信，要去告密。於是，朱元璋放下缽盂，趕緊去投奔郭子興的紅巾軍。這一年，朱元璋25歲。
朱元璋入伍後，因為他作戰勇敢，而且機智靈活、粗通文墨，很快得到郭子興的賞識，於是郭子興就把朱元璋調到帥府當差，任命為親兵九夫長。當時，在濠州城中，紅巾軍有五個元帥。郭子興一派，孫德崖與其他三個元帥一派，兩派之間矛盾重重。這年九月，徐州紅巾軍主將芝麻李被元軍殺害，其部將彭大和趙均用率兵到了濠州，彭大與郭子興交好，而孫德崖等人則拉攏趙均用。在孫德崖的鼓動挑撥下，趙均用綁架了郭子興，並將郭子興弄到孫家毒打一頓，準備殺掉郭子興。朱元璋聞訊後，在彭大的支持下，率兵救回了郭子興。從此，兩派結怨更深了。
朱元璋見濠州城諸將爭權奪利，矛盾重重，決心依靠自己的力量，開創新局面。至正十五年(公元1355年)六月中旬，朱元璋回鄉募兵，少年時的夥伴徐達、周德興、郭英等和同村鄰鄉的熟人聽說朱元璋做了紅巾軍的頭目，紛紛前來投效。於是朱元璋很快就募兵七百多人，回到濠州，郭子興十分高興，就提升朱元璋做了鎮撫。
這年冬天，彭大的兒子彭旱住自稱魯淮王，趙均用自稱永義王，而郭子興等仍是元帥。
朱元璋見這些人半年沒出濠州城，於是他從自己招募的新兵中挑選了心腹徐達、湯和等二十四人離開濠州，南略定遠。在南略定遠途中，朱元璋先招撫了張家堡驢牌寨民兵三千人，後又招降了豁鼻子秦把頭的八百人。統率著這支隊伍，朱元璋向東進發，乘夜攻破定遠橫澗山的元軍營地，元帥繆大亨投降。朱元璋從降軍中挑選了精壯漢人二萬人編入了自己的隊伍，並南下滁州(今安徽滁縣)。
朱元璋很快攻下了滁州，其親侄兒文正、姐夫李貞帶著外甥保兒(後來取名文忠)前來投靠。從他們口中，朱元璋得知二哥、三哥、姐姐都去世了，不免傷心。其時還有定遠孤兒沐英，甚是可憐，於是，朱元璋就將這三個孩子收作養子，改姓朱。後來，朱元璋又收養了二十幾個義子。
此年三月，郭子興病逝，小明王韓林兒任命郭子興的兒子郭天敘為都元帥，妻弟張天為右副元帥，朱元璋為左副元帥。名義上，都元帥是軍中之主，右副元帥的地位也比左副元帥高。但是滁州和和州的軍隊，多是由朱元璋招募收編的，而且朱元璋比郭天敘和張天有勇有謀，並且手下又有人才。所以，朱元璋事實上成了這支隊伍的主帥。
在南下滁州途中，定遠名人李善長到軍門求見。李善長和朱元璋一見如故，李善長以漢高祖劉邦為例勸說朱元璋：只要傚法劉邦知人善任，不亂殺人，很快便可平定天下。朱元璋認為很有道理，於是留李善長做了幕府的書記，並囑咐李善長好好協調將領間的關係，共創大業。
李善長，字百室，明朝開國大臣。少年時曾經讀書，喜歡法家思想。他為人機智多謀，善於推斷時事。他勸朱元璋傚法劉邦知人善任，不嗜殺人的做法，以成帝業。從而受到朱元璋青睞，作為參謀，參預機要，組織饋餉，不斷被委以重任。至正十五年（1355年），朱元璋攻佔太平府，置太平興國翼元帥府，自任大元帥，任命李善長為帥府都事。至正二十四年（1364年）朱元璋自立為吳王，以李善長為右相國。至正二十七年（1367年）封他為宣國公。後來朱元璋改制，以左為上，李善長於是成為左相國，居百官之首。洪武元年（1368年），朱元璋即位為帝，李善長被任命為左丞相。後為胡惟庸案牽連被殺，卒年77歲。李善長投靠朱元璋時，正是朱元璋急需謀臣之際。朱元璋問他天下什麼時候可以安定下來，他說：「秦亂，漢高起布衣，豁達大度，知人善任，不嗜殺人，五載成帝業。今元綱既紊，天下土崩瓦解。公濠產，距沛不遠。山川王氣，公當受之。法其所為，天下不足定也。」一番話深得朱的贊同，於是用為幕僚。後來朱元璋威名日盛，來投奔的人與日俱增。就由李善長考察他們，薦舉優秀人才。
臣僚之間出現矛盾時，也是李善長去做雙方工作，消除隔閡，顯示了很高的才能。郭子興想把李善長調過來輔助自己，李善長堅決辭謝不去，使朱元璋更加信任他。李善長注重取信於民，建議嚴明軍紀、禁止搶掠。朱元璋十分贊同，立即嚴厲整飭軍紀，使百姓得以安定，由此朱元璋的隊伍聲名日振，附近百姓紛紛前來投奔。至正十六年（1356年）三月，朱元璋攻佔集慶，建立了牢固的根據地，為以後的勝利奠定了堅實的基礎。但是在勝利面前，朱元璋的部隊士氣有些鬆懈，擄掠事件時有發生。為整頓軍紀，李善長精心導演了一出「假殺徐達」的好戲，這齣戲十分奏效，使徐軍攻克鎮江後，秋毫無犯，鎮江城內平靜如常。朱元璋的隊伍更得民心，大大推進了根據地的擴展和軍事上的成功。從此，「軍機進退，賞罰章程，多決於善長」。此後朱元璋率軍頻繁作戰，李善長則始終居守應天府（今南京）。作為朱元璋的根據地，應天府至關重要，朱元璋信任李善長，才將應天委託給他。
而李善長也沒有辜負朱元璋的重托，他全力以赴，努力工作，表現出了極為出色的組織和管理才能，在很短時間裡，便使應天將士和睦，社會安定，生產發展，百業興旺。充裕的軍用物資源源不斷地送到前方，保證了軍隊的戰鬥，為朱元璋打下江山立了汗馬功勞。至正二十七年（1367年），徐達率領的朱元璋大軍，在戰場上東征消滅了張士誠，北伐攻取了山東，向南逼降了方國珍，接著挺進福建，所到之處，勢如破竹，建立全國性政權的條件基本成熟，以李善長為首的文臣謀士開始為朱元璋登基作好各項準備工作。
至正二十八年（1368年）正月初四，由李善長擔當司儀，朱元璋在六朝古都金陵（今南京）南面稱帝。洪武元年（1368年）五月，太祖去汴梁（今河南開封）視察，留李善長在京居守，大小事務都由李善長自行處置，可見太祖對李善長非常信任。以後，朱元璋把除軍事外的一切朝廷事務，事無鉅細，都由李善長掌管，李則不厭其煩，認真處理，井然有序。在朱元璋稱帝之前，所奉行的策略是朱升提出的「高築牆、廣積糧、緩稱王」。高築牆是指加強軍事防備，鞏固後方；廣積糧是指發展經濟生產，儲備糧食，增強經濟實力；緩稱王則是指不要過早稱帝，以免樹敵過多。這三條建議極具戰略眼光，是朱元璋發展初期的指導思想。
公元1368年，朱元璋登基，國號明，年號洪武，定都南京。經過十六年的戎馬生涯，朱元璋終於由一個橫笛牛背的牧童、小行僧，成為大明王朝的開國皇帝。
在江山坐穩之後，朱元璋那狼一般陰鷙殘忍的性格讓他做出了大肆屠戮功臣，過河拆橋，卸磨殺驢的行為來，這就是歷史上有名的火燒功臣樓。
南京鼓樓崗的山坡上，從前有個功臣樓。這是明朝皇帝朱元璋登基以後，下令建造的。
聽到造功臣樓，凡是跟隨朱元璋南征北戰，打下江山的開國功臣，無不深受感動，稱讚太祖英明。只有軍師劉伯溫憂心忡忡，來到皇宮，見了朱元璋，懇求說：「如今王業已成，臣責已盡，但願辭官歸田。」朱元璋忙說：「軍師隨我辛苦半生，如今正當享福，為何就要歸隱？劉伯溫說：「朝中政事勞神，臣年老力倦，只想過個清閒的晚年。」朱元璋再三挽留不得，便取出許多金銀送給劉伯溫，親自送出宮外。
劉伯溫出了皇宮，來到徐達府上，向他辭行。臨別，劉伯溫握著徐達的手說：「徐兄，小弟走了。有一句話望你牢牢記住：功臣樓慶宴之日，你要緊隨皇上，寸步不可離開。」徐達一時不明白，想問個究竟。劉伯溫說：「照此行事，日後便知。」
功臣樓建成了。這座樓，坐落在鼓樓崗的山坡上，樓身又寬又矮，看來很結實；窗戶又高又小，看來很安全。朱元璋擇定日子，邀請所有功臣前來赴宴。這一天，日頭剛落，功臣樓裡一片笙歌，燈燭輝煌。赴宴的功臣們互相恭喜、道賀，好不熱鬧。徐達心裡記著劉伯溫的臨別贈言，哪有心思與眾人寒暄。他舉目望望樓頂，雕樑畫棟，縱橫相連；低頭看看地面，方石成格，平滑如鏡。忽然，他把耳朵緊貼牆壁，用手對牆敲了幾下，覺得聲音「咚咚」發嗡，他的臉刷的一下，白得像紙一樣。這時，只聽一聲喝道：「皇上駕到！」百官肅立，躬身行禮。朱元璋昂然走進大廳，笑容滿面，來到席前，忙叫免禮。眾人紛紛直起腰來。
酒宴大開，熱鬧非凡。徐達平日酒量不小，今天卻怎麼也不敢多喝，一直盯著朱元璋的一舉一動。酒正吃到興頭，朱元璋忽然站起身來，向門邊走去。徐達連忙隨後跟上。朱元璋發覺身後有人，回頭一看，見是徐達，便問：「丞相為何離席？」徐達說：「特來保駕。」朱元璋說：「不必不必，丞相請回。」徐達哀戚他說：「皇上真的一個也不留嗎？」朱元璋暗暗一驚，心想：好精明的傢伙！我的機密已被他識破。徐達見皇上不言語，又說：「皇上如果執意，臣不敢違命，懇望日後妻兒老母得以照拂。」說畢，轉身欲回。朱元璋忙說：「丞相隨我來。」
他倆剛走出幾百步，突然，「轟隆隆」一聲巨響，功臣樓瓦飛磚騰，火光沖天，可憐滿樓功臣，全部葬身火海。原來，朱元璋為了永保朱姓天下，才設下這火燒功臣樓的毒計。
徐達從功臣樓死裡逃生，回到家裡，整天飯不想吃，門不敢出，沒有多久，憂鬱成疾，背上還害了個疽瘡，人瘦得脫了形。
一天，兩名太監帶人抬著一隻清蒸公鵝來到徐達府上，說：「皇上聞知丞相貴體不佳，特命小人前來問安。」徐達知道，公鵝是發物，害了疽瘡，再吃公鵝，豈不要命，這是皇上賜死啊。想著想著，兩行熱淚潸然而下，上前謝恩，收下了公鵝。沒有多久，他就含恨死去。
朱元璋瘋狂屠殺功臣元勳的心理動因，後世歷史學家有不同的解釋，最有代表性的解釋是，朱元璋看到皇太子懦弱，擔心他死後強臣壓主，所以事先消除隱患。這種解釋有一則宮廷秩聞可為佐證：有一天皇太子勸說父親不要殺人太多，朱元璋把一根長滿了刺的棍子丟在地上，命皇太子用手拾起來。皇太子一把抓住刺棍，結果給扎破了手掌並連聲呼痛。朱元璋說：我事先為你拔除棍上的毒刺，你難道不明白我的苦心嗎！就算上面的解釋是真實的，也說明被殺的功臣全蒙受不白之冤，「謀反」根本是莫須有的罪名，而在屠殺功臣的同時也助長了司法制度的黑暗。