朝廷混亂不堪，各地的諸侯也趁機大打出手。公孫瓚因為弟弟被殺與袁紹反目後，任命了為嚴綱冀州刺史，田楷為青州刺史後和袁紹對抗。然而，界橋一戰公孫瓚被袁紹打敗，那個冀州刺史嚴綱也被「陣斬」。公孫瓚不甘心，又在初平三年（公元192年）度集結人馬攻打袁紹，結果又被打敗。從此攻守逆轉，公孫瓚逃回幽州被動挨打。袁紹又糾纏上了公孫瓚的青州刺史田楷，任命自己的長子袁譚為青州刺史。雙方混戰兩年，都到了師老兵疲，彈盡糧絕的地步。於是不約而同地劫掠百姓，田野裡別說糧食，連青草都沒了。雙方筋疲力盡，不得不暫時講和。
這個時候揚州刺史病故，袁紹還在擺盟主的譜，任命了袁遺為新的刺史。沒想到，他弟弟袁術就帶頭不認賬，嘴邊的揚州哪肯給別人？出兵把袁遺打跑另外任命了個姓陳的作自己的傀儡刺史。更可笑的，這個姓陳的忘恩負義。當上刺史不到兩個月，看到袁術既打不過劉表，又被曹操打得屁滾尿流的時候，居然落井下石地拒絕他入境！袁術沒辦法，只好集結部隊準備攻打自己的揚州刺史。袁術看中的傢伙能有什麼了不起，那個刺史其實色厲內茬，一看到這個架勢就被嚇跑了。這下子袁術不再客氣，自己掌握揚州的大權，還自稱徐州伯（徐州的陶謙礙他什麼事了？無故樹敵）。袁術如此糊塗，到樂壞了李催郭汜，馬上拜他為左將軍，封侯假節加以拉攏。
天下大亂鼠輩橫行，穎川等地被打成了蜂窩煤，人們自然背井離鄉尋找避難的地方。韓馥袁紹管轄下的冀州是當時人們眼中的一片樂土。
荀彧就是其中一個。他本是穎川人，看到天下大亂後，就告訴鄉里鄉親：穎川是天下要衝，將來恐怕難逃戰火，還是預先離開為好。然而他的同鄉們大多故土難離，他也只好獨自帶領家屬宗族去投奔冀州牧韓馥。袁紹從韓馥手中奪取冀州後可謂揀了個大便宜，提拔了魏郡審配，巨路田豐，南陽許攸，穎川荀堪等人才，還包括後來曹操手下最得力的謀臣荀文若郭奉孝。儘管後來由於種種原因有人離他而去，不過這是後話了。
當時的另一個避「鼠」勝地，就是陶謙治理下的徐州。各地的難民們看到徐州市井繁榮，糧食豐碩，不少來到了徐州。然而陶謙治理無方，徐州漸漸混亂起來，本來就是逃避戰亂而來的人們當然失望。然而他們沒料到的是，這僅僅是小意思，徐州正面臨著一場無妄之災。！
初平四年（公元193年），曹操在兗州站住腳後，就派人去把他在琅邪避難的父親曹嵩接來。曹嵩也曾花錢捐過一個太尉，如今看到兒子曹操強爺勝祖名副其實，當然高高興興地去團聚。於是收拾起全部的家產，裝了一百餘輛大車（大富翁呀）起程。然而，當他們途經陶謙的領地時，陶謙的士卒一看來了這麼大的一塊肥肉，哪裡還顧及官軍的身份毫不猶豫地殺人越貨，吃掉了這塊肥肉並殺掉了曹操的父親曹嵩和兄弟曹德。
殺父之仇不共戴天，曹操哪裡嚥得下這口氣，當年秋天就起了大軍來報仇。陶謙糊里糊塗地成了曹操的殺父仇人（注1），百口莫辯，只好硬著頭皮應戰。曹操咬牙切齒，完全是一副拚命的模樣，臨走時甚至連後事都安排好了。他囑咐家人，我一旦有什麼三長兩短你們就去投靠張邈。老邁的陶謙當然不是曹操的對手，轉眼之間就被奪走十幾座縣城。在彭城（今江蘇徐州）一帶，魏武帝大戰陶安東，陶謙再次戰敗。曹操完全殺紅了眼，到一地，屠一城洩憤，雞犬不留。逃難的人們本來因為徐州和平而來，當然想不到陶謙曹操會結下私仇而導致戰火，幾十萬人就這樣不明不白地成了曹嵩太尉的陪葬品。
興平元年（公元194年），陶謙看到曹操實在厲害，就向公孫瓚封的青州刺史田楷求救。田楷於是命令手下的平原相劉備領兵相助。劉備自己有幾千人馬，到了徐州後陶謙又撥給了他四千兵卒。劉備有奶便是娘，乾脆依附了陶謙。為了挽留劉備做自己的盾牌，陶謙也向朝廷推薦他為豫州刺史，並讓他駐紮在小沛防止曹操的進攻。這時曹操因為軍糧短缺暫時退了兵，但不久後捲土重來。劉備也擋不住曹操的攻勢。陶謙這個安東將軍一看安不了東，急得要離開徐州逃回丹揚（陶是丹揚人）。然而，就在這個節骨眼上，曹操後院起火，根據地兗州被呂布張邈端了！
原來，曹操統治兗州後，也有些跋扈。陳留人邊讓因為對曹操有所譏諷，就被曹操殺了。這下子，兗州的人都害怕起來，埋下了叛亂的種子。一直對曹操忠心耿耿的陳宮是個直腸子，也擔心自己將來會不小心觸怒曹操，落得一個和邊讓一樣的下場，就和一些人商量叛變曹操，並前往遊說曹操的好友，陳留太守張邈。張邈雖然是曹操的好友，但這時得罪了袁紹，擔心與袁紹神雖離貌仍合的曹操會迫於袁紹的壓力對自己動手，正是惴惴不安的時候。大家一拍即合，決定迎請「善戰無前」的呂布來做新的兗州牧。
這時候，呂溫侯又在幹什麼？呂布逃離長安後，到處投親靠友。然而，他總是自恃有討伐董卓的大功傲慢無理，手下的人馬又軍紀敗壞惹是生非，最後誰也不願意收留他，只能去投靠沒有名氣的河內太守張楊。興平元年曹操再次攻擊陶謙時，陳宮等人趁後方空虛之機反叛，並派人去迎請呂布。
這樣的變故，對呂布來講是天上的餡餅，對陶謙來講是飛來的橫福，對曹操則無異是晴天的霹靂。陶謙是打不成了，只好回師。不幸中的萬幸，曹操雖然丟失了兗州，在荀彧，程昱的幫助下還是守住了三個縣城（兗州共有轄郡、國八，縣八十），保留了翻本的可能。曹操看到呂布未能在他回來的路上截擊他，反而貪戀濮陽城，心中有了底，斷定不是自己的對手。然而真刀真槍地打起來，卻遇到了麻煩。戰場上呂布厲害，更要命的是陳宮長期在曹操手下效力，對曹操的打法瞭如指掌，差點要了曹操的命。濮陽城的混戰中呂布的騎兵捉到曹操後當即審問：「曹操在哪裡？」曹操一聽，原來不認識我，太好了：「前面那個騎黃馬逃命的就是曹操。」這才矇混過關逃脫一劫（三國演義中為了突出其戲劇性，將其改為了呂布）。而禍不單行的是當年天下大旱，谷子一斛（按照後來鄧艾推行屯田時的描述，這夠一個成年人吃六天）賣到五十萬個銅錢，買一星期的口糧居然要累死一頭牛。八月，又鬧了蝗災。軍糧成了雙方的大問題，拉鋸中的曹操呂布誰都打不下去了。這個時候，遠在鄴城的袁紹看到曹操的窘境，趁火打劫，要「禮聘」曹操到鄴城。曹操正是根據地丟光，軍糧告盡的時候，人窮志短，差點答應。眼看武帝紀就要變成曹操列傳時，程昱跳出來反對，慷慨激昂：「將軍您是否因為時局困難而有了懼意，否則怎麼如此欠考慮！袁紹確實有吞併天下的志向，但以他的才智，能做得到嗎？！將軍您真的甘心做他的下屬，當一輩子韓信彭越（有朝一日，被剁成饅頭餡？）？兗州雖然丟失，仍有三個縣在我們手裡；忠於您的精兵猛將，不下萬人。以將軍您的神武，在荀彧和我的精心輔佐下，完全可以成就霸業！希望您能重新考慮！」曹操得到這一番鼓舞，當即斷絕了投靠袁紹的念頭，決心以這三個縣爭霸天下。
曹操走了，風燭殘年的陶謙經不起這一番折騰，也病倒了。於是，誰來繼任徐州牧就成了問題。臨終前，陶謙告訴部下，只有劉備能夠勝任。對比一下劉焉孫策袁紹，陶謙是唯一一個沒有讓自己的親屬繼承位置的人。或許，陶謙確實高風亮節，或許，他的子女們確實不肖吧。有了陶謙的遺囑，有了糜竺陳登孔融等人的支持，劉備推辭一番後，掌管了徐州。
T興平二年（公元195年）正月，沉寂了四個月的兗州再次起了硝煙。在定陶，曹操擊敗呂布。夏天，在巨野又擊斬呂布的部將，兗州的戰局越來越有利於曹操。這時候，曹操卻突發奇想，要一鼓作氣地攻佔徐州，然後再回來收拾呂布這個雜種。荀彧覺得不妥，就勸告曹操：「當年漢高祖保守關中，光武帝經營河內，無不盡心竭力以至根深蒂固。這樣，進可以逐鹿中原，退可以割據一方。因此，雖然他們都曾有過一時的窘迫，卻都成就了一世的霸業。將軍您本來依靠兗州起家，屢次平定叛亂，百姓無不心悅誠服。況且黃河一帶是天下的要地，如今雖然遭到兵革之災略顯殘破，仍然自保有餘，這就是將軍您的關中河內，不能不先平定。如今，我們已經擊敗呂布的部將，如果繼續向東攻擊陳宮，陳宮一定不敢來騷擾，我們就可以趁機把麥子割了充實軍糧，就有了擊敗呂布的把握。擊敗呂布後，可以結交南方揚州的諸侯討伐袁術，我們就可以馳騁於淮泗之間。如果放過呂布而向東攻擊，兵留多了則討伐乏力，兵留少了則呂布趁機暴亂，大家只有保衛城池的分，難以維持正常生產。只有當年沒有反叛的三個縣有保證，兗州又將被呂布奪走。萬一不能攻克徐州，將軍能回到哪裡呢？陶謙雖然死了，徐州未必容易攻克。他們昔年屢戰屢敗，如今必然團結死守，堅壁清野。攻城不拔，又沒有繳獲，用不了十天，即使有十萬大軍也將困苦不堪。上次征討徐州，威罰並行。他們的子弟不會這麼快忘記父兄的仇恨，不會歸降。就算攻克城池也獲得不了人心，不能算攻了下來。事情有彼此，大小，安危之分，希望將軍您能夠好好考慮。」這一番分析，在情在理，有宏觀的戰略設想又有具體的戰術目標，於是，曹操停止了東征徐州的計劃，集中精力治理兗州。曹操分兵收割軍糧後，呂布陳宮看到曹操兵力分散，認為是好機會，又率領了一萬人馬要來和曹操決一死戰。結果，被曹操設下埋伏殺得大敗。這一仗呂布傷筋動骨，從此再也無法在兗州立足，就和張邈陳宮等人東逃徐州投奔了劉備。兗州又回到了曹操的手中。
兗州的叛亂，表面原因是因為曹操過於粗暴，殺害了陳留的名士邊讓，引起了兗州人士的恐慌，實際上有更深刻的原因。看一看各地的諸侯，曹操在兗州，劉備在徐州，孫策在江南，都遇到了被征服的地方立刻有人反叛的事件。曹操經過奮戰重奪兗州，算幸運的了。劉備被呂布打跑，而孫策乾脆丟了性命。曹操劉備孫策到了一個地方，都要花一定的時間來治理內政安撫當地的各級人士，這完全是慢工出細活，沒有捷徑。曹操歷經了兗州叛亂，劉備遭遇了呂布反水，結果都是因為治理內部的時間太短，工夫還沒到。後來曹操也殺了孔融，孔融的名氣可比邊讓大得多，但什麼事也沒有，就是因為當時曹操內部都已經明白，曹丞相殺孔融，並不意味著他會因此大開殺界。而當時的兗州人士顯然還沒有這個認識，連曹操多年的好友張邈都因為多餘的擔心（曹操顯然已經不會再為袁紹賣命了）而背叛了他。這個叛亂，實際上是早晚的事，並不偶然。曹操不殺邊讓就一定能避免？我表示懷疑。但曹操也不是完全沒有收穫。原來的兗州，看來並不能算是曹操的，但現在的兗州顯然已經完全忠於曹孟德。兗州牧這三個字由手寫的變成了血染的，哪一個更醒目，不是一清二楚了嗎？
注1陶謙是否被冤枉，並無定論。陶謙殺曹嵩的說法一直是有的。討伐董卓的聯盟破敗後，關東的諸侯們大致分為兩派，一派為袁紹劉表等，以及當時並不出眾的曹操。另一派則有袁術公孫瓚以及孫堅的餘部。陶謙和袁術公孫瓚等人交好，與袁紹曹操一派有矛盾。三國誌記載，陶謙曹操此前就曾幾次交手，無一例外的是曹操勝利。因此，陶謙確實有暗殺曹嵩洩憤的理由。這裡採用的是資治通鑒的記錄，個人感覺算是中立稍微偏向陶謙的寫法。無論事實如何，有這樣的過節曹操當然會認為曹嵩被殺是陶謙的主意，陶謙當然不會承認。