甲午中日戰爭在中國近代史占極重要的一頁，經過這場戰爭，日本才成為亞洲的強國。
光緒廿年（1894年）五月初三日，李鴻章奏派直隸提督葉志超、太原鎮總兵聶士成共率蘆榆防兵四營援朝。聶士成率前鋒800人先發，初六抵朝鮮後，兩天後葉志超亦趕到，合屯牙山。牙山在仁川之南，成歡之西，去漢城150里。
清廷當時判斷日本因明治維新後，議會可能阻礙政府，所以日本不會出兵朝鮮，因此在清兵出動後，根據《天津條約》照會日本，說明中國出兵系應朝鮮之請。這時日本首相是伊籐博文，外務大臣是陸奧重光，他們採取了斷然處置，一面奏請日皇裁可出兵，一面把議會解散，並派日本公使大鳥圭介乘坐軍艦八重山號馳抵仁川，並率400人前往漢城，另派六艘兵艦停泊漢江口。清朝出兵是以朝鮮忠清道的牙山為目的地，目的在替朝鮮平亂；日本則是以漢城為目的地，目的在控制朝鮮全局和挾持朝鮮政府。東學黨起義平後，日本陸軍源源而入，迄五月中旬，日軍已達8000人，均馳屯漢城周圍要害，為陸軍少將大鳥義昌旅長所率領的第九旅團。中國馳屯牙山的總數只有3000人。
此後有將近兩個月時間，在清廷方面只是希望中日同時撤兵，而日本則要求中日共同改革朝鮮內政，日本目的是求得一個開戰口實。
袁世凱回國是六月十五日，六天後（廿一日）大鳥即率兵包圍王宮，擄去國王，擁大院君主政。廿三日朝鮮的新政府宣佈「朝鮮自主，不再進貢」，第二天又矯詔請日本驅逐中國駐牙山的軍隊。
袁世凱回天津向李鴻章報告日方在朝鮮情況，李乃知中日兩國非戰不可，六月廿二日一面電令牙山速備戰守，另派馬玉昆的毅軍、左寶貴的奉軍、衛汝貴的淮軍和盛軍、豐-阿的盛軍，合共廿九營，1．4萬人由陸路渡鴨綠江入朝鮮。
六月廿三日發生了豐島海戰，濟遠、廣乙兩艦掩護高昇（英輪）和操江兩船-防兵兩營增援牙山，日艦吉野、浪速、秋津洲來襲。廣乙、濟遠均受重傷，操江被協懸白旗，為日艦秋津洲掠去，高昇船拒絕投降，被日方魚雷擊沉。
牙山外援繼絕，日軍遂大舉進攻，聶、葉兩軍苦鬥，且戰且退，七月廿一日繞過漢城退抵平壤。葉志超竟向清廷謊報戰功，宣稱斃敵無算。捷報傳到北京，清廷大加獎賞，命葉統率各軍駐節平壤。各軍咸知葉戰敗謊報戰勝，對清廷命葉指揮調度極不滿意，葉也內愧，不敢指揮，於是平壤的清軍便各不相屬。
七月初一，中日兩國同日宣戰，第二天李鴻章所派四路大軍始抵平壤。
平壤之戰正式爆發於八月十六日，戰鬥只一天平壤即告陷落。清軍最勇者為馬玉昆部，死難最烈者為左寶貴部。清軍陣亡2000餘人，被俘數百人，城內所有兵械、餉糧以及公文密電均為日軍所有。敗軍直奔500里，退過鴨綠江，朝鮮全境遂落入日軍手中。
平壤陸戰結束後，八月十八日爆發了黃海海戰，這場海上主力戰僅歷時半天。
清朝北洋海軍由提督丁汝昌指揮。丁汝昌是淮軍老人，甲午春間，海軍剛好大檢閱，閱兵後不久戰爭爆發。照理養兵千日用在一時，怎知清朝海軍除了船多噸位多外，一無所長；戰艦既陳舊，防炮鋼板又薄弱，速度也慢，所有官兵都攜家帶眷住在陸上，把兵艦當作一個衙門，點卯應糧，而海軍經費則全部移去修建頤和園，這樣的海軍，怎能一戰呢！
中日海軍在黃海上相遇，清海軍排成人字形，張開兩翼以待敵艦；日本海軍則排成一字形，相機變化以爭取有利形勢。丁汝昌乘坐旗艦定遠號督戰，他用望遠鏡一看，見日本艦隊如一字長蛇，遂下令開炮，冀圖把對方的陣形打散，可是兩軍之間的間隔還有九海里，因此清軍的炮彈大多數落在海面，激起了無數浪花，打死了無數魚蝦。日本艦隊這時並不還擊，只是開足馬力前進，去抄襲清軍的背面。日本海軍統帥是伊東-亨，他命令日艦駛入大炮射程以內，才下令開炮。日炮都是大口徑，日艦速度又快過清艦，於是在日炮集中轟擊下，清軍超通艦首被擊沉。清軍這時慌了手腳，陣勢也亂了，一場激戰，前後僅只四小時，清艦隊慘敗，超勇、揚威、致遠、廣甲四艦被擊沉；經遠、廣丙被俘；剩下定遠旗艦和鎮遠、來遠、濟遠、平遠等艦狼狽逃回旅順港，不敢出戰，黃海的制海權遂全部由日本海軍所掌握。
日軍在陸上和海上都已獲大勝，但是它並不滿足，在朝鮮的日軍攻佔平壤後，繼續向鴨綠江南岸推進，而清朝的大軍則蝟集九連城，清廷下旨逮問葉志超，另派宋慶總統各軍。宋慶是湘軍系統，但資望甚淺，各軍不願受其約束。這時清軍合起來不下70餘營，但宋慶無法指揮，又非善戰驍將，胸中毫無韜略。大敵當前，他竟不以重兵扼守鴨綠江沿岸，阻截日兵渡江，僅以少數哨兵據守江邊。光緒廿年九月二十六日（1894年10月24日），日軍強渡鴨綠江，宋慶只得放棄九連城，倉皇退卻，日軍乘勝急追，又佔鳳凰城和摩天嶺；另一支日軍則由新義州渡江北上，攻陷安東、岫巖州、析木城、直逼海城，截斷了清軍退路。
日本海軍由大山巖率師進窺大連、旅順，原在旅順的北洋艦隊已聞風先逃，而陸軍馳守旅順的部隊則已開至九連城增援，接防旅順的是提督姜桂題、程永和所募的新兵。十月九日，日軍攻陷金州，分三路進逼旅順、大連，不到一個月工夫，旅順、大連相繼被日軍佔領。
清陸軍已然潰不成軍，不過殘餘的海軍尚逃匿威海衛，日本軍方毫不留情，要徹底消滅清朝海軍，因此向威海衛發動攻勢。光緒廿年十二月二十五日（1895年1月10日）自榮成登陸，向西攻擊，以拊威海衛之背。光緒廿一年正月初五日（1895年1月30日）攻陷威海衛炮台，同日，日艦25艘包圍威海衛港口，海陸兩軍夾攻停泊在劉公島的大清北洋艦隊，海戰爆發，定遠和來遠兩艦中魚雷沉沒，靖遠則被大炮擊沉，丁汝昌眼見大清海軍敗得如此淒慘，自己身為海軍統帥，有何面目上岸，因此放聲痛哭，仰藥自盡。丁汝昌一死，北洋艦隊大小軍艦30餘艘，高豎降旗，悉為日本俘獲。
當時清朝的海軍可分為北洋、南洋、閩洋、粵洋四支，北洋艦隊最強最大，四支海軍互不相屬。甲午年春間李鴻章主持海軍大會操，粵洋艦隊的廣甲、廣乙、廣丙三艦被檄調參加會操，操畢恰遇戰爭，遂併入北洋艦隊以壯聲勢。六月廿三日，廣乙護送高昇輪載兵往牙山，遇敵火攻，兩船被毀。八月十八日鴨綠江之戰，廣甲逃回大連，中途擱於沙磧，亦告沉沒。廣丙則為日軍所俘。接洽投降的道員牛道竟致書日本受降的海軍提督伊東-亨說：
「廣甲、廣乙、廣丙三艦向隸廣東，冠以廣字可為證明；查廣東一省，本與軍事不相干涉，今甲乙之劫，僅存一丙，北洋已無以對廣東，望貴提督念廣東為局外之義，並思該艦管帶張副將（實系程璧光）日來有往返傳語之勞，可否提出該艦，即交與該副將帶回廣東，俾得於總督前略存體面，不勝感激。」
中日兩國在朝鮮開戰後，李鴻章委直隸臬司周馥辦理東征轉運事宜。周馥邀袁世凱襄助，袁乃赴鳳凰城設局，這時候日兵已將渡鴨綠江而西。扼江的清軍各路統帥如宋慶、劉盛休、馬金敘等兵雜將囂，毫無紀律，索械索餉，隨給隨棄。
袁世凱就清軍的後勤補給作了一個全盤的建議，他說：
「新民廳在榆關至鳳凰城中間，東扼遼河，水陸通衢，奉北雜糧，輻輳於此，宜設糧台，厚儲糧餉，按前後要站，分設官車，隨時協雇民車，分段轉運。盛京以東亦有數處當可採買，擬於駐兵處就近買存。總以新民廳為根據地。」
光緒廿年（1894年）九月，日軍渡遼河，馬玉昆、宋得勝力戰敗北。宋慶擬退扼摩天嶺，袁認為日兵必分三路進，徒守一路，無濟於事，這時他害肺炎，力疾赴遼設餉局所。而日軍在岫巖州花園口下游登陸，分兩路進軍，一支向大東溝，一支向皮子窩進發，防守的清軍疲於奔命。十月袁至望寶台，潰兵搶掠運局車馬，袁搜截數百人，殺戮數人，才阻遏了搶掠。
清軍無論訓練和作戰、都是舊法，日軍已完全西法，兩相對比，不堪一擊，袁據此給了盛宣懷一個電報云：
「西人用兵大概分為四排隊，前一排散打，敗則退至第三排後整隊，以第二排接應，輪流不斷，後排隊伍嚴整，亦以防包抄傍擊。又隊後數里駐兵設炮，遏止追兵，掩護殘卒，雖敗不潰。今前敵各軍平時操練亦有此法，乃臨陣多用非所學，每照擊土匪法，挑奮勇為一簇，飛奔直前，宛同孤注，喘息未定，已逼敵軍，後隊不敢放槍，恐誤擊前隊。只恃簇前數十人，擁擠一處，易中敵彈，故難取勝。後隊又不駐兵收束，一敗即潰。請告統帥，飭各軍照西法認真練習。」
又說：「劉盛休軍事以潰掠為事，毫無戰志。聶士成軍兵不過千餘，又精壯俱歿，呂道生軍亦傷亡大半，實難再戰。莫若調回整頓。……宋慶南援，似知嶺不可守，退難過沈，故請作游擊之師。事勢至此，惟有停戰議和，較為合算。」
光緒廿年（1894年）十二月，清廷派兩江總督劉坤一督辦關外軍事，駐節榆關。光緒廿一年（1895年）二月牛莊、營口相繼失陷，李鴻章奉命赴日本議和。袁向劉坤一陳說戰略：
「管見用兵必須嘗罰公平始足以資鼓勵，我公駐關督師，應請隨時分別賢否，立予抑揚，庶諸將咸知懲勸，冀可挽救。查馬玉昆膽識兼優，宋得勝忠勇成性，均疊經苦戰，始終如一。似宜請旨嘉獎，俾益加奮勉。吳鳳柱、徐邦道兵多騷擾，不知自愛，似宜申斥，俾知警惕。營口防營蔣希夷委棄重地，肆行剋扣，似宜俟兵隊解散後，從嚴參辦。此五人只舉其尤，時艱至此，惟望淑慝先分，庶中材皆知激勸。」
光緒廿一年（1895年）正月，袁復趕返前所（地名），與聶士成會晤。二月返石山站，牛莊和營口相繼陷落，於是清廷下詔派李鴻章赴日本議和。這時，由於清軍海陸均慘敗，舉國震動，朝野嘩然，眾謗集於李鴻章，有謂李鴻章私通日本，「用一衛汝貴而百戰之淮軍化為叛卒，用一丁汝昌而大桅之鐵甲盡屬漏舟」，有人竟參奏李鴻章的親信運軍火接濟日軍。大家不相信中國會敗於日本，遂將戰敗責任諉諸李鴻章。李奉命接洽議和，不敢成行，因西太后正在生病，而光緒不允割地。在這和戰未決的當口，日軍揚言將北取遼陽，西攻山海關，清將長順、依克唐阿匆遽告急，而關外各軍亦爭棄防地，紛紛後退，自相驚擾，不久遼南和牛莊亦告陷落。
清朝的海陸大軍都已徹底潰敗，局勢演變到了非和不可，清廷這才再下諭旨，責成李鴻章前往馬關與日本訂城下之盟。
光緒廿一年（1805年）二月，清廷正式向日本求和，並派遣日方所指定的李鴻章為談判代表。這時日軍已陷威海衛和遼東半島，北京危如累卵。李鴻章和日本首相伊籐博文、外相陸奧重光於三月廿日在馬關舉行首次會議。李鴻章和伊籐本系舊識，兩人見面甚為親切，一談就談了三個多小時，在這次會議上，李代表戰敗國，一切都立於不利地位。日本因為是戰勝一方，所以條件極為苛刻。
當馬關和會開始後的第三天，就是三月廿四日，李鴻章竟在會後返回旅邸途中，被日人狙擊，子彈轟入面頰，登時暈絕。當他甦醒後，拒絕停止會談轉而就醫，他說，「國步艱難，和局之成，刻不容緩，豈能延宕誤國，寧死不願就醫。」他的衫履滿佈鮮血，李鴻章慨然說：「此血所以報國也。」他有馬關記事詩一首，詩曰「勞勞車馬未離鞍，臨事方知一死難；三百年來傷國步，八千里路弔民殘。秋風寶劍孤臣淚，落日征旗大將壇，寰海塵氛紛未已，諸君莫作等閒看」。
日本自信可以戰勝中國，不過未料到勝得如此迅速和容易，途一經開戰後，清朝竟如此的不堪一擊。日本食髓知味，因此野心大增，得寸進尺，在談和時並不停止軍事行動，俾求議和條件可以更有利於日本。馬關和談開始時，日本的種種留難，藉故拖延，都是因為這個原因。不過當李鴻章被刺後，情勢遂為之一變，一個戰敗國家的議和首席代表，竟被日人狙擊，給國際間的印象是太惡劣了；李鴻章因被刺而換到和平，但《馬關條約》仍是很苛刻的。
《馬關條約》於光緒廿一年（1895年）四月十七日簽署，內容是：
（一）朝鮮獨立；
（二）割遼東半島、台灣和澎湖列島讓給日本；
（三）中國賠償給日本軍費二萬萬兩；
（四）允許日本人在中國各通商口岸從事商業工藝製造；
（五）凡西洋各國在中國所獲的特權，日本均得享受。
這個條約簽署後，西方國家為之大嘩，認為日本已侵犯了西方列強在中國的利益。尤其是俄國，俄國一直把遼東半島當作勢力範圍，如今竟被日人奪取，怎肯干休，於是便聯合德、法等國出面共同干涉，而日本則表示英國可以占舟山，俄國可以占北滿，德國亦可取沿海一島。日本這個主意是瓜分中國的辦法，但俄國不願接受。俄國野心不止是北滿，而是包括朝鮮和東北，雙方利益上既有這麼大的衝突，當然很難談得攏，幸而日本這時還不敢公然和列強決裂，因此勉強地把遼東半島退還中國，由清朝出銀3000萬兩為交換條件。
和議後，李鴻章成為眾矢之的，萬謗交集。他這年73歲，擔承衰老的清廷內外大政，內心確是非常痛苦。他曾寫了一封信給新疆巡撫陶模，可見其心境：
「十年以來，文娛武嬉，釀成此變。平日講求武備，輒以鋪張靡費為言，至以購械購船悉為歷禁。一旦有事，明知兵力不敵，而淆於群哄，輕於一擲，遂致益發不可收拾。戰絀而後言和，且值都城危急，事急萬分，更非平常交際可比，兵事甫解，謗書又騰，知我罪我，付之千載，固非口舌所能分析矣。」
甲午戰敗和《馬關條約》大大地傷了中國人的自尊心，可是中國人，並沒有接受這個教訓而自覺自強。