阿骨打稱帝后，決心攻打遼朝東北重鎮黃龍府（今吉林農安縣）。遼天祚帝派了二十多萬步兵、騎兵到東北去防守，被金兵打得大敗，連武器、耕具都丟得精光。遼天祚帝想跟金朝講和，金太祖可不答應，指名道姓要遼天祚帝投降。
遼天柞帝惱羞成怒，組織兵力七十萬，親自帶領到黃龍府去。
金太祖命令將士築好營壘，挖掘壕溝，準備抵抗。正在這個時候，遼朝發生內亂，遼天祚帝下令撤兵。金太祖趁機追擊，幾十萬遼軍一下就垮了下來。遼天祚帝一天一夜逃了幾百里，才算保住了一條命。
遼朝兵力大部喪失，北方人民不滿遼朝貴族的統治，紛紛起義，遼朝朝名存實亡。
此時，有人向宋徽宗提議，趁此機會聯合金朝滅遼，收復北方燕雲失地。於是宋徽宗派人從山東渡海，前往金朝會見金太祖，表示願意夾攻遼朝。雙方約定滅掉遼朝之後，北宋收回後晉時期割讓給遼朝的燕雲十六州失地，北宋把每年送給遼朝的銀、絹，如數轉送給金朝，歷史上把這件事稱作「海上之盟」。
按雙方約定，金兵向南進攻，接連攻下了遼朝四座京城。還留下一個燕京，由宋軍攻打。
剛剛*了方臘起義的童貫，帶領十五萬大軍趕到北方，攻打燕京。他滿以為遼兵的主力已經被金軍消滅，打下燕京可以不費多大勁兒。哪知道遼兵雖然虛弱，比宋軍還強得多。童貫一連打了兩次敗仗，不但未收復燕京，且損兵折將，多年積蓄的糧草、武器也全都丟光。
為了逃避失敗的責任，童貫暗地派人請金軍攻燕京。金軍一舉拿下了燕京，不肯還給北宋。童貫只好答應把燕京的租稅每年一百萬貫錢獻給金朝，才把燕京贖了回來。這一來，北宋王朝的腐朽可讓金朝看穿了。
公元1125年，金太祖的弟弟金太宗完顏晟派遼將追殺遼天祚帝，滅了遼朝。