非常道经过多年的努力，金太祖完颜阿骨打凭借过人的见识和勇敢，终于将女真这个弱小的民族壮大了起来。这不是每个君王都能做到的事情，完颜阿骨打不同于常人的英明改革措施，的确值得后人借鉴。
辽天庆三年，乌雅束因病去世，完颜阿骨打继任联盟长，并称为“都勃极烈”。次年六月，辽授以“生女真部族节度使”称号。阿骨打未嗣位前，在同辽的来往中，已显示了他的才能。他的父亲劾里钵临终前说过：“乌雅束柔善，唯此子（指阿骨打）足了契丹事。”阿骨打继任联盟长后，反辽重任自然落在他的身上。阿骨打是在女真人完颜部对内对外的实际作战中成长起来的军事统帅。
此时，辽正处于天祚帝统治时期，政治腐败，对女真部落的索取日渐增多，引起女真人的强烈不满。早在辽天庆二年时，天祚帝至春捺钵（今吉林大安月亮泡一带）钓鱼，接见附近各族头领，在头鱼宴上命各部首领依次歌舞，唯阿骨打辞以不能，谕之再三，就是不从。
阿骨打归来后即着手准备反辽。辽天庆四年，阿骨打遣蒲家奴前往辽朝，索要逃入辽的纥石烈部勃堇阿疎。后又遣习古逎等入辽以索要阿疎为名探查虚实，得知辽朝边备废弛。但此时契丹贵族对女真的崛起已存戒心，正调兵以防备女真。阿骨打对部属说：“辽人知我将举兵，集诸路军备我，我必先发制人，无为人制。”遂大会僚属，祭皇天后土、告辽朝罪状，宣用兵之意，号令诸部。同时派宗室子婆卢火征移懒路迪古乃兵，派斡鲁和阿鲁招抚系辽籍女真，派实不迭捉拿辽障鹰官。
九月，阿骨打聚集各路兵大会于来流水（今拉林河口西，吉林扶余石碑崴子屯附近），总共有两千五百人，在此誓师伐辽，数辽的罪过，主要有两个：一是有功不省，而侵侮是加；二是罪人阿疎，屡请不遣。然后命诸将传梃发誓说：同心协力，有功者，奴婢部曲为良，庶人官之，先有官者叙进，轻重视功。违誓者，身死梃下，家属无赦。随后进军宁江州（今吉林扶余东南）。
刚进辽界，他的军队就与耶律谢十率领的渤海军遭遇，阿骨打亲自射杀谢十，辽军大溃，女真首战告捷，士气倍增。十月，一举攻克混同江东的宁江州（参见宁江州之战）。反辽战争初告成功。
阿骨打为了在战略上达到彻底孤立辽统治者的目的，采取了分化瓦解的攻势。一次，阿骨打暗中放回辽防御使大药师奴，使其招谕辽人。又召渤海人梁福、斡答剌使之伪逃亡，招谕其乡人说：“女真、渤海本同一家，我兴师伐罪，不滥及无辜也。”还遣完颜娄室招谕系辽籍女真，揭露契丹贵族的残暴统治。同时派人抚定东北边远地区部落，达鲁古部、铁骊部、鳖古部等相继归附，终于稳定了后方。
就在这年的十一月，辽天祚帝遣东北路都统萧嗣先、副都统萧挞不也率步骑七千余人屯兵鸭子河（今吉林月亮泡以东、黑龙江肇源以西的一段嫩江）。阿骨打亲率甲士三千七百人乘夜鸣鼓举燧而行，黎明至河，踏冰抢渡，女真甲士仅渡过三分之一，就与辽军遇于出河店（今黑龙江肇源西南）。
当时正好碰到大风骤起，尘埃蔽天，阿骨打指挥将士乘风势击之，辽军大溃（参见出河店之战）。追辽兵于斡论泺，杀俘辽兵及车马、兵器、珍玩不计其数。
在反辽战争中，女真族由一个弱小的民族发展成为当时东北地区首屈一指的强大民族。阿骨打在反辽战争中，实际上成为战争的军事领导者。因而氏族制度转化为国家机关的条件也日益成熟。正月初一，阿骨打被拥戴为皇帝，国号大金，建元收国，建立起女真族上层领导的金朝。
金收国二年初，渤海人高永昌据辽东京（今辽宁辽阳）反辽，自称大渤海国皇帝，据辽东五十余州。乘辽东局势混乱，阿骨打以斡鲁统内外诸军取辽东京道。五月，擒高永昌杀之，夺得辽东半岛。同年十二月，阿骨打受群臣上尊号曰“大圣皇帝”，次年改元天辅。
在攻克宁江州后，阿骨打对其氏族制度进行了一次彻底的一系列的改革，确立适应奴隶制国家的统治体系与社会组织。他改革了猛安谋克制度。猛安谋克源于女真族部落的围猎组织，后来在对外战争中发展为军事组织。阿骨打嗣位的次年，下令“命诸路以三百户为谋克，十谋克为猛安，一如郡县置吏之法”。将女真族的村寨组织与猛安谋克组织相结合，使之成为新的行政、军事和生产三位一体的地方行政组织。阿骨打建金国后，这种军政合一的猛安谋克制度更为完善，作为社会的基层组织，对金朝奴隶制的巩固和发展起着十分重要的作用。