永乐元年（1403年），明朝派人至奴儿干地区招抚，次年各部归附，朝廷任命各首领为指挥同知等职，其后数年，明朝即以此为基础，逐渐在黑龙江、乌苏里江流域成立了一百三十一个卫。
永乐七年（1409年）闰四月，明廷设立奴尔干都指挥使司，以宦官、海西女真人亦失哈主其事，以招降女真。
奴尔干（女真语为图画的意思，表示这里山川景色美丽如画）。元朝的时候，在这里曾经设征东招讨使，管理和征收骨嵬部（库页岛）的军赋。14世纪50年代又在敦敦河口的哈儿分之地，建立了“吾者野人，乞列迷等处诸军万户府”，都由黑龙江下游的兀者、乞列迷等部管辖。
朱元璋建立了明朝之后，多次派遣官员到这里进行“招抚”。明太祖时，元辽阴行中书省平章刘益捧着辽东地图来降靠明朝。后来在辽东地区设辽东都指挥使司，领有25卫，其范围东至鸭绿江，西至山海关，南至旅顺口，北至开原的三万卫，北部辖区还包括了辽河。明太祖降纳哈出后，明军曾出开原，驻扎在松花江南北两岸。
明成祖朱棣即位后，在明太祖朱元璋经营东北的基础上，更加强了管理。永乐元年（1403年），明朝政府派官员往谕奴尔干，至吉（乞）列迷诸部招抚，进展很大。
十一月，女真部落首领阿哈出等入朝，明廷沿用金恤品路建州之名，在其地设建州卫（黑龙江东宁县境），任命阿哈出做指挥使。十二月，忽刺温（呼兰）女真部首领西阳哈、锁失哈等来朝，在其地设兀者卫（呼兰河中下游），西阳哈被任命为指挥使，锁失哈为同知。
第二年，各部首领相继入京归附明朝。明朝政府在此设立了奴尔干、建州等十卫，任命把刺答哈等做奴尔干卫的指挥同知等官，另外各部的首领又被任命为指挥同知等职务，而且赐给他们诰印官带袭衣。明政府为了便于管理东北地区的各族人民，从永乐元年（1403年）到永乐七年（1409年）在斡难河、黑龙江流经的南北区域，以及松花江、乌苏里江、格林河、亨滚河等流域，设置了132个卫。于是海西女真、建州女真、野人女真诸首颁相继归附。至此，明政府基本上统一了东北地区。
永乐七年（1409年），奴儿干官员忽刺佟奴来朝，奏请在奴儿干设立元帅府，闰四月明廷定议在其地设置奴儿干都指挥使司（简称奴儿干都司），由东宁卫指挥康旺为都指挥同知，千户王肇舟等为都指挥佥事。六月，又设置了奴儿干都司经历司，设经历一员。永乐九年（1411年）明成祖专门派遣内官亦失哈等率千余军官，25艘巨船，护送康旺等顺黑龙江而下，就任到亨滚河口对岸特林的奴儿干地就任。
正式建立的奴尔干都司，是明政府管辖黑龙江、乌苏里江流域等地的最高地方行政机构。设立了奴尔干都司之后，为加强对这一地区的管辖，明朝政府又陆陆续续建了很多的卫所。至英宗正统十二年（1447年）共建卫所184个，千户所20个。到万历年间，所建卫所达到384个，千户所24个。政令所行西起斡难河（鄂嫩河），北至外兴安岭，东抵大海，东北达库页岛。仅黑龙江南北地区的卫所，其数量就有67个。斡难河卫、卜鲁丹河卫等十四个卫所，设在斡难河以东，嫩江以西，包括呼伦贝尔地区和黑龙江上游南北地区。沿精奇里江设立的有脱木河卫、古里河卫等5个卫。精奇里江是黑龙江北岸支流，那里的垦荒历史有200多年，沿流域出现了专事农业的一些村屯，如博和哩屯、吴鲁苏屯、黄河屯（海兰泡）等，这便是历史上非常有名的“江东六十四屯”。在黑龙江城以东，到与松花江汇合处附近地区的卫所有可令河、木鲁罕山、哈喇察、兀喇卫等9个卫。以库鲁河为中心（伯力附近）设立了乞勒尼、忽鲁木、喜申、古鲁、亦儿古里等5个卫。撒儿忽，哈儿分等4个卫则沿敦敦河流而设。沿格林河设立了葛林、忽石门、卜鲁兀等5个卫。沿亨滚河（黑龙江北岸支流）设立了饮真河、满泾、朵儿必河等7个卫。奴尔干、兀的河、和囊哈儿、波罗河（两个卫在库页岛上）四个卫设立在由黑龙江到库页岛一带。在乌苏里江东部地区，还设了克默而河、亦麻河、失里、恨克、双城（俄称乌苏坦克斯克）等14个卫。这67卫在鸦片战争前均为我国领土。
奴尔干都指挥使司由明中央政府直接控制，是军政合一的最高地方行政机构。设有都指挥使、都指挥同知和都指挥佥事等军政长官。明成祖朱棣时，由于没有都指挥使，以都指挥同知为最高长官。
奴尔干都司辖区的人民，要向明朝政府上缴赋税，这同内地人民是一样的。他们通常是上缴当地的土特产，如海青、大鹰、鼠雕、白兔、黑狐、貂鼠、阿胶、海豹皮、海獾皮、殳角（海象牙）、鲸须、好刺（各色鹿）、马、失刺孙（即土豹）、金钱豹皮等。同内地的地方官吏一样，各卫所的官员，要对明朝中央政府的命令、调遣绝对地服从。
为了方便由内地到奴儿干地区的交通，从而便于送文件、运送官兵等，明政府在它所辖地区设立了东西两条驿站线路。一条是“海西东水陆城站”，自海西底卡失站（今黑龙江双城县西，拉林河畔花园屯古城），向东北沿松花江而下，直到黑龙江下游奴儿干都司治所附近的满泾站，有50余个城站分布在此条驿站线路上。另一条叫“海西西陆路”，从肇州起，经松花江、洮儿河往西直到兀良河（今满洲里附近），这两条驿站路线又连接了辽宁省东都司辖境内的驿路。这样一来使得处于边远地区的奴儿干都司与内地的联系进一步加强了。明朝政府还在驿站经过的地区征调劳役、畜力，设置站丁、站狗。为了运输的需要，明朝政府还在今吉林省吉林市附近松花江畔建立了船厂制造船只。
亦失哈、康旺等人对创建和经营奴儿干都司的贡献很大。亦失哈是钦差大臣，康旺、王肇舟属封疆大吏，自永乐七年（1409年）奴儿干都司筹建，直到建成并受命管理和经营，他们经历了全过程。在20多年中，亦失哈共巡视达十次之多。他们对边疆地区少数民族采取柔化抚恤政策，使奴尔干都司所辖地区的少数民族与明朝的关系极为密切。如永乐五年（1407年），到京师朝贡的纳木河等部落的首领就有三百人。永乐十年（1412年），奴尔干等处部族头目到京师朝贡的有78人，可以说，亦失哈、康旺、王肇舟等人在从事东北边疆的经营方面，贡献巨大而卓越。
另外，他们还在当时奴尔干都司的治所特林建立了一座供奉观音的永宁寺，并在两旁立了两块石碑，一块是在永乐十一年（1413年）所立，碑上刻有《敕修永宁寺记》；另一块是在宣德八年（1433年）所立，碑上刻有《重建永宁寺记》。这两块碑记，记载了明朝政府经营和管理奴尔干都司的经过。两块碑文均用汉文、蒙古文、女真文、藏文四种文字书写。碑文中的官员，有汉族人、蒙古族人、女真族人和其他少数民族，这证明奴尔干都司是明朝这个多民族国家的一级地方政权。虽然现在永宁寺早已不存在了，但这两块石碑曾经在原址巍然挺立500年，这是我国明朝政府管理奴尔干地区的历史见证。