元狩四年（公元前119年），汉武帝派张骞再次出使西域，联合乌孙收回河西故地。
张骞归来后，多次随从大将军卫青出击匈奴。由于他在匈奴多年，有关沙漠地区的地理知识非常丰富，能为大军辨别水草之地，使大军行动不致困乏。因从军有功，张骞被封为博望侯。
汉武帝屡次召问张骞，向他询问大夏等国的情况，希望张骞再次出使西域，一方面想搜集西域的奇珍异宝，扬大汉朝兵威；另一方面是为了制服已向西转移的匈奴。张骞又向汉武帝建议，联络乌孙以对付匈奴。
张骞被扣留在匈奴的时候，就听说匈奴西部有一个大国叫乌孙，乌孙国王称呼为昆莫。最初乌孙国的部众在昆莫的父亲难兜靡率领下，和月氏人一起居于敦煌附近。后来，月氏人杀死了难兜靡，乌孙人就依附了匈奴。当时，昆莫年幼，为匈奴单于收养。昆莫长大以后，屡立战功。月氏人后来西迁，昆莫向单于请求发兵以报父仇，单于就把他父亲的旧部交给其管理。于是，昆莫率部西击大月氏。昆莫大败大月氏人，把他们赶到西夏，昆莫就率部定居下来，不再依附于匈奴。匈奴几次发兵进攻，都被昆莫击败。乌孙成为这一地区的强国。
浑邪王归顺汉朝以后，匈奴势力被汉军驱逐到沙漠以北，盐泽以东，不见匈奴踪迹，前往西域的道路也可以通行了。于是张骞建议说：“乌孙王昆莫本来是匈奴的藩属，后来势力渐强，不肯再事奉匈奴，匈奴派兵征服，没能取胜，于是远去。如今匈奴单于刚受到我朝的沉重打击，而过去的浑邪王辖地又空旷无人，蛮夷族的习俗依恋故地，又贪图我朝的财物，如果我们现在用丰厚的礼物拉拢乌孙，招他们东迁，到过去的浑邪王辖地，与我朝结为兄弟之国，他们一定会听从我们汉朝的驱遣，就等于断了匈奴的右臂一般。乌孙结盟之后，就连它西面的大夏等国，也都能招来成为我朝的藩属。”汉武帝认为他说的有理，便任命张骞做中郎将，率领三百人，每人二匹马，以及数以万计的牛羊和价值数千万钱的黄金锦缎；又任命多人为手持天子符节的副使，以便沿途如有通往他国的道路，就派一副使前往。
元狩四年（公元前119年），张骞率领使团再次出使西域。
卫青、霍去病三击匈奴以后，汉朝已经控制了河西走廊，匈奴主力逃往大沙漠以北，大沙漠以南已经基本上不见匈奴骑兵了。张骞此次出使西域，中途几乎没有遇到什么麻烦，顺利到达乌孙。而在这个时候，乌孙国内的政治形势十分不稳定。六十岁的乌孙老王昆莫想把王位传给长孙岑陬，但次子很不满意，就起兵反对，国内大乱，乌孙部众也因此分为互不统属的三个部分。
张骞到达乌孙后，乌孙王昆莫十分傲慢地接待了他。张骞转达汉武帝的谕旨说：“如果乌孙能向东返回故土居住，那么我大汉将把公主许配给国王为夫人，两国结为兄弟一般的国家，一起抗击匈奴。那匈奴就会被打败。”然而，乌孙自己因离汉朝太远，不知汉朝是大是小，且长期以来一直是匈奴的藩属，与匈奴相距又近，朝中大臣全都畏惧匈奴，不愿东迁。张骞在乌孙呆了很长时间，一直得不到明确的答复，便向大宛、康居、大月氏、大夏、安息、身毒、于阗和附近各国分别派出副使进行联络。最后，乌孙派几十个人护送张骞回汉朝，并答谢汉朝几十匹马，乘机让他们了解汉朝的实力。
元鼎二年（公元前115年），张骞回国，岁余，张骞死去。张骞死后一年，他派出去的副使先后完成任务，同各国所派的使节一道回到汉朝。中原同西域的外交关系正式建立并日益紧密。
从前，西域各国都受匈奴统治，匈奴西部的日逐王设置僮仆都尉统辖西域各国，常驻于焉耆、危须、尉黎一带，强掠各国的财富，并向它们征收很高的赋税。既然乌孙王不愿东还，汉朝就逐渐从内地迁徙百姓来充实这一地区，以后，又从酒泉分出部分地区设置武威郡，隔断了匈奴和羌人部落的联络通道。
乌孙使臣看到汉朝地域广大，回国后向其国王报告，乌孙于是更加重视同汉朝的关系。匈奴因为乌孙和汉朝建交，十分气恼，于是作了攻打乌孙的准备。乌孙国王害怕匈奴对其发动攻击，便派使臣向汉朝表示愿意娶汉朝公主为妻，与汉结为兄弟之好。汉朝君臣共同商议以后，同意乌孙国王的要求。于是，乌孙王以一千匹马作为聘礼，派人前去迎接汉朝公主。汉武帝封江都王刘建的女儿刘细君为公主，嫁给乌孙王，还赠以十分丰盛的陪嫁。乌孙王昆莫把汉公主封为右夫人。匈奴也嫁给乌孙王一女，被封为左夫人。汉朝公主自建宫室居住，一年四季同乌孙王见面一两次，一起饮酒吃饭。由于乌孙王年老，语言又不通，所以公主悲伤忧愁，思念家乡。汉武帝听说后很怜惜她，每隔一年派使臣给她送去锦帐、绸缎等物。乌孙王对汉公主说自己年纪已老，想让公主嫁给他的孙子岑娶军须靡。汉公主不肯依从并上书汉武帝。汉武帝回复她说：“你应当遵从乌孙国的风俗，因为我国希望与乌孙一起灭掉匈奴。”军须靡娶了汉公主。昆莫去世后，其孙军须靡即位，号为昆弥王。汉朝同乌孙和亲以后，乌孙成为汉朝在西域抗击匈奴的重要伙伴。
张骞两次出使西域，时间长达十几年，行程万余里，中间曾两次被匈奴扣留，他历经艰难险阻，终于完成出使西域，加强同西域各国的联系，孤立匈奴的使命。张骞出使西域，对恃西域诸国，无论强弱大小，一律平等相待，实行和平友好的政策。他性格刚毅，为人宽厚，以他的诚实获得广泛信任，深受西域各国各族的喜爱和欢迎。张骞死后，汉朝出使西域的使节，仍然打着他的旗号。
张骞出使西域，通过艰苦的努力建立起中原同西域各国的联系，掌握了西域地区的真实情况，改变了原先对西域情况模糊不清的认识，使过去对西域的传说和零散的记载，得到进一步证实和订正。《史记·大宛列传》和《汉书·西域传》就是根据张骞向汉武帝提供的报告写成的。
张骞出使西域，打开了长期被匈奴阻塞的东西通道，并同帕米尔高原以西各国建立了友好关系，加强了西汉同西域各国的政治、经济、文化交流。张骞出使西域以后，汉朝赴西域的使团络绎不绝，大者数百人，小者百余人。一年之中，出使西域的多达十余批，少的也有五六批。大批使者前往西域，远道的要八九年时间，近道的也要几年时间才能回来，其中很多是打着使者旗号到西域从事贸易的商人。西域各国来到汉朝的也很多，其中也有很多商人。