汉武帝除了在正面战场上和匈奴展开激战之外，还在外交上对匈奴人采取了攻势，希望寻找些盟友，夹攻匈奴，这样可以使匈奴人左右难顾，以便从根本上削弱匈奴人的实力。为了这个目标，汉武帝先后派遣张骞两次出使西域。
建元二年（公元前139年），汉武帝刚刚即位三年，就开始考虑到和匈奴的不可避免的未来战争。但当时黄老无为治国派占有主要权位，所以汉武帝也不敢贸然就开始以武力北击匈奴。他觉得以汉朝独自的力量，将来也不容易制服匈奴，就想到要再找一个盟友。汉武帝想到的一个非常理想的合作伙伴就是被匈奴逼得到处迁移的大月氏国。
原先月氏国在匈奴西边，汉朝本来跟月氏就不通音信，现在月氏被匈奴人赶到更远的地方，这样离汉朝更远了。谁也不知道月氏现在的确切位置，而且要找它还必须得经过匈奴境内。所以，出使大月氏是个极为艰巨而危险的任务。
汉武帝想派人去联合大月氏国，由于这个任务很艰巨，没有一个大臣敢去。汉武帝只好下诏招募使者。汉中人（今陕西汉中）张骞，在汉武帝即位初年做过郎中一官，他有胆有识，第一个应征出使月氏。
汉武帝很赞赏张骞的胆识，任命他为大汉的使者，同时给他配置了一百多个随从人员。
出了陇西，他们一行人进入了匈奴的境内。因为这时候尽管汉匈之间正在和亲，但关系仍很紧张。况且这次出使又没有通知匈奴方面，所以张骞领着这些人急速地向西前进，心中祈祷着不要碰上匈奴人。
突然，一片土岗后面出现了匈奴人的骑兵，他们早就盯上了这支一百多人的队伍，一看后面没有汉军的大部队，就放心大胆地拦住了张骞他们一伙人的去路。张骞和手下人冲也冲不过去，想往回逃跑又离汉境太远了，双方也没发生冲突，张骞他们全都成了匈奴兵的俘虏，被送给了匈奴单于处理。
当时由于汉匈之间和亲关系还在维持，所以匈奴单于也就没有杀掉汉使团成员。单于把张骞和他的手下扣留下来，不让他们实现与月氏的联盟。为了拴住张骞，单于特地赏赐给他一个匈奴女子为妻。
张骞被困在匈奴，而且成立了家庭，时间一天天地过去，转眼草枯草青，过了六个年头，匈奴妻子为张骞生了一个儿子和一个女儿。而这时候，汉匈之间关系却发生了重大转折，汉武帝开始了对匈奴的反击战争，汉匈之间的关系正式破裂，相互兵戈相见，开始了汉匈之间的战争时期。
这时候的张骞对外界情况略有所知，他心中颇为紧张。而匈奴人一心关心边境战争，也无人顾及张骞，只是加强了对他的监视。单于看到张骞已经成家生子，也就没有杀掉他。
张骞又眼巴巴地等了几年，他心里一直为没能完成使命而焦急，但有匈奴人的严密监视，张骞又不敢轻举妄动，他心里默算着，他被困居在匈奴已有十个年头了。
这时候张骞已经从外表上看不出和匈奴人有什么两样了，日常生活也比以前自由了许多。
尽管张骞在匈奴生活挺安定，其实内心里一直在寻找一个逃跑的机会。他暗地里召集他的手下，商议逃跑的计划。在一个深夜里，他们偷出了匈奴人的马匹，趁着匈奴人没有注意他们，快马加鞭，向西逃去。因为匈奴人让他们居住在匈奴的西部，这样，正好缩短了去西边的路程。这些人虽然不知道月氏国到底在哪，但他们也抱着一个信条，只要往西去，一定错不了。他们跑了几十天，吃尽千辛万苦，终于逃出了匈奴地界。
张骞拦住一个过路人一打听，原来前面并不是月氏国，他们闯到了大宛国的境内来了。但总算逃出匈奴的牢笼，他们都松了口气。
大宛国在月氏的北面，是西域列国之中的一块宝地，出产快马、苜蓿和葡萄。大宛是匈奴的邻国，所以国人会说匈奴语。张骞就和大宛国的士兵讲明白是汉朝的使节。
大宛王早就听说在遥远的东方有个汉帝国，地方很富庶，听从匈奴那边过来的人讲，汉朝的金银财宝，绸缎布帛多得用不完。大宛王十分羡慕这个富庶的大国，一心想交结，只是苦于路程太远，加上中间有匈奴的阻隔，没有办法往来。
大宛王听了卫兵的报告，非常高兴。马上召见了远方的来使，表示了热情的欢迎。
张骞持汉节恭敬地对大宛王说：“我们是奉大汉皇帝的诏令前往月氏国通好的使者，现在途经贵国。如果大王能够派人送我们去月氏，将来回到中原，我们的皇上一定会感激大王的美意，会拿最好的礼物来答谢。”大宛王一听事情好办又有利可图，马上一口答应下来。他为了表示诚意，就对张骞说：“从这到月氏还要经过康居国。康居人和月氏人语言相同，但你们可听不懂，我派一个能说月氏话的人给你们做翻译吧。”
张骞一行辞谢了大宛王，在大宛国的军队护送下，出了大宛进入康居境内。康居和大宛素来相好，又有大宛王的介绍，康居王对张骞一行十分热情，也派人护送他们到了月氏。
不想张骞一行人的满腔喜悦，迎头却让月氏人浇上了一盆凉水。
原来月氏国被匈奴攻破以后，大部分月氏人向西迁移，只有小部分人留在故地。西迁的月氏人进攻大夏国，占领了大夏的大部分土地，并使大夏臣服。西迁的这支叫大月氏，留在故地的是小月氏。张骞所联系的是大月氏国。
大月氏国占领的新领地十分肥沃，物产丰饶，大月氏人十分满意新的居住地，又没有匈奴人的骚扰，日子过得挺惬意。所以根本也没有收复失地的想法了。听了张骞的来意，正当权的一位大月氏女王只是推说：“汉朝离我们太远了，只怕匈奴人再打过来，汉朝也无法救助。”于是她不愿意和汉朝结成反匈奴的联盟。
张骞一行还不死心，又在月氏国住了一年，等待大月氏女王回心转意。而大月氏人报仇的念头已经被舒适的生活冲得干干净净，他们对于再与匈奴打仗不感兴趣，但对张骞他们还是比较客气，当做一个大国的使者，挺有礼貌地招待着他们。
张骞在月氏国活动了一年，也没有结果，知道联合大月氏夹击匈奴的计划已经完全不行了。他拜见了大月氏王，提出了回国的请求，大月氏王也没有挽留。张骞一行悻悻地踏上归程。
返回汉朝还要从匈奴国中经过。张骞等人害怕再次被匈奴抓住，就从南道绕道回国，他们沿着祁连山南麓潜行，准备从羌族部落之间穿过去，这样可以避免从匈奴境内通过。
正当张骞等人快到羌族部落时，却又遇到了四处掠劫的匈奴兵，又成了匈奴人的阶下囚。匈奴人又把他们送回原看押地。
过了一年多时间，匈奴国中大乱，伊稚斜和於单叔侄二人为争夺匈奴单于位置大打出手。趁着这般乱劲，张骞领着匈奴妻子和甘父从匈奴国中逃了出来，吃尽千辛万苦，终于回到汉朝。
在逃回途中，多亏甘父的一把弓箭，射猎野味权以充饥。这样，张骞原来带了一百多位勇士出使，在外面整整度过了十三个春秋，最后只剩下他和甘父两人回来，其他人有的殉职，有的不知所终。
汉武帝热烈欢迎张骞和甘父的归来。他想不到去国十三载、杳无音讯的使者张骞又回来了。他饶有兴趣地听张骞谈论大宛、康居、大月氏和大夏的情况，以及张骞所说的有关安息、条支、身毒等国的趣闻。汉武帝大开眼界，这才知道，在汉朝以外，除了周围的蛮夷世界，还有那么多文明的种族和充满异国情调的国家。张骞这次出使西域，虽然没有达到联络大月氏的目的，但使汉武帝第一次了解了西域的许多地理、风俗、物产、政治和军事情况，这也是一个了不起的收获。
由于张骞等人立下大功，汉武帝封张骞为太中大夫，封甘父为奉使君，以表彰他们出使西域和勇于探险的精神。
张骞回国后，受到汉武帝的赏识。不久，汉匈之间又爆发了较大规模的冲突。张骞因为在匈奴生活了十多年，熟悉匈奴境内的地形和水草的分布。汉武帝就命令他随同大将军卫青一同北击匈奴。
张骞熟悉匈奴的情况，这次出兵，全靠他在前面领路，人马才不至于受渴挨饿。卫青单独地向汉武帝奏明了张骞的功劳，汉武帝马上封张骞为博望侯。
张骞后来在对匈奴战争中因为误时被夺去了侯位，被贬为庶人，但汉武帝还是常常召见他到宫中，询问有关西域的事。
西域各国原先饱受匈奴人的欺压，看到汉朝把匈奴人打败了，他们就开始动摇了对匈奴的畏惧感。一等到匈奴退到漠北，失了势，有的国家就准备不再向匈奴人进贡。
汉武帝看到去西域的道路已经打通，而且听说西域小国都有与汉通好的愿望就准备派张骞第二次出使西域，宣扬汉朝的国威。
张骞听说汉武帝再派他去西域，求之不得。他先向汉武帝提供了这次出使的大略意义。张骞说：“在匈奴人的西边有个乌孙国（新疆温宿县以北、伊宁县以南的地区），也受匈奴压制的。乌孙王国的国王昆莫本来是匈奴汗国的藩属，后来逐渐强盛起来，不肯再接受匈奴人的支配。匈奴人屡次进攻都不能得手，因而舍它而去。而今，匈奴受到了大汉的重创，而故浑邪王居住的地区已成真空。这里本是乌孙王国的故土，后来被月氏人赶到西边。少数民族的习俗是依恋旧居，又贪图中国赏赐的财物。如果趁着这个机会，用厚重的礼物去诱惑他们，请他们重返故土，与大汉结盟；成为友邦，势将听从大汉，那样的话，无疑是切断了匈奴汗国的右臂。而且只要乌孙一归附，那样乌孙以西的小国，和大宛、康居、大月氏等国就更容易结交了。”
汉武帝一听到有这么多国家都能内附，而且可以联合起来对付匈奴，觉得就是多送些金钱礼物也值得一试。
汉武帝赞成了张骞的看法，立即恢复其政治地位，让张骞做了中郎将一职，再一次出使西域。
元鼎二年（公元前115年），荒凉的河西走廊出现了一支庞大的汉朝使者队伍。喧闹的人声、马铃声和牲畜的叫声响彻塞外原野，人群一直缓缓向西流去。
张骞和他的几个副手走在队伍的前面，他们手持汉节，神色庄严，后面紧跟着三百名勇士，每人两匹马，一个骑人，一个载物，后面还有牛、羊一万多头，以及载满黄金、钱币、绸缎和布帛等价值几千万的礼物的车队。他们之中有许多人是持有汉节的副使，以便到西域后可分头出使各小国。
庞大的汉朝使团的第一站就是乌孙王国，他们一路没有遇到匈奴人的骚扰，到了乌孙国。乌孙王惊讶地迎接了这个庞大的使团。张骞代表汉武帝送给乌孙王很厚重的礼物，乌孙王更加惊喜，他狐疑不解地想听汉使有什么要求。
张骞对乌孙王说：“要是大王能够依靠汉朝，搬到东边来，汉朝皇帝愿意把那边的土地全部封给大王，还会把公主嫁给大王为夫人，给大王不少的礼物。这样两国结为亲戚，共同对付匈奴，这是个最好的出路。”
乌孙王一时不能决定。当时乌孙国中处于分裂状态，自己说了也不算，他就请汉朝使者先休息几天，自己召集了大臣商量怎么办。
他在乌孙等了很长时间，也没有得到满意的答复。张骞恐怕耽误时间，就先打发他的副手们拿着汉节，带上礼物，分头去联络大宛、康居、大月氏、大夏、安息、身毒和于阗（在葱岭以北，今新疆和阗县）等国家。乌孙王也派出了几个翻译去帮助他们。
副使们还没有回来，乌孙王倒先想派几个人去汉朝看看情况再说。张骞一看没有别的办法，只有让这些乌孙王的使者亲眼看到大汉的强大，才能摆脱匈奴，投入汉朝的怀抱，就答应了下来。乌孙王很有礼貌，他派遣使者一路送张骞回国，同时向汉武帝敬献了上等好马几十匹作为谢礼。
张骞带着乌孙的使者和几十个随从的人来见汉武帝。汉武帝一看外族的使者为大汉的气势所慑服，心中已经很是得意。他看到张骞手下牵上来的乌孙赠送的几十匹高头大马，更是欢喜异常。因为汉武帝一生酷爱良马，所以这一次分外称心。他吩呼手下重赏乌孙的使者，让他们到各处走走。
汉武帝回过头来，提拔张骞为大行令，负责管理与外国的一切事务。在张骞的带动下，汉朝和西域各国之间的联系大大密切起来。陇西荒原上各国的使者络绎不绝。
张骞的两次通西域，虽然没有达到预期的目的，但是打通了中西之间的交通线路，促进了东西文化的交流，在人类文明史上做出了重大的贡献。汉朝人把这件事称为“凿空”，就是“探险”之意，赞扬张骞打开中国与西方往来的大门。
过了一年，大探险家、外交家张骞因为辛劳过度，猝然离开人世。汉武帝为失去这样一个外交天才而郁闷了好几天。
一年以后，张骞派到各国的副使，完成使命也陆陆续续地回到长安，有些副使也带来了异国报聘的使者。从此之后，西域门户洞开，中西交通频繁起来。
汉朝和西域的沟通，有利于汉朝和西域各地在经济、文化等方面的交流。从汉朝运去的货物经过天山南路的主要是丝织品，即后人所谓的“丝绸之路”。
丝绸之路从汉都长安开始，经过甘肃的河西走廊，分为南北两道穿过塔里木盆地南北的绿洲，越过帕米尔高原，经过中亚和西亚，直达地中海的东岸，全长约七千公里。
在人类文明史上，丝绸之路不仅有商业上的重要性，而且是沟通东西方文明的桥梁和文化交流的大动脉。自张骞通西域之后，汉朝每岁派遣使节出使西域各国，中亚及西亚各族、各国的使节和商人，也跋山涉水，披星戴月，云集汉朝边塞。
随着东西客商的频繁往来，中国的先进技术亦随之传入西域各国。中国的铁兵器制造技术、以炼钢技术、凿井技术和利用渠道引水的方法在当时居于先进水平。这些技术传到了大宛，进而传到西域各国和欧洲，提高了这些地区的生产技术水平。
对于中亚、西亚、乃至欧洲和北非等地人民来说，他们最喜爱的还是各种精美的中国丝织品。正如后来的一位罗马僧侣曾这样说过：“汉朝丝绸，纤细如蛛丝、灿烂若云霞，色泽之鲜艳可爱赛过野花。”同时，汉长安城也因为向西方输出丝织品而蜚声西土。
大宛国盛产葡萄，那里的人用葡萄酿成美酒，而且嗜酒之风极盛。而大宛又盛产苜蓿，这是一种很好的牧草，苜蓿养育了大宛的良马。汉朝使者回来后，带回了葡萄和苜蓿的种子。汉武帝开始在长安城中大量种植。等到外国使者到长安城里看到离官别馆旁都种着一眼望不到边的葡萄和苜蓿，都感到很吃惊。汉武帝在城郊的上林苑中还以葡萄命名了一座离宫叫“葡萄台”。在城南的乐游苑，种植了许多苜蓿。当时长安人称苜蓿为“怀风”，又称之为“光风”，因为风行苜蓿丛中，常发出萧萧之声；而阳光照射其花，又有美丽的光采，因而得名。长安远郊的茂陵邑也种植苜蓿，当地人称之为“连枝草”。至今关中地区，还普遍栽植苜蓿，汉长安故城内随处可见，兴平茂陵一带尤多。