汉朝武帝时期，位于北方边疆的匈奴日益强大起来，经常侵犯边关，引起连年鏖战，给两国人民都带来了深重的苦难。匈奴自从给卫青、霍去病打败以后，双方也有好几年没打仗。他们口头上表示要跟汉朝和好，实际上还是随时想进犯中原。匈奴的单于一次次派使者来求和，可是汉朝的使者到匈奴去回访，有的却被他们扣留了，汉朝也扣留了一些匈奴使者。天汉元年（公元前100年），汉武帝正想出兵打匈奴，匈奴派使者来求和了，还把汉朝的使者都放回来。汉武帝为了答复匈奴的善意表示，派中郎将苏武拿着旌节，带着副手张胜和随员常惠，带着一百多人，一同从西汉的国都长安（现在的陕西西安）出发了。
苏武身负着代表汉朝政府出使匈奴的重大责任，他很了解匈奴的强悍，也知道过去汉朝使者的遭遇，要完成自己的任务，是有着很大困难的。可他想到为国家出使，是一件最光荣的事情，他的决心就更坚定了。
苏武率领人马从西汉的国都长安到匈奴去，路程是很远的。苏武他们一路上辛辛苦苦，晓行夜宿，经过了好长时间，才到了长城关口。
在雄伟的长城上面，苏武骑着马，手里拿着皇帝派他出使匈奴的凭信——“汉节”。他们向长城北面望去，只见一片辽阔无边的沙漠和草地，很难看见村落，也看不到行人，北方大风夹着黄沙扑面吹来，周围的景色显得非常凄凉，就在这无边无际的草原里，居住着强大的匈奴族。
出了长城，又赶了不少的路程，他们终于到了匈奴单于于的王庭，拜见了且鞮侯单于，递交了释放匈奴使者的名单和皇帝赠送给单于的礼物。且鞮侯单于见了丰厚的礼物自然很高兴，岂料且鞮侯单于并非如想像中的那样和善，他同样也是个反复无常为人。他看自己的人都已回来了，而汉使又带来了那么多的礼品，以为汉朝的力量一定比以前有所削弱，无力与匈奴对抗，才对他们那么友好，所以他的态度反而骄横起来了。他两眼朝天，鼻孔中哼呀哼呀的，对苏武一副爱理不理的样子。苏武为了维护双方的和好，尽量耐着性子跟单于应付，准备尽快完成任务后返回汉朝。
正当苏武办完了所要做的事情，打算启程回汉朝的时候，不料发生了一件意外的事情，使他们的命运突然发生了变化。
原来有个人叫卫律，他父亲是匈奴人，卫律自己本人是在汉朝长大的，还在朝廷里当了官，在出使匈奴后就投降了匈奴。单于特别重用他、封他为王。卫律有一个部下叫做虞常，对卫律很不满意。他跟苏武的副使张胜原来是朋友，就暗地跟张胜商量，趁单于外出打猎的机会杀了卫律，劫持单于的母亲，逃回中原去。虞常和张胜是好友，便把自己的打算告诉了张胜，却不让苏武知道。
在举事前夕，消息走漏。单于子弟举兵先发制人，参与此事的一些匈奴贵族战死，虞常被捕。单于指派卫律办理这件案子。张胜闻知卫律办理此案，非常害怕，不得不把事情的经过告诉了苏武。苏武立即感到，没有诚意与汉朝和好的单于，必定要利用这个事端迫害汉使。苏武说：“既然副使张胜跟虞常有密谋，就一定会牵连自己，如果我汉朝的使者遭到匈奴的审讯，岂不侮辱了汉朝？”在苏武看来，因这件事而牵连，作为汉朝使臣，受到了侮辱才死，就更加对不起国家了。为了维护汉朝廷的威信，苏武当即拔刀自尽。由于张胜、常惠等人拦阻，才未死成。
苏武最终还是被牵连进了这一谋杀事件中。匈奴且鞮侯单于，决定迫使苏武一行投降以侮辱汉朝。于是，匈奴扣留了苏武等人，并指派卫律审问苏武。苏武当着前来审讯的卫律，对常惠等人说：“卑躬屈膝，有辱使命，即使活着，还有什么面目回汉朝去呢！”说罢，便拔出佩刀，刺进自己的胸膛，鲜血喷涌，顿时昏厥。卫律大吃一惊，亲自抱着苏武，飞马去找医生抢救。苏武一时气绝，经过半天的急救才苏醒过来。
因为苏武有宁死不屈的骨气，使得单于也暗暗佩服。他希望苏武能投降，像卫律一样替他效力。他早晚派人来问候，想要软化苏武，迫使苏武投降。
苏武的伤势渐渐好转，但面临的政治考验却日益严峻。单于在处死虞常的时候把苏武叫来，想借以迫降他。一剑斩掉了虞常以后，卫律说：“汉朝使者张胜谋杀单于的亲信大臣，应当处死。单于网开一面，投降的免死。”举起剑装作要砍下去，张胜害怕送命，当即跪下要求投降。卫律见自己的预谋初步得逞，就举着钢刀回过头来对苏武说：“副使有罪，你也应当牵连判罪。”苏武从容不迫地说：“我本来就没有参与密谋，跟他又不是亲属，何来牵连判罪？”卫律说：“副使已经投降，你也赶快投降，否则就把你杀了！”说着，装出要把刀砍过来的样子，苏武霍地一下站起来，迎着钢刀，伸长脖子，脸不变色地说：“你有胆量杀堂堂汉使．你就杀吧！”卫律见苏武那样镇定自若，知道用武力威吓不行，就收起钢刀，露出一脸奸笑对苏武说：“苏大人！单于佩服您的骨气，很愿意请您为他效劳。我看您还是投降吧！您看我投降以后，受到单于重用，被封为王，如今我手下有好几万人，牛羊满山，享尽了荣华富贵。您今天投降，明天也就会跟我一样。否则，您将白白地死在匈奴，葬身于荒原乱草之中。天高皇帝远，又有谁能知道您对汉朝天子的一片忠心呢？”苏武义正辞严地拒绝了卫律的利诱，骂道：“你是大汉的臣子，竟忘恩负义，背叛了皇上和亲人，甘当外国的俘虏。像你这样的人，我要见你做什么？”
苏武大义凛然，针锋相对。卫律无计可施，只好如实把情况报告且鞮侯单于。单于知道后，对苏武更为敬重，也更加想使他投降。于是单于亲自下令把苏武关在一个阴暗的大地窖里，断绝他的饮食，企图利用饥饿之苦，迫使苏武投降。当时，正值天降大雪，被捆绑着的苏武，躺在地窖里，啃雪拌着毡毛充饥。几天过去了，匈奴人发现，在这冰天冻地的日子里，苏武无饮无食，居然还活着，以为有神在保佑，故而不再敢迫害他。就把他放到北海没有人烟的地方，叫他牧羊，给的全是公羊，单于还特别地宣布：只有到了公羊产了小羊，才准苏武回国。单于的真实意图是十分清楚的。
这样，苏武作为汉朝使臣，为了汉匈两族的和好，出使匈奴，因事被无端牵连，却威武不屈，困苦不移。这种崇高的气节换来的却是长期监禁。