苏武说：“我苏武父子无功劳和恩德，都是皇帝栽培提拔起来的，官职升到列将，爵位封为通侯，兄弟三人都是皇帝的亲近之臣，常常愿意为朝廷牺牲一切。而今得到牺牲自己以效忠国家的机会，即使受到斧钺和汤镬这样的极刑，我也心甘情愿。大臣效忠君王，就像儿子效忠父亲，儿子为父亲而死，没有什么可恨，希望你不要再说了！”
李陵与苏武共饮了几天，又说：“你一定要听从我的话。”苏武说：“我料定自己已经是死去的人了！单于一定要逼迫我投降，那么就请结束今天的欢乐，让我死在你的面前！”李陵见苏武对朝廷如此真诚，慨然长叹道：“啊，义士！我李陵与卫律的罪恶，上能达天！”说着眼泪直流，浸湿了衣襟，告别苏武而去。李陵不好意思亲自送礼物给苏武，让他的妻子赐给苏武几十头牛羊。
苏武牧羊
后来李陵又到北海，对苏武说：“边界上抓住了云中郡的一个俘虏，说太守以下的官吏百姓都穿白的丧服，说是皇上死了。”苏武听到这个消息，面向南放声大哭，吐血，每天早晚哭吊达几月之久。
汉昭帝登位，几年后，匈奴和汉达成和议。汉廷寻求苏武等人，匈奴撒谎说苏武已死。后来汉使者又到匈奴，常惠请求看守他的人同他一起去，在夜晚见到了汉使，原原本本地述说了几年来在匈奴的情况。告诉汉使者要他对单于说：“天子在上林苑中射猎，射得一只大雁，脚上系着帛书，上面说苏武等人在北海。”汉使者万分高兴，按照常惠所教的话去责问单于。单于看着身边的人十分惊讶，向汉使道歉说：“苏武等人的确还活着。”于是李陵安排酒筵向苏武祝贺，说：“今天你还归，在匈奴中扬名，在汉皇族中功绩显赫。即使古代史书所记载的事迹，图画所绘的人物，怎能超过你！我李陵虽然无能和胆怯，假如汉廷姑且宽恕我的罪过，不杀我的老母，使我能实现在奇耻大辱下积蓄已久的志愿，这就同曹沫在柯邑订盟可能差不多，这是以前所一直不能忘记的！逮捕杀戮我的全家，成为当世的奇耻大辱，我还再顾念什么呢？算了吧，让你了解我的心罢了！我已成异国之人，这一别就永远隔绝了！”李陵起舞，唱道：“走过万里行程啊穿过了沙漠，为君王带兵啊奋战匈奴。归路断绝啊刀箭毁坏，兵士们全部死亡啊我的名声已败坏。老母已死，虽想报恩何处归！”李陵泪下纵横，于是同苏武永别。单于召集苏武的部下，除了以前已经投降和死亡的，总共跟随苏武回来的有九人。
苏武于汉昭帝始元六年（前81）春回到长安。昭帝下令叫苏武带一份祭品去拜谒武帝的陵墓和祠庙。任命苏武做典属国，俸禄中二千石；赐钱二百万，官田二顷，住宅一处。常惠、徐圣、赵终根都任命为皇帝的侍卫官，赐给丝绸各二百匹。其余六人，年纪大了，回家，赐钱每人十万，终身免除徭役。常惠后来做到右将军，封为列侯，他自己也有传记。苏武被扣在匈奴共十九年，当初壮年出使，等到回来，胡须头发全都白了。
苏武归汉第二年，上官桀、子安与桑弘羊及燕王、盖主谋反，苏武的儿子苏元因参与上官安的阴谋，而被处死。起初，上官桀、上官安与大将军霍光争权，上官桀父子屡次把霍光的过失记下交给燕王，使燕王上书给皇帝，告发霍光。又说苏武出使匈奴二十年，不投降，回到汉廷后，只做典属国。而大将军属下的长史官并无功劳，却被提升为搜粟都尉，霍光专权放肆。等到燕王等人谋反，被杀，追查处治同谋的人，苏武一向与上官桀、桑弘羊有旧交，燕王又因苏武功高而官小数次上书，替他抱不平，他的儿子又参与了谋反，主管刑狱的官员上书请求逮捕苏武。霍光把刑狱官的奏章搁置起来，只免去了苏武的官职。
过了几年，昭帝死了。苏武以从前任二千石官的身份，参与了谋立汉宣帝的计划，赐封爵位关内侯，食邑三百户。过了很久，卫将军张安世推荐说苏武通达熟悉朝章典故，出使不辱君命，昭帝遗言曾讲到苏武的这两点长处。宣帝召来苏武在宦者令的衙门听候宣召。多次进见，又做了右曹典属国。因苏武是节操显著的老臣，只令他每月的初一和十五两日入朝，尊称他为德高望重的“祭酒”，非常优宠他。苏武把所得的赏赐，全部施送给弟弟苏贤和过去的邻里朋友，自己家中不留一点财物。皇后的父亲平恩侯、宣帝的舅舅平昌侯和乐昌侯、车骑将军韩增、丞相魏相、御史大夫邴吉，都很敬重苏武。
苏武年老了，他的儿子以前被处死，皇帝怜悯他。问左右的人：“苏武在匈奴很久，有儿子吗？”苏武通过平恩侯向宣帝陈述：“以前在匈奴发配时，娶的匈奴妇人正好生了一个儿子，名字叫苏通国，有消息传来，想通过汉使者送去金银、丝绸，把男孩赎回来。”皇帝答应了。后来通过随汉使者回到了汉朝，皇帝让他做了郎官。又让苏武弟弟的儿子做了右曹。
苏武活到八十多岁，汉宣帝神爵二年（前60年）病亡。
