遂向苏武告辞而去。
李陵见苏武生计困难，待欲赠以财产，却嫌自己不忠，对之未免有愧，遂与其妻商议，用其妻名义赐与苏武牛羊数十头。又想起苏武妻已改嫁，子女不知在否，况且年纪将老，归国无期，不如劝他纳一胡女，免得孤身无伴，将来生下一男半女，也可接续血脉，因遣人将此意告知苏武。苏武也就答应了。
李陵乃就自己部下选一女子嫁之，从此苏武有了家室，不至如前寂寞，又得了许多牲畜，衣食也不至缺乏。
及武帝驾崩，李陵听到信息又到北海来见苏武，说道：“近日边界守兵捕得云中人口，说是主上已崩。”苏武闻言急问道：“此事确否？”李陵答道：“甚确。”苏武听了便向南号哭，哭到痛极不觉呕血。李陵自悔不该前来告知，极力劝慰一番后自行归去。苏武从此每日早晚哭泣两次，直到数月才罢。
当日霍光遣使到了匈奴，问起苏武，匈奴诈言已死，使者不知真假，只得依言回报。过了年余又有汉使到来，以为苏武果死，不复再问。一夜忽有一人求见，使者问其姓名，说是常惠，常惠乃苏武属吏。使者闻信惊喜，即令入见。
常惠见了使者，备细告知详情，使者方知苏武尚在。常惠又行近使者身边，附耳说了数语，使者点头应允。
到了次日，使者入见单于说道：“单于休得相欺，大汉天子在上林中射得一雁，足上系有帛书，乃是苏武亲笔，书中写道：‘臣苏武现在荒泽之中。’前日汉使问起苏武，单于如何说他已死？如今天可怜见苏武孤忠，使他帛书得达，又是天子亲手射得，单于更有何说？”单于闻言心中大惊。本来胡人生性率直，加以迷信甚深，今闻使者之言，以为射雁得书果有其事，又因自己说谎被人揭破，一时无从回护，便向使者谢过道：“苏武真的尚在。”使者暗想常惠之计果然不错，心中甚喜，即要求单于放之归国。
单于见汉使求索苏武，苏武在此日久，并无投降之意，留之无益于事。又想到马宏亦久留不降，不如一并放归。
说起马宏，乃于武帝时与光禄大夫王忠同奉使命前往西域，道经楼兰，楼兰王私告匈奴，发兵遮阻。王忠力战而死，马宏被擒入胡，匈奴迫其投降，马宏不从，也被拘留。如今得与苏武一同返国，真是幸事。
李陵听说后便置酒来与苏武作贺，因说道：“今足下得归中国，名扬匈奴，功显汉室，虽古史所载，丹青所画，不能胜过足下，但恨李陵不能追随左右。陵家族被诛，为世人所耻笑，我又有何