公元420年，刘裕废东晋恭帝自立为帝，国号宋，史称刘宋。在南朝，传国玉玺历经了宋、齐、梁、陈的更迭。南朝梁武帝时，降将侯景反叛，攻破宫城，劫得传国玉玺，不久侯景败死，他的部将侯子鉴将玉玺投到了栖霞寺的井中，有一个寺僧将玉玺捞出收存，后来他的弟子将玉玺献给了陈武帝。
杨坚建立隋朝后，公元589年，灭陈统一全国，传国玉玺入了隋宫。大业十四年（618年）三月，隋炀帝杨广被杀于江都（今扬州），隋亡。萧后及太子元德携传国玉玺遁入漠北突厥。唐初，太宗李世民因无传国玉玺，于是刻数方“受命宝”、“定命宝”等玉玺，聊以自慰。
玉玺于各朝各代间辗转流传
公元630年，李靖率军讨伐突厥，同年，萧后与元德太子背突厥而返归中原，传国玉玺归于唐朝。唐末，天下大乱，群雄四起。朱温篡唐后，传国玉玺又遭厄运。后唐废帝被契丹击败，登楼自焚，玉玺也遭焚烧，下落不明。郭威建后周后，遍寻传国玉玺不着，无奈镌“皇帝神宝”等印玺两方，一直传至北宋。
