武帝晚年杀戮太过，颇思悔悟。李广利伐匈奴不利，全军覆没，求神仙又不成，又因巫蛊之祸造成父子相残、太子刘据自杀，种种打击使武帝心灰意懒，对自己过去的所作所为颇有悔意。在登泰山、祀明堂之后，武帝在轮台宫殿(并非新疆轮台）里下《罪己诏》：《轮台罪己诏》“朕即位以来，所为狂悖，使天下愁苦，不可追悔。自今事有伤害百姓，糜费天下者，悉罢之！”以表示承认自己的错误。天下也因此又逐渐归于和谐，为昭宣中兴的盛世奠定了基础。
史书《罪己诏》记载：「朕自即位以来，所为狂悖，使天下愁苦，不可追悔。自今事有伤害百姓、靡费天下者，悉罢之。」强调「当今务在禁苛暴，止擅赋，力本农。修马政复令以补缺，毋乏武备而已。」
公元前88年，汉武帝叫画工画了一张“周公背成王朝诸侯图”送给霍光，意思是让霍光辅佐他的小儿子刘弗陵作皇帝。子幼母壮，为了防止太子的年轻母亲钩弋夫人重演吕后称制的局面，汉武帝狠下心找借口处死了她。公元前87年二月丁卯，汉武帝驾崩于五柞宫，享年七十岁。三月甲申葬于茂陵。
轮台罪己诏，晚年丧子和军事上的失利，使武帝在精神和思想上受到了严重的打击。征和四年（公元前89年），他对大臣们说：我即位以来，办了很多错事，使天下百姓愁苦，现在后悔也来不及了。今后凡是伤害百姓，浪费财物的事情，一律停办。丞相田千秋建议：很多文士都谈论神仙，但都没有成效，应当罢斥。武帝听后说：我从前太愚蠢，受了方士的欺骗。其实天下哪有什么仙人，全是方士们妖言惑众。注意饮食和服药，就可以减少疾病了。于是，便将方士全部遣散。
正当武帝为自己从前的所作所为深感后悔之时，搜粟校尉桑弘羊等人上书，请求派遣兵卒在轮台（今新疆轮台县东南）屯田，并严敕边郡太守、都尉，加强对边防烽火的管理，选拔战士，积蓄粮草。这个建议虽然有益于巩固边防，武帝却没有同意。他针对桑弘羊等人的上书，颁布了一道诏书，这就是著名的轮台罪己诏武帝在诏书中说：曩者，朕之不明，……兴师遣贰师将军（即李广利），……贰师败，军士死略离散，悲痛常在朕心。而击车师时，……发兵，凡数万人。……汉军破城，食至多，然士自载不足以竟师，强