，刘大夏列举应当淘汰的传奉武臣六百八十三名，被批准。大汉将军薛福敬等四十八人也该削去官职，薛福敬等故意不入宫侍奉来激怒武宗。武宗立即命恢复薛等官职，而要求兵部回答详情，意欲加罪，宦官宁瑾磕头说：“这些是先帝遗命，陛下列入登基诏书，不宜问罪。”武宗才放弃追查此事。宦官韦兴在成化末年因有罪被长期罢官，这时靠巴结得以镇守均州。言官纷纷谏阻，刘大夏等再三争辩，武宗都不理。刘大夏又奏道：“镇守宦官，如江西董让、蓟州刘琅、陕西刘云、山东朱云贪婪残暴尤其厉害，请求审查惩处。”武宗不高兴，刘大夏知道自己意见不被采纳，数次上奏章请求辞官。
武宗下诏加封他太子太保，同意他返乡赐敕书、车马返回，按旧制供应粮食和役仆，给事中王翊、张襘请求留住刘大夏，吏部也要求留刘大夏，武宗不理。
刘大夏忠实诚恳，为孝宗所信任，忘我报国，对权贵近幸多行抑止，曾经要求严格考核勇士，为刘瑾所恨。刘宇也恨刘大夏，就与焦芳一起在刘瑾面前进谗言道：“抄刘大夏的家，可得边费的十分之二。”借田州岑猛的事，将他逮捕下到诏狱，刘瑾要以激变罪判大夏死刑，都御史屠滽不同意，刘瑾谩骂道：“即使不死，可以不去戍边吗？”李东阳从中调解，刘瑾探知刘大夏家贫穷，就判其到最偏僻的边境戍边。起初拟戍广西，焦芳说：“是送他回去吗？”于是改戍肃州。
刘大夏已有七十三岁，穿着布衣徒步经过大明门磕头而去，观者都叹息流泪，父老百姓携筐送吃的，刘大夏所到之处，人们为之罢市、烧香祝刘尚书生还。等到了戍所，各部门怕得罪刘瑾，不送食品不来慰问，儒学生徒送吃食给他，一到操练，刘大夏总是扛戈站进队伍。主管人再三推辞，刘大夏说：“军人本来就该服役的。”他只带来一个仆人，有人问他为什么不带子孙，他说：“我为官时，不为子孙捞好处，现在年老被罚，怎忍心令他们同我一起死在戍所呢？”刘大夏已经遣去戍边，刘瑾还借其他事二次罚他送米塞上。
刘大夏被赦免返乡，刘瑾被诛杀，恢复他官职，后退休，清军御史王相请求恢复刘大夏月粮和年役，录用其子孙，主事的宦官始终恨他，不答应。刘大夏回家后，教子孙种田谋生。稍有盈余，就分送给故旧宗族。预先自