判杖二十后获释放，父亲去世后，刘大夏一宿就动身奔丧。刘大夏服丧期满，调升广东右布政使。田州、泗城不安定，刘大夏前往告诫，事情很顺利地解决了，后山贼起，刘大夏奉檄文讨伐。他令部下只许活捉，验明为贼才杀，有一半人获得生还，改为左布政使，调往浙江。
黄河在张秋堤防决口，皇帝下诏博选才臣前往治理，吏部尚书王恕等推荐刘大夏，提升刘大夏为右副都御史前往。到职后，在黄陵冈疏通贾鲁河，又疏通孙家渡和四府营上游，以分水势。从胙城经过东明、长垣到徐州修筑长堤，共三百六十里长，水灾得到根治，张秋镇改名为“安平镇”。孝宗嘉奖刘大夏，赐玺书褒奖他。召他为左副都御史，任职户部左侍郎。
刘大夏受命兼佥都御史，前往宣府处理兵饷。尚书周经对他说：“塞上有权势家族的子弟以买卖粮食谋取私利，你不要因刚直招祸。”刘大夏说：“处理天下事，以理不以势，待我到后解决。”当初，塞上必须粟千石方能买入、草万束才得收进。由此宦官、武臣得以操纵市场，获取厚利。刘大夏下令有粮草的，草百束、粟十石以上都准许买卖，权势之家想牟利也落了空。不到两个月府仓储积有余，边人蒙受其利。
刘大夏连上三疏称病辞官，归乡后在东山下筑草堂，在堂中读书，被时人称为“东山先生”，廷臣纷纷举荐刘大夏，起任右都御史，统管两广军务。奉旨使者上门，刘大夏带二僮仆起程。两广人故来思念刘大夏，得知他即来任职都欢欣鼓舞。刘大夏到任后，清理吏治，减免官费供应，禁止镇守官私自役使军士，盗贼因此逐渐减少。
刘大夏被任命为兵部尚书，他屡次推辞未获准，这才接受，孝宗召见他，孝宗说：“朕数次任用你，你数次称病而去是为什么？”刘大夏磕头说：“臣年老又有病，看见国家民穷财尽，倘若有所不测，责任在兵部，自己估量力不从心，因此而辞。”孝宗听了沉默不语。南京、凤阳大风将树拔起，河南、湖广发生水灾，京师久雨成灾，刘大夏奏请凡属非祖宗留下的旧制而危害军民的，一一列举呈上革除。
刘大夏再次奏请，孝宗命有关部门呈报所应实行与该革除的事例，有关部门全都按实奏报，时逢廷臣奏陈十六件事，都是对权贵所不利的，因此权贵们极力阻止，孝宗