亲，马文升抑制王俨，很难说不是因为刘大夏。
刘大夏所倚重的副手、兵部侍郎熊绣被推举为两广总督。熊绣不愿外出，也怨恨于马文升。他们纠结在一起，又拉出与刘大夏为同乡及同寅的阁臣李东阳，顿时形成一股反对马文升的强大力量。御史何天衢首先发难，弹劾马文升老衰。马文升于是请求致仕，在上奏了二十一道奏疏后，武宗方才允准。
宦官刘瑾专权期间，将一批反对派官僚定为奸党，马文升与其中一些人关系密切，马文升被削秩除名。马文升去世，享年八十五岁，葬于州北大隗山麓，马文升死后两个月，刘瑾被捕入狱。朝廷还未听闻马文升的讣讯，下诏命其“致仕复职”，闻其死讯后，为他辍朝一日，赐祭葬，追赠特进光禄大夫、太傅兼太子太傅，谥号“端肃”，世宗朱厚熜又加赠马文升为左柱国、太师兼太子太师。
马文升先后辅助代宗、英宗、宪宗、孝宗、武宗五朝，历仕五十六年，与王恕、刘大夏合称“弘治三君子”。早年在山西、湖广、福建任地方官时，“发奸擿伏”，革除民弊。明宪宗时，参与平定固原盗乱，抵御鞑靼，总制三边，并整饬辽东边备、总督漕运，功勋卓着。孝宗时，马文升主持兵部，整顿京营、边务，处置哈密事宜。后任吏部尚书，裁去传奉官七百六十二人，又在官员考察时严加处置。