闻渊以长辈自居，独断专行，徐阶闷闷不乐，请求出避，于是命兼翰林院学士，教习庶吉士，不久任掌院事，进升为礼部尚书。
嘉靖帝认为徐阶为官勤勉，又擅长写青词，于是召值无逸殿，与大学士张治、李本一起赏赐飞鱼服及上方珍馔、上尊无虚日。众官推荐徐阶担任吏部尚书，嘉靖帝希望他留在身边而拒绝了，加太子太保。
当时，严嵩专权，徐阶起初不肯依附严嵩，严嵩经常在皇帝面前说他的坏话，徐阶的处境一度十分危险，这使他认识到不能以卵击石，于是他改变策略，事事顺着严嵩，从不与他争执。为了得到他的信任，还把自己的孙女嫁给严嵩的孙子，表面上十分恭顺。严嵩的儿子严世蕃十分霸道，多次对他无礼，他也忍气吞声，徐阶向嘉靖帝靠拢，专门挑皇帝喜欢的话说，终于讨得嘉靖帝的喜欢。不久，加徐阶少保头衔，接着兼任文渊阁大学士，进入内阁，参预机务。
后来，他密奏咸宁侯仇鸾罪状，使嘉靖帝杀掉仇鸾，得到皇上的信任，加太子太师头衔，地位进一步提高，仅次于严嵩。嘉靖帝居住的永寿宫发生火灾，暂时住到了玉熙殿，但是这里地方太小，于是嘉靖想营建新宫殿，他问严嵩，严嵩请求他回到大内住，嘉靖帝很不乐意。然后问徐阶，徐阶猜透了嘉靖的心思，建议用被烧毁宫殿的剩余材料，营建新的宫殿，他的建议得到嘉靖帝的赞同。由他主持建造成万寿宫，嘉靖搬了进去，徐阶因此加封少师，兼支尚书俸，而严嵩渐渐被皇帝冷落。
邹应龙告发严嵩父子，皇帝下令逮捕严世蕃，勒令严嵩退休，徐阶则取代严嵩为首辅，严嵩被勒令退休后，徐阶亲自到严嵩家去安慰。他的行为使严嵩十分感动，甚至叩头致谢，严世蕃也乞求徐阶替他们在皇上面前说情，徐阶满口答应。徐阶回到家里后，他的儿子徐番迷惑不解地问：“你受了严家父子那么多年的气，现在总算到了出气的时候了，你怎么这样对待他们？”徐佯装生气骂徐番说：“没有严家就没有我的今天，现在严家有难，我恩将仇报，会被人耻笑的。”严嵩派人探听到这一情况，信以为真，严世蕃也说：“徐老对我们没有坏心。”其实，徐阶这样做是因为他看出皇上对严嵩还存有眷恋，而皇上又是个反复无常的人，严嵩的爪牙还在四处活动，时机还不成熟。后来，嘉靖