为摆脱被动，率兵争夺定军山。
蜀讨虏将军黄忠居高临下，发动迅猛冲击，斩夏侯渊及益州刺史赵颙，曹军大败，退守阳平关东。
当初，夏侯渊与刘备作战时，郭淮有病，未能随其出战。
夏侯渊死后，魏军新失主帅，怕为蜀军所乘，三军皆失色。
司马郭淮和督军杜袭收敛散卒，号令诸军：“张将军是国家的名将，深为刘备所忌惮；如今军情紧迫，只有在张将军的指挥下，才能转危为安。”
于是推举张合继夏侯渊为魏军主帅。张合出任，诸将皆受张合指挥，军心乃定，让魏军免于更大的溃败，
第二天，刘备欲渡汉水来攻。诸将认为寡不敌众，想依水为阵以拒蜀军。
郭淮说：“这是向敌人示弱，不能击败敌人，这不是上策。不如撤离岸边，在远处设阵，诱使敌人前来，等他们渡到河中央再发起进攻，一定可以打败刘备。”
遂在汉水以北列阵，打算等到蜀军涉水半渡时进行反击。刘备疑心重重，隔水相持而不渡。郭淮遂坚守，示无还心。
不久，曹操让张合假节，以郭淮为张合司马。
太和二年，蜀丞相诸葛亮首次攻魏，派马谡守街亭，高详驻军柳城。张合率军攻打街亭，而郭淮则率军佯攻柳城，牵制蜀军。随后又在枹罕破羌人唐泛，加建威将军。
太和五年二月，诸葛亮第四次攻魏，包围祁山。
郭淮奉命与左将军张合等随大将军司马懿防御蜀军。司马懿留部将费曜、戴陵率四千人守上邽（今甘肃天水），自率主力西救祁山。
诸葛亮亦分兵一部继攻祁山，自率主力迎击司马懿。
郭淮与费曜等率军袭击蜀军，但被诸葛亮击破，蜀军乘势抢先收割熟麦，获得军粮。
时陇右无粮，有人建议从关中运粮，便路途非常远。
这时郭淮招抚羌人，恩威并施，遂解军粮之急，转为扬武将军，又是破坏了一次丞相北伐的大计！
青龙二年，二月，诸葛亮率军十万出斜谷第五次攻魏。
四月，诸葛亮至郿，进驻渭水之南。司马懿率军渡渭水，背水筑垒阻击。
司马懿分析形势后，对诸将说：“诸葛亮如果从武功