曹操在位期间，深谙司马懿之才，两度力邀其出仕，而司马懿初以诈病婉拒，巧妙避过曹操的试探。审时度势后，司马懿适时“康复”，应召入朝，旋即获得曹操的赏识与提拔，直至担任太子中庶子，与曹丕建立起深厚的信任，并在国家决策中发挥关键作用。随着功绩累积，司马懿地位日益显赫，最终晋升为丞相军司马。
曹操逝世后，司马懿妥善料理后事，其周密安排深得曹丕感激。曹丕登基魏王后，立即提升司马懿为河津亭侯及丞相长史，双方在篡汉建魏的计划中紧密合作。曹丕称帝后，司马懿被赋予更多要职，包括尚书、督军、御史中丞等，并受封安国乡侯。曹丕临终，将年幼的太子曹叡托孤于司马懿与数位重臣，司马懿的影响力进一步增强。
及至魏明帝曹叡时期，司马懿的地位再次跃升，被封为舞阳侯及骠骑将军，并在与蜀汉的对峙中扮演关键角色。面对诸葛亮的北伐，司马懿作为魏军统帅，与曹真、张合等将领协同作战，显示了非凡的军事才能。特别是在公元229年的战役中，司马懿兵分多路，成功抵御并反击了蜀军的攻势，直捣新丰，迫使蜀军因天气不利及重大损失而撤退，最终司马懿审慎评估战场形势，决定班师回朝，确保了魏军的胜利果实。
公元231年，诸葛亮再度北伐，祁山战鼓雷动，司马懿迅疾领兵固守长安，严阵以待。此役，蜀军巧夺粮草，维系军需，双方激战连连。然而，因策略上的瑕疵，蜀军渐处劣势，诸葛亮亦在此期间不幸病逝，标志其长达七年的北伐征程遗憾落幕。司马懿因战功卓着，被晋升为太尉，欲乘胜追击蜀汉，终因魏明帝阻拦而止。
公元235年，辽东的公孙度家族成为司马懿关注的新焦点，其反复无常，至公孙渊继任太守后，公然叛魏自立为燕王，定都襄平。魏明帝批准司马懿领兵东征，四万精兵兼程而进，历时数月抵达辽东前线。公孙渊仓促布防，却未能抵御司马懿的智略。司马懿巧布疑兵于南，诱使公孙渊主力南移，而魏军主力则悄然渡过辽水，直逼襄平。猝不及防之下，辽军三战皆败，襄平终落魏军之手。