司马懿的崛起之路，就是曹魏的衰亡之路，虽然曹操对司马懿有所警惕，但曹丕、曹叡对于司马懿越来越信任，不断委以重任。司马懿的年龄，也成为他成功的法宝，这些最终促成了司马懿的崛起。
曹操时代的参谋
司马懿生于179年，从年龄上来看，他和曹丕(187)、诸葛亮(181)、孙权(182)等是一代人。建安十三年(208年)，曹操为丞相以后，使用强制手段征召司马懿为文学掾。
司马懿在曹操时代的主要职责就是参谋。建安二十年(215年)，曹操征讨张鲁，司马懿随军，得到汉中之后，司马懿建议曹操趁机攻取蜀地，曹操没有听从;司马懿转任军司马，建议屯田解决粮食问题，得到曹操的采纳;关羽北伐襄樊，司马懿和蒋济建议让孙权进攻荆州，曹操听从他们的建议。
曹操逐渐察觉司马懿“有雄豪志”，又发现他有“狼顾之相”，心里很忌讳。因此对曹丕说，司马懿不是甘为臣下的人，必会干预我们的家族之事。但因曹丕和司马懿关系很好，司马懿又帮助曹丕成功上位，所以曹丕非常信任司马懿。
曹丕时代的留守
曹丕登基后，任命司马懿为尚书，不久转督军、御史中丞，封安国乡侯。黄初二年(221年)，免去督军官职，升任侍中、尚书右仆射。曹丕时期，司马懿主要是文官，并多次负责留守洛阳、许昌。
黄初五年(224年)，曹丕伐吴，临江观兵。司马懿奉命镇守许昌，并改封司马懿为向乡侯，转抚军、假节，领兵五千，加给事中、录尚书事。司马懿力辞不受，曹丕说：“朕夜以继日处理国家大事，没有须臾片刻的休息时间。如今册封你不是加以优荣，而是要你为我分忧。”
黄初六年(225年)，曹丕再次大兴舟师伐吴，命司马懿留守许都，对内镇抚百姓，对外为大军提供军资。临行，曹丕下诏给司马懿说：“我担心后勤和朝内之事，所以将这些大事委托给你。曹参虽多有战功，但是萧何在后方的支持才更为重要。如今你留守后方，使我无西顾之忧!”
曹叡时代的统帅
黄初七年(226年)五月，曹丕病重。临终时，令抚军大将军司马懿与中军大将军曹真、镇军大将军陈群、征东大将军曹休为辅政大臣。当时曹魏军队的主要统帅，还有曹洪、曹休、曹真、夏侯尚这些宗亲，司马懿还是没有单独领兵作战的机会。
曹丕时期曹魏的三路军区是这样安排的：曹真负责镇守西路，曹仁、夏侯尚负责镇守襄阳、曹休负责镇守东路，结果曹仁、夏侯尚、文聘等人先后去世，曹叡一时找不到合适的中路军统帅。
孙权得知魏文帝去世后，于八月出兵攻魏。命诸葛瑾、张霸兵分两路进攻襄阳，亲自率军进攻江夏郡。曹叡启用司马懿率军迎击孙权，这是司马懿第一次单独领兵作战，结果司马懿击退了孙权，又击败诸葛瑾，并斩杀张霸，斩首千余级。十二月，司马懿升任骠骑将军。
太和元年(227年)六月，魏明帝曹叡命司马懿驻扎宛城，加督荆、豫二州诸军事。自此，司马懿开始成为中路军统帅，此后司马懿简直如游龙入海一发不可收拾，他先是擒斩孟达，曹真去世后，他又在关陇抗蜀，抵御诸葛亮的北伐。之后，又平定辽东公孙渊。
此时曹休、曹真都已去世，曹魏第二代宗亲军事统帅全部没有了，司马懿南征北战在军队中的威望达到了顶峰。公元239年，年仅36岁的曹叡一命呜呼，留曹爽与司马懿辅政，司马懿的崛起终于不可遏制。十年磨剑，公元249年高平陵政变，曹魏政权彻底落入司马氏手中。
