不久，司马懿以谋反的罪名，杀曹爽及其党羽何晏、丁谧、邓扬、毕轨、李胜、桓范等，并灭三族。从此曹魏的军政大权完全落入司马懿的手中，为司马氏取代曹魏奠定了基础。
同年二月，皇帝任命司马懿为丞相，增繁昌、鄢陵、新汲、父城为其封邑，前后其计八县，食邑二万户，特许奏事不名。司马懿固辞丞相之职不受。十二月，诏命加九锡之礼，朝会不拜，又固辞九锡。
嘉平二年(250年)春，魏帝命司马懿在洛阳立庙。司马懿久病，不任朝请，每遇大事，天子亲自到他府中去征询意见。兖州刺史令狐愚和太尉王凌(驻在寿春)见皇帝孱弱，强臣专权，谋立楚王曹彪。未发，令狐愚死。
嘉平三年(251年)春正月，王凌借口吴人塞涂水，请求出兵征讨。司马懿知其阴谋，不令兴兵。并于四月亲率中军讨伐王凌。司马懿故计重施，他先下赦书赦免凌罪，又写信安慰他，但不久大军突至。王凌自知势穷，便独自乘船迎接，派属官王或请罪，送上印绶、节钺。
司马懿军到武丘，王凌在水边面缚等侍，说：“凌若有罪，公当折简召凌，何苦自来邪！”司马懿说：“以君非折简之客故耳”(《晋书·宣帝纪》)。说罢，命将领率六百人马想把王凌解送洛阳。王凌向司马懿要棺材上的钉子，想试探一下，看司马懿想不想杀自己，司马懿命手下人找来送给他。后来，王凌途经贾逵庙，曾大呼：“贾梁道！王凌是大魏之忠臣，惟尔有神知之”(《晋书·宣帝纪》)。五月，王凌到项城，绝望，服毒而死。
司马懿进军寿春，参与王凌之谋的人都出来自首。司马懿推知其事，凡牵连在内的一律诛灭三族。他还派人挖开王凌、令狐愚的坟墓，在附近的市上，剖棺暴尸三天，然后，烧掉他们的印绶、官服，把他们裸埋土中。司马懿把楚王曹彪也杀了。并且把魏之王公全部拘捕，放置邺城，命有司监察，不准他们互相交结往来。
魏帝策命司马懿为相国，封安平郡公，孙及兄子各一人为列侯，前后食邑五万户，封侯者十九人。司马懿固辞相国、郡公之位不受。
除军事方面外，司马懿在经济上也为魏国作出了重大贡献。时曹魏政权为了恢复北方经济，解决军粮问题，曾经推行包括民屯、军屯两类的屯田制度。司马懿在推广军屯事业上有很大的建树。约在建安二十三、四年，司马懿由转为丞相军司马后，向曹操建议：“昔箕子陈谋，以食为首。今天下不耕者盖二十余万，非经国远筹也。虽戎甲未卷，自宜且耕且守”(《晋书·宣帝纪》)。曹操行之。结果魏国一时“务农积谷，国用丰赡”(《晋书·宣帝纪》)。
曹操采纳这个建议仅一二年就死去了，在这样短的时间内要使军屯走向正规，大规模的铺开推行，当然是困难的。管理军屯的主要官吏——度支中郎将、度支校尉、度支都尉等官员，都是在曹丕称帝后的黄初年间(220—226)设置的。这说明军屯走上正规是在曹丕时期。
曹魏军屯推行很广泛，但主要基地是设置在边境驻军地区，特别是在和吴、蜀的军事对立地带。曹魏和吴、蜀对立地带的两大军屯基地的开创，都和司马懿有关系。
曹魏和蜀汉的邻近地区，如长安、槐里、陈仓、上邽等地，都设置有民屯和军屯组织。其中，上邦的军屯最著名。这个军屯基地是在太和四年(230)由司马懿上表倡议建立的，《晋书·食货志》称：“宣帝表徙冀州农夫五千人佃上邽，兴京兆、天水、南安盐池，以益军实。”主持具体事宜的是那时的度支尚书、司马懿的三弟司马孚。《晋书·安平献王孚传》称：“关中连遭贼寇，谷帛不足，遣冀州农丁五千屯于上邽，秋冬习战阵，春夏修田桑。由是关中军国有余，待贼有备矣。”由此可见，上邦军屯是在司马懿、司马孚兄弟的共同筹划下开创的。
太和五年，诸葛亮进攻天水。这时上邽军屯上的小麦已经生长出来，有人主张“自芟上邽生麦以夺贼食”，魏明帝不从，“前后遣兵增宣王军，又敕使护麦”。司马懿与诸葛亮相持，多亏以上邽军屯的小麦作军粮，才取得胜利。直至正元二年(255)，安西将军邓艾又在上邽“为区种之法，手执耒耜，率先将士”(《晋书·段灼传》)，进行屯垦。这都说明上邽军屯的重要。
司马懿在太和五年屯长安，都督雍、凉二州诸军事，开始主持对蜀的战争。为了增强实力，他很重视对关中屯田基地的建设。青龙元年(233)，司马懿组织兴修水利，“开成国渠，自陈仓至槐里筑临晋陂，引汧洛溉舄卤之地三千余顷”(《晋书·宣帝纪》)，收到了“国以充实”(《晋书·食货志》)的效果。青龙三年，关东饥馑，司马懿调运五百万斛粟输京师洛阳，以资救济。可见他在关中储积有大量粮食。
曹魏和东吴邻近地带的屯田，主要是在淮河南北。曹操时曾“开募屯田于淮南”(《三国志·魏书·仓慈传》)，但仅是民屯。正始二年(241)，司马懿主持对吴作战时，始与曾为屯田掌犊人、典农纲纪的尚书郎邓艾筹划在