景初二年（公元238年）正月，司马懿奉命从长安回到洛阳，看到街头忙碌的民工以及新建在建的宫殿，也是大吃一惊。他在长安就听说了曹睿的胡来，看来实际情况有过之而无不及。庙堂之上，曹睿与他寒暄一番后就开始讨论剿灭公孙渊的部署，并给了他四万大军。不少大臣认为，四万人太多了，恐怕军粮难以供给。曹睿干私活时大手大脚，办公事时也毫不吝啬：“此去辽东四千里，虽说打仗靠的是计谋，但也不能忽略‘力气’。这方面，我们不能太小气。”说完，他问司马懿：“您认为公孙渊将有什么行动？”司马懿回答：“他要是弃城先离开，这是上计；据守辽东抵抗，是中计；退守襄平，是下计，就是我的囊中之物。我估计公孙渊没那么聪明，肯定是先据守辽河，然后退守襄平。”曹睿一听，那不就是你的囊中之物吗：“那么，您估计要花多长时间？”司马懿说：“一年左右。去一百天，打一百天，回来的路上也是一百天，加上六十天休整，足够了。”临走前，司马懿也劝曹睿弃奢华罢宫室，节省民力以务农。然后，他带着牛金、胡遵等部下直奔白山黑水。
辽东的公孙渊听说这回的对手是司马懿，明白曹魏动了真格也有点害怕，立刻派使者入东吴再次称臣纳贡请求救兵。孙权看到这个使者，又可气又可笑：当年你是怎么对待我的使者的，如今反过来求救？亏你还敢来！当时就要把这个使者砍头。手下人劝阻：这是匹夫之怒，不是霸王之计。如今我们还是应该款待这位使臣，然后派兵去看动静。如果魏国不胜，我们就有了不计前嫌的名声；如果公孙渊不支，我们就不能趁火打劫吗？孙权点了点头，于是亲笔写了一封信给公孙渊，信誓旦旦地说我东吴一定与您同甘苦共患难。开了公孙渊一阵玩笑后，孙权又说了一句心里话：“司马懿用兵如神所向无敌，我深为老弟你担忧啊。”
六月，司马懿大军到了辽东。果然不出他所料，公孙渊派出几万骑兵沿着辽河附近的辽燧（今鞍山市西）连营六七十里坚守。司马懿派兵虚张声势地向南运动调动对手，他们也傻乎乎地跟着向南，司马懿趁机将主力北渡，并烧掉了燕军的船只桥梁。然而，司马懿扎下营寨后仍然不正面迎战，却率军猛扑襄平（今鞍山市北）。大家不明白，纷纷来问司马懿：“如今这么只下寨不打仗，大家可都是摩拳擦掌啊。”司马懿回答：“敌人营寨扎得坚固，就是想以此来疲惫我们。现在硬拼，正中他们的下怀。如今他们的主力在这里，襄平老巢必然空虚。我们做出突袭的姿态，他们怎么敢还在这里逗留？正所谓攻其所必救。大家既然摩拳擦掌，那么我们趁他们慌乱时半道截击，一定能大获全胜。”说完后，他带着人马大摇大摆地向襄平进发。
辽燧的燕军听说司马懿偷渡辽河直指老巢，果然惊慌失措，顾不得仔细考虑慌慌张张地就追了上来。司马懿等的就是这个机会，迎头痛击并连战连胜。燕军打了败仗后残部逃回襄平，司马懿随后进军围攻。可是天公不作美，七月开始又下起了大雨，前后持续一个月。辽河泛滥后平常的陆地上水深数尺。魏军困苦不堪，请求让司马懿下令将营寨移到高处避雨。司马懿下令：有敢移营的，斩！都督令史张静不听命令，司马懿立刻将其处死，强行压制军中的怨言（想想彝陵一战中刘备让水军上岸避暑后被陆逊修理的惨状，司马懿的部署虽然不近人情，但不是没有道理）。公孙渊被困襄平，粮草成了大问题，趁着水势滔天魏军行动不便，偷偷派人到外头放牛牧马收集粮草。魏军士兵看到后，当即就要打，也被司马懿下令禁止。然而，司马懿的军令得不到部下的理解已经是定式了，他的司马陈圭就一头雾水：“太尉您当年攻杀孟达时，千里奇袭八路强攻，十六天攻破上庸。如今远来，却这么任对手放肆，实在不知道您打的是什么主意。”司马懿笑笑回答：“当年孟达兵少，但军粮可以支撑一年，我虽然兵多但粮食只能支撑一个月，我又怎能优哉游哉！我的人马是孟达的四倍，因此不计死伤强攻硬打，这是在和军粮竞赛。如今情况正好相反，敌众我寡贼饥我饱。况且，这么大的雨，强攻又能有什么收获？自从大军出发，我不怕敌人来打，就担心敌人逃跑。如今他们的军粮即将告尽而我们的包围尚未完成，如果攻击他们出来放牛牧马的小兵，这是打草惊蛇的举动。他们仗着城池坚固，所以才会明知有这么多的缺陷还硬撑，既然如此我们何不将计就计，以假装无能来迷惑他们？”司马懿既然不在乎这些蝇头小利，那么他一定是有斩草除根的大计了。可惜，这个公孙渊却始终执迷不悟。
司马懿的军令得不到大家的理解是定式，但带来大家渴望的胜利也是定式。一个月后，雨过天晴。司马懿巡视后认为时机已到，立即合围襄平猛攻不息。云梯冲车弓箭投石，史称“矢石雨下”，同时挖地道竭尽全力。公孙渊这时上天无路入地无门，城中人多嘴巴也多，粮食已经吃光，饿孚遍地又怎能打仗？这样的窘境下，手下的人马也渐渐地有人开始投降。他没办法，派“相国”王建和“御史大夫”柳甫来请求投降，要司马懿退后一步然后他自缚出降。司马懿当即把这两个人斩首，写檄文明告公孙渊：“当年楚郑同为列国，郑伯出降时还袒胸牵羊。如今我身为太尉，又是代表大魏天子来讨伐你，你居然就派这么两个话都说不清楚的老头来！他们已经被我斩首示众。如果你真的有诚意，再派个年轻利索的来！”
公孙渊无法，只好再派“侍中”卫演来，声称愿意先送儿子为人质然后亲自投降。司马懿嘿嘿冷笑不屑一顾：“军事上的大计不外乎五条：能战当战，不能战当守，不能守当走，不能走则降，不能降则死。你们既然不肯当面授首，可以决一死战。人质？我不希罕！”（注1）眼看襄平覆灭在即，走投无路的公孙渊只好奋力突围，被司马懿截击后斩首于辽河河畔。司马懿入城后，点招燕国的公卿百官以及一些“伪军”，共有七千多人。司马懿一声令下，七千人人头落地。随后，司马懿开始清理内政，辽东连带着它的四