司马懿得知曹爽同弟弟曹羲、曹训、曹彦，以及心腹何晏、邓飏、丁谧、毕轨、李胜等人，率领御林军，跟随魏主曹芳出城拜谒明帝曹睿的陵墓，之后还要去打猎，不禁心中大喜。他立刻赶到尚书省，让司徒高柔持节钺暂代大将军之职，率先占据曹爽的军营；又让太仆王观代理中领军之职，占据曹羲的军营。
安排妥当后，司马懿带着旧日官员进入后宫，向郭太后上奏，称曹爽辜负先帝托孤的恩情，奸邪祸乱国家，罪当被废黜。郭太后大惊失色，问道：“天子现在还在城外，这可怎么办？”司马懿回答：“臣已经准备好奏报天子的表章，也有诛杀奸臣的计策，太后不必担忧。”郭太后心中惧怕，只得听从。
司马懿急忙让太尉蒋济、尚书令司马孚一起写表章，派黄门太监送出城外，直接呈到魏主面前。司马懿自己则率领大军占据武库。很快就有人将此事报告给曹爽家中，曹爽的妻子刘氏急忙来到厅前，叫来守府官问道：“如今主公在城外，司马懿起兵是什么意思？”守门将潘举回答：“夫人不要惊慌，我去探问一下。”于是他带领数十名弓弩手登上门楼观望。正好看到司马懿带兵经过府前，潘举便让人乱箭射下，司马懿无法通过。偏将孙谦在后面阻止道：“太傅是为了国家大事，不要放箭。”孙谦连续阻止了三次，潘举才停止射箭。司马昭护着父亲司马懿通过，然后带兵出城，驻扎在洛河，守住浮桥。
曹爽手下的司马鲁芝，看到城中发生变故，便来找参军辛敞商议：“如今司马懿发动变乱，我们该怎么办？”辛敞说：“可以率领本部兵马出城去见天子。”鲁芝觉得有理。辛敞急忙进入后堂，他的姐姐辛宪英看到他神色慌张，便问道：“你有什么事，如此慌张匆忙？”辛敞告诉姐姐：“天子在城外，太傅关闭了城门，恐怕要谋反。”宪英说：“司马公未必是谋反，他只是想杀掉曹将军罢了。”辛敞惊讶地问：“这件事会怎样发展呢？”宪英说：“曹将军不是司马公的对手，必然会失败。”辛敞又问：“现在鲁司马叫我一起出城，你觉得我能去吗？”宪英说：“恪尽职守，这是做人的大义。当别人处于危难时，尚且要去救助，身为臣子却抛弃职责，没有比这更不祥的了。”辛敞听从了姐姐的建议，与鲁芝率领几十名骑兵，砍开城门，冲了出去。