魏正元二年正月，扬州都督、镇东将军，统领淮南军马的毋丘俭，字仲恭，河东闻喜人。他听闻司马师擅自废立君主，心中愤怒不已。毋丘俭的长子毋丘甸说：“父亲身为一方镇守大员，如今司马师专权，废黜旧主，国家危如累卵，怎能安然自守呢？”毋丘俭说：“我儿说得对。”于是，他请来扬州刺史文钦商议。
文钦曾是曹爽门下的门客，当日接到毋丘俭的邀请，立刻前来拜会。毋丘俭把他请到后堂，行过礼后，两人交谈起来。毋丘俭说着说着，忍不住泪流满面。文钦询问原因，毋丘俭说：“司马师专权，擅自废立君主，天地颠倒，我怎能不伤心！”文钦说：“都督镇守一方，若肯仗义讨伐逆贼，我愿舍生相助。我二儿子文淑，小字阿鸯，有万夫不当之勇，一直想杀了司马师兄弟，为曹爽报仇，如今可让他担任先锋。”毋丘俭十分高兴，当即洒酒立誓。
两人假称太后有密诏，召集淮南大小官兵将士，都到寿春城集合。在城西设立祭坛，宰杀白马，歃血为盟，宣称司马师大逆不道，如今奉太后密诏，要尽起淮南军马，仗义讨伐逆贼，众人纷纷表示悦服。毋丘俭率领六万兵马，驻扎在项城。文钦率领两万兵马在外作为游兵，往来接应。毋丘俭还发布檄文到各个郡县，让他们各自起兵相助。
再说司马师左眼长了个肉瘤，时常又痛又痒，便让医官割除，用药封闭伤口，连日在府中养病。忽然听闻淮南告急，便请来太尉王肃商议。王肃说：“从前关云长威震华夏，孙权派吕蒙袭取荆州，安抚将士家属，因此关公的军队士气瓦解。如今淮南将士的家属都在中原，可赶紧安抚，再派兵截断他们的归路，敌军必然会土崩瓦解。”司马师说：“您说得很对。但我刚割了眼瘤，不能亲自前往。要是派其他人去，我又不放心。”
当时中书侍郎钟会在一旁，进言说：“淮楚之地的士兵强悍，锋芒锐利，如果派人领兵去退敌，多半不利。倘若有个闪失，大事就完了。”司马师猛地起身说：“非得我亲自前往，否则破不了贼军！”于是他留下弟弟司马昭镇守洛阳，总理朝政，自己乘坐软轿，带病东行。
司马师命令镇东将军诸葛诞总督豫州各路军马，从安风津攻取寿春；又令征东将军胡遵率领青州各路军马，出兵谯、宋之地，截断敌军归路