将军羊祜当时正筹划平吴，素知王濬奇略过人。便密上表章，请仍留王濬于益州，参与平吴大计。同年·，晋武帝依羊祜之建议，复任王濬为益州刺史。
晋武帝谋划灭吴，下诏让王濬修造舟舰，王濬造连舫大船，方一百二十步，每艘可装载二千余人。大船周边以木栅为城，修城楼望台，有四道门出入，船上可以来往驰马。又在船头画上一只鸟首怪兽，以恐吓江神，船舰规模之大数量之多，自古未有。王濬在蜀地造船，削下的碎木片浮满江面，顺流漂下。
贾充、荀勖进谏以为不可伐吴，只有张华坚意劝武帝伐吴，又遇上杜预自荆州上表请求伐吴，武帝这才下诏，分别布署伐吴兵力。
咸宁五年（279年）十一月（《晋书·王濬传》作太康元年（280年）正月），王濬率水陆大军自成都沿江而下，过瞿塘峡、巫峡，进至秭归附近。王濬率巴东监军、广武将军唐彬攻破吴丹阳（今湖北秭[zi]归东南），擒吴丹阳监盛纪。然后顺流而下，进入西陵峡，遇到了吴军设置的拦江铁锁和暗置江中的铁锥。由于此前羊祜擒获吴国间谍，羊祜捕获吴间谍，得知上述情况，王濬就做了几十个大木筏，每个也有方百余步大，筏上扎成草人，被甲执杖，令善水士兵乘筏先行，铁锥刺到筏上都被筏带去。又做火炬，长十余丈，大数十围，灌上麻油，放在船前，遇到铁锁，就点起火炬，将铁锁熔化烧断，于是战船通行无阻。
太康元年（280年）二月初三，攻克西陵，俘获吴镇南将军留宪、征南将军成据、宜都太守虞忠。初五，攻克荆门、夷道二城，俘获监军陆晏。初八，攻克乐乡，俘获水军督陆景，平西将军施洪等投降。十八日，晋武帝下诏进王濬为平东将军、假节、都督益梁诸军事。王濬从蜀出兵，兵不血刃，无坚不摧，夏口、武昌的吴军，无敢支吾抗拒者。于是挥师顺流而下，直抵吴都附近的三山，孙皓派遣游击将军张象率水军万人抵御王濬，张象望见晋军旗帜而投降。
太康元年（280年）三月十五日，王濬进入石头城。孙皓准备亡国之礼，驾着素车白马，袒露肢体，缚住双手，衔璧牵羊，大夫穿着丧服，士人抬着棺材，率领着伪太子孙瑾、孙瑾弟鲁王孙虔等二十一人，到达军营门前。王濬亲自为孙皓松绑，接受了玉璧，烧掉了棺材