公元279年十一月，晋武帝司马炎下令发兵二十万，分六路进军，攻打三国时代中仅存的东吴。龙骧将军王濬(也可读作王浚)从益州(今四川、云南、贵州等地)出兵，带水军沿江而下，这便是“王濬楼船下益州”的由来。
王濬的水军经过多年训练，早已经被打造成一支战斗力极强的部队，因此一路上攻城拔寨，无坚不摧。为了阻挡王濬水军继续前进，吴军在长江水道的关键地带布置拦截战船通过的铁锁，并在江中暗置丈余长的铁锥。
然而，吴军的这些布置却提前被晋军得知。王濬下令做了数十个超大的木筏，在木筏上扎成草人，被甲执杖，让吴军误以为是晋军通过。于是，这些超大的木筏在江面上顺流而下，暗置江中的铁锥都扎到这些木筏上，被木筏顺流带走了。之后，王濬又下令将长十余丈的火炬浸泡过麻油后放到前行的船上。当船遇到阻拦后就点燃火炬，拦江的铁锁被烈火熔断，于是战船通行无阻。《西塞山怀古》中所指的“千寻铁锁沈江底”说的就是这一段。
公元280年二月初三，王濬的水军攻克西陵，杀西陵都督留宪等人。此后几天时间内，王濬又相继攻占荆门、夷道、乐乡等地。沿途许多州郡都不敢与晋军抵抗，纷纷送上印绶表示投降。
在晋军伐吴前夕，晋武帝曾有诏书命王濬在到达建平后，受杜预调度指挥。到达建业(东吴都城，今南京)后受王浑调度指挥。杜预对手下说：“若王濬能攻克建平，则顺流长驱，威名已著，不宜让他受制于我;若王濬不能攻克建平，让我对他进行调度指挥也没有意义。”当王濬攻克西陵后，杜预给他发来书信鼓励王濬只管自行指挥，直取建业，创旷世之功。与杜预形成鲜明对照的是另一位西晋大将王浑。他担心王濬攻下建业夺取头功，于是就以节度名义对王濬百般刁难。王濬认为战机稍纵即逝，所以不愿受王浑掣肘，便以“战船顺风前行，难以停泊”为借口推脱。这件发生在灭吴之战中的小插曲并没有对战争实际结果产生影响，但却反映出了杜预、王浑的人品高下。
王濬水军抵达建业后，旌旗器甲，连天蔽江，威势极盛，吴人心中惊恐不已。东吴皇帝孙皓打算做最后的挣扎，然而先是吴国游击将军张象帅率军不战而降，后是吴国陶濬的军队趁夜色集体溃逃。孙皓自知已无力回天，只好派人向王濬递上降表。“金陵王气黯然收”、“一片降幡出石头”表达的就是这段历史故事。