大宋开宝七年(974年)五月，下令在荆湖建造大舰和黄黑龙战船数干艘，以备架设长江浮桥之用。九月，赵匡胤派遣使者，要李煜入朝，李煜以生病为由拒绝。 赵匡胤以李煜拒命来朝为辞，发兵10余万，三路并进，趋攻南唐：东路吴越王钱俶做为升州东南面行营招抚制置使，率数万兵自杭州北上策应，并遣宋将丁德裕监其军;中路曹彬与都监潘美率水陆军10万由江陵沿长江东进;西路王明为池、岳江路巡检、战棹都部署，牵制湖口南唐军，保障主力东进。
然而，宋军灭南唐的战斗并不轻松。
开宝八年(975年)正月初八，各路全线出击。黄州兵马都监武宁谦等渡过长江，攻占樊山寨;行营左厢战棹都监田钦祚率军破溧水，击败南唐军万余人，杀其都统李雄。十七日，曹彬率大军攻南唐都城江宁。南唐水陆军10余万人前依秦淮河、背靠江宁城列阵防守。潘美为不失战机，不待渡河船只齐备，即令步骑兵涉水进攻;行营马军都指挥使李汉琼亦率部渡过秦淮河，以大舰载芦苇，对南唐水寨实施火攻，歼灭南唐军数万人，进逼江宁城下。
宋军在这一年的正月就已经包围了江宁城，直到这一年的十一月才攻破江宁，灭掉南唐。也就是说，南唐后主李煜竟然在江宁城中整整抵抗了一年之久。
六月初二，曹彬军于江宁城打败南唐军2万余人，缴获战舰数千艘。八月，丁德裕在润州击败南唐军5000人，并于九月初九与吴越军合势攻占润州城。九月，李煜又命侍卫都虞候刘澄率军赶赴润州，加强江宁以东防御。刘澄抵润州，惧战投降，吴越军占领润州，江宁局势更加危急。李煜急遣使赴东京乞求言和罢兵;同时严令湖口守军火速入援。
十月十九日，朱令赟率援军号15万分乘巨舰、大筏顺江东下，企图烧毁采石浮桥，解江宁之围。赵匡胤获悉后，密令屯于独树口的王明军，在沙州多竖长木伪为帆樯。朱令赟见状疑为伏兵，率军进入皖口，遭宋军伏击。南唐军纵火攻宋军，因风向骤变，反遭火烧大溃。江宁孤城援绝，李煜再遣使赴东京请缓兵，赵匡胤以"天下一家，卧榻之侧岂容他人鼾睡"为辞，予以拒绝。宋军三面进攻，十一月二十七日，江宁城破。