江总字总持，济阳考城人(今河南商丘民权县)。是晋朝散骑常侍江统的十世孙 。
江总七岁丧父，寄依外祖家。年少时聪明敏捷，性情纯厚。其舅舅吴平光侯萧劢，在当时名望很高，特别钟爱他，曾对江总说：“你节操品行与众不同，神态举止超群出众，将来出名，必当超过我。”江总长大后，勤奋笃学才思敏捷，他家世代相传的书数千卷，江总日夜探究研读，未曾离手。
十八岁时，江总初任宣惠武陵王府法曹参军。中权将军、丹阳尹何敬容建府置僚属，设置佐吏，都以显贵的后代担任，江总又授职为何敬容府主簿。不久调任尚书殿中郎。
才华横溢
梁武帝萧衍撰写《正言》才毕，又写《述怀诗》，江总参与写此诗，萧衍读完江总的诗后，大为叹赏。又调任侍郎。尚书仆射范阳张缵，度支尚书琅邪王筠，都官尚书南阳刘之遴，都才学渊博，因江总年少时出名，张缵等人很是推重，结为忘年之交。刘之遴曾以诗文相赠江总。后调任太子洗马，又出京任临安县令，再回京任中军宣城王府内录事参军，调任太子舍人 。
梁朝和西魏友好往来，萧衍诏命江总和徐陵出使西魏，江总生病没有前去。侯景寇掠京城，萧衍诏命江总暂兼太常卿，坚守小庙。台城陷落后，江总在外境维艰中逃难，费了几年时间才到会稽郡，住到龙华寺，便写了《修心赋》，大略评品时事。
江总的第九个舅舅萧勃首先占领广州，他又从会稽去投依萧勃。
梁元帝萧绎平定侯景之乱后，诏命江总任明威将军、始兴内史，给江总八百斛太守薪俸让他出行。恰逢江陵陷落，江总遂不成行，从此寄居岭南多年。
效力陈朝
天嘉四年(563年)，因任中书侍郎回朝廷，管辖侍中省。江总历任司徒右长史，掌东宫管记，给事黄门侍郎，兼南徐州大中正。又授职太子中庶子、通直散骑常侍，东宫、中正职务不变。不久调任左民尚书，后转任太子詹事，中正职务不变。江总因与太子彻夜畅饮，收养良家女子陈氏为女，太子便装去江总住所，皇上怒而免除其职。不久复任侍中，兼左骁骑将军。再任左民尚书，兼左军将军，未授职，又因公事免职。不久任散骑常侍、明烈将军、司徒左长史，调任太常卿。
陈后主陈叔宝继位后，授职江总任祠部尚书，又领左骁骑将军、参掌选事。又转任散骑常侍、吏部尚书。再调任尚书仆射，参掌选事职务不变。
至德四年(586年)，江总加任宣惠将军，量置佐史。不久授官尚书令，赐给鼓吹一部，加扶，其他官职未变。
昏庸亡国
祯明二年(588年)晋号中权将军。后任宰相，他不理政务，只是每天和后主在后宫饮酒作乐，还加上陈暄、孔范、王瑗等十余人，当时称他们为狎玩之客。因此国家日益衰败，典章制度不健全，有上言者，就以犯罪论处，君臣昏庸腐败，以至于国家灭亡。
祯明三年(589年)建康陷落后，江总入隋朝，任上开府。
开皇十四年(594年)死于江都，时年七十六岁。