徐湛之字孝源，东海郯县人。幼年时便成了孤儿，深得宠爱，常和江夏王刘义恭呆在宋武帝刘裕身边，寝食不离。 元嘉二年(425年)他被任命为著作佐郎，员外散骑侍郎，他未接受。元嘉六年(429年)开始修建东宫，他始任补太子洗马，转任国子博士，后任奋威将军，南彭城、沛二郡太守，又调黄门侍郎。因祖母年老，辞去官职。又被授予二郡太守，加辅国将军，调秘书监，领右军将军，转任侍中，加骁骑将军。又任秘书监，加散骑常侍，骁骑将军职位不变。调任中护军未接受，又调任太子詹事，不久又加侍中。
徐湛之任冠军将军、丹阳尹，又封为征虏将军，加散骑常侍，因为服公主丧，未接受。葬礼过后，又被授予前面的官职，他上表坚决辞谢，又到廷尉那里去请罪，刘义隆诏令狱官不得接受，这之后他接受了任命。他坚决辞谢常侍，刘义隆允许了。元嘉二十二年(445年)，范晔等人谋反，徐湛之开始与他一伙，后来揭发了他们的事，但说的事都不彻底，被范晔等人牵连，他就到廷尉那里认罪，皇上抚慰他并让他回去了。元嘉二十四年(447年)徐湛之服完公主丧后，转任中书令，领太子詹事。出朝任前军将军、南兖州刺史，徐湛之非常善于治理，恩威并用。元嘉二十六年(449年)徐湛之又任丹阳尹，领太子詹事，将军不变。元嘉二十七年(450年)索虏南侵至瓜步，徐湛之率军保护京城，与皇太子刘劭一道守卫石头城。元嘉二十八年(451年)春，鲁爽兄弟率部下归顺宋，鲁爽是鲁轨的儿子。徐湛之为了国家的长远利益，特加奖励接纳鲁爽等人，没有任性申明自己的私怨。他乞求退居乡村，没被批准。后转任尚书仆射，领护军将军。
当时尚书令何尚之认为徐湛之是国戚，深得皇上恩宠，就想把朝政都推给他，一切上书上诉全不处理，徐湛之也根据《职官记》以及有关法令认为：尚书令掌管朝廷内外事务，总揽全局，如果尚书令空缺，政事才归仆射负责。因而他也将政务推给何尚之，两相互相推诿。御史中丞袁淑上奏要求将二人一起免去官职。刘义隆下诏：“尚书令、仆射是具体处理朝政的，两人不共同努力各司其职却相互推诿，应该纠正。但是因为前朝的朝政比较混乱错谬才导致如今的问题，破例不予追究，应详加匡正。”于是就让徐湛之和何尚之共同受理下面的上书。何尚之虽然是尚书令，但朝政仍全归徐湛之处理。先前，刘湛被诛杀，殷景仁死去，刘义隆委任沈演之、庾炳之、范晔等人，后来又有江湛、何禹之，范晔被杀后，炳之免官，演之、禹之皆去世。到这时江湛任吏部尚书和徐湛之共处权要之位，世称“江徐”。
刘义隆有病，徐湛之就入宫侍候医药。二凶巫蛊的事情暴露后，皇上想废弃刘劭，赐刘浚死。而刘骏不为皇上宠爱，所以屡次出使外藩，不能住在京城。南平王刘铄、建平王刘宏同被皇上宠爱，刘铄的妃子就是江湛的妹妹，就劝皇上立刘铄为太子。元嘉末年，刘义隆将刘铄从寿阳召回京城，来了后又改变主意，想立刘宏为太子，但又嫌宏不够次序，所以议论许久却难以定下来。刘义隆和徐湛之除去旁人共同议事，有时通宵达旦。刘义隆常在夜里让徐湛之拿着蜡烛，绕着房外墙壁的护卫，担心有人窃听。 刘劭入宫杀君之日，刘义隆和徐湛之两人头天晚上就在房内单独谈话，直到早上还未熄灯。徐湛之听到响声惊起走到北门，还没有来得及开门就被杀害，时年四十四岁。宋孝武帝刘骏即皇位后追赠他为司空，加封散骑常侍，原官职不变，谥号为忠烈公。又下诏：“徐羡之、江湛、王僧绰三家遭祸害荼炭，遗孤流落在外，思念他们的过去，心情异常沉痛。可以让他们的子孙回到他们原先的住处，厚加抚恤。”从此这三家长期接受国家的供给。