谢万年轻时才器出众，虽然器量不及谢安，但因擅长展现自我，故此颇有声誉。他在二十岁时，被征辟为司徒掾，后改授右西属，但却推辞不肯接受。 永和元年(345年)，会稽王司马昱被拜为抚军大将军、录尚书六条事，因素闻谢万之名，遂任命其为从事中郎。谢万头戴白纶巾，身披鹤氅裘，足穿木屐，一副名士做派，与司马昱长谈竟日。后又出任吴兴郡太守。
升平二年(358年)，豫州刺史谢奕病逝。谢万升任西中郎将、豫州刺史、假节、监司豫冀并四州诸军事，领淮南太守。王羲之认为谢万没有将帅之才，致信劝说桓温，建议不要让其外镇。桓温没有采纳。王羲之又致信谢万，劝他要与士卒同甘共苦，可惜谢万也没有听从。升平三年(359年)，谢万与北中郎将郗昙兵分两路，北伐前燕。他命征虏将军刘建修治马头城池，自己率军入涡颍，打算支援洛阳。这时，郗昙因病退回彭城。谢万却以为郗昙是因前燕兵强而退，于是仓促退兵。士卒自行溃败，豫州治下许昌、颍川、谯郡、沛郡等郡县尽皆陷落。谢万单骑狼狈逃还，被废为庶人。
升平五年(361年)，朝廷起复谢万为散骑常侍，但谢万恰于此时病逝，便将散骑常侍作为其赠官。谢万死时，年仅四十二岁。