这个年轻的中国学生在“自撰简历”的最后写道：“要是有机会，还想去新疆、青海、西藏、印度、波斯去刨坟掘墓、断碑寻古迹，找些人家不要的古董来寻绎中国人的原始出来。”
22岁，去哈佛攻读人类学。后来，他果真去“刨坟掘墓寻古迹”了，只不过并没有去新疆、青海、西藏、印度或是波斯，而是在中原的河南、山西和山东。
1926年，主持山西夏县西阴村仰韶文化遗址发掘，他成为第一位挖掘考古遗址的中国学者。1930年主持济南龙山镇城子崖遗址发掘，他让龙山文化呈现于世人面前。如今，仰韶文化和龙山文化已成为中国远古历史的标志性术语，许多对考古学一窍不通的人竟也耳熟能详。只不过，大多数人对他却是闻所未闻。
1945年，担任中央历史博物馆首任馆长。1948年，当选中央研究院第一届院士，同年底随中华民国政府迁居台湾，并于隔年创立国立台湾大学考古人类学系。1955年，接任董作宾的遗缺，担任历史语言研究所所长，直到1972年为止。
1979年8月1日，病逝于台北温州街寓所，前后发表考古学著作约150种。其养子李光周亦为台湾重要的考古学家。
李济对中国考古学的影响是持久与多面向的(张光直，1981)。他在1928年至1937年所主持的殷墟发掘塑造了中国考古学学术体系的雏形。1950年代至1980年代的中国与台湾考古学的主要领导人物，如夏鼐、尹达、高去寻 、石璋如、尹焕章与赵清芳等都曾接受他与梁思永的指导与训练，并参与殷墟的发掘工作;他在台湾所栽培的学生，如张光直、许倬云等，亦为中国考古学与中国上古史界的领导人物。
此外，作为中国第一位考古学家，他个人的研究取向与成就产生深远的影响(张光直，1981，99-100)。他坚持以第一手的材料作为立论依据，并主张考古遗物的分类应根据可定量的有形物品为基础。同时，他从文化人类学的观点诠释考古资料，并不以中国的地理范围限制中国考古学的研究问题。著名考古学家张光直曾说：“就中国考古学而言，我们仍活在李济的时代。”
李敖称：“李济三十一岁起就做学阀，八十四岁才在武侠小说中死去。他垄断学术，自己不研究也不给别人机会，‘安阳发掘报告’有始无终，‘中国上古史’计划拖延不做”，又称李济是“最后一个迷人的学阀”。