韦见素年轻时考中进士，授相王府参军，后历任卫佐、河南府仓曹、大理寺丞、坊州司马、库部员外郎、右司兵部二员外、左司兵部二郎中、谏议大夫，并袭父爵为彭城郡公。
天宝五年(746年)，韦见素充任江西、山南、黔中、岭南等道黜陟使。他察看各地风俗，弹劾州县官吏，所到之处无不肃然。韦见素回朝后，升任给事中，不久又担任检校工部侍郎，改任尚书右丞。
天宝九年(750年)，韦见素改任吏部侍郎，并加银青光禄大夫。他生性仁恕，主持考选多年，行事公允，深受称赞。当时，右相杨国忠专权，左相陈希烈唯唯诺诺，毫无建言，唐玄宗对此非常不满。
天宝十三年(754年)，京师大雨，引发水灾。唐玄宗认为宰相失职，才天降凶兆，便罢免陈希烈，命杨国忠选取继任者。杨国忠认为韦见素性格柔顺容易控制，便举荐韦见素为相。唐玄宗也因韦见素曾任职相王府，对自己有旧恩，同意韦见素拜相。八月，韦见素被任命为武部尚书、同中书门下平章事、集贤院学士，并管理门下省事务。韦见素对杨国忠非常感激。
天宝十四年(755年)，安禄山请求以蕃将三十二人取代汉将，唐玄宗批准。韦见素对杨国忠道：“安禄山素有异心，如今又用胡人取代汉人，恐怕马上就要反了。”便与杨国忠去见唐玄宗，具陈安禄山反状，唐玄宗不听。后来，韦见素又数次进言，唐玄宗仍旧不信。同年十一月，安禄山在范阳起兵反唐。
至德元年(756年)，叛军攻陷潼关，进逼长安。六月，唐玄宗逃出长安，在杨国忠、韦见素等人的扈从下前往蜀地。行至马嵬坡时，禁军哗变，围攻行宫，杨国忠等人尽皆被杀。韦见素也被乱兵打伤，幸亏陈玄礼相救，才幸免于难。唐玄宗得知，命寿王李瑁前去抚慰，并赐药给他。七月，唐玄宗抵达巴西郡，任命韦见素为左相、武部尚书。到达蜀郡后，韦见素又加金紫光禄大夫，进封豳国公。
同月，皇太子李亨在灵武受众将拥戴，继位称帝，是为唐肃宗。但由于路途遥远，音讯不通，唐玄宗尚不知情。八月，唐肃宗的使者到达蜀地，通报肃宗继位之事。唐玄宗遂命韦见素与宰相房琯前往灵武，正式册立唐肃宗为帝。韦见素临行前，唐玄宗对他道：“皇帝自幼仁孝，朕早有传位之意，但因故拖延至今。如今皇帝继位，朕如释重负。你们此番前去，要尽力辅佐皇帝，早日收复中原。”
九月，韦见素等人在顺化郡拜见唐肃宗，传达唐玄宗禅位之意，并随从前往彭原郡。唐肃宗为皇太子时，便听闻房琯的名声，因此对他倾心相待。而韦见素因以前依附杨国忠，唐肃宗对他颇为冷遇。757年(至德二年)，唐肃宗抵达凤翔，便罢免韦见素的宰相之职，任命他为尚书左仆射。
唐肃宗到达凤翔后，时值战乱，纲纪制度尚未健全，特别是选官制度非常混乱。肃宗因叛乱未平，为示宽大，对此未加整治。韦见素进言道：“臣主持考选多年，深知此弊。现在天下未平，官吏缺额不多，问题不大。但若总是没有章法，恐怕难以长久。”唐肃宗深以为然。
这时，房琯兵败降职，崔圆、崔涣相继罢相，唐玄宗任命的宰相，全都被肃宗罢免。五月，韦见素改任太子太师。十一月，唐肃宗返回长安，命韦见素到蜀地迎接唐玄宗。十二月，唐玄宗回到长安，唐肃宗为此大赦天下。韦见素因保护玄宗入蜀之功，加封开府仪同三司，食实封三百户。
上元元年(760年)，韦见素以患有足疾为由，上表请求退休，得到唐肃宗的批准。
宝应元年(763年)十二月(1月)，韦见素病逝，终年七十六岁，追赠司空，赐谥忠贞。