身世之谜王之涣在新旧《唐书》均无传，《唐才子传》所记也甚简，说王之涣为蓟门人。唐人靳能所作《唐故文安郡文安县太原王府君墓志铭并序》记载，之涣“本家晋阳，宦徙绛郡”，则晋阳(今太原)为其原籍，做官时居绛州(今山西新绛县)。墓志铭说王之涣卒于天宝元年(742年)二月，享年55岁，推之可知生于武后垂拱四年(688年)。
为官不顺武后垂拱四年(688年)，王之涣出生于太原王家，为当时名门望族。他的五世 祖王隆之为后魏绛州刺史，可能因此而移家绛州的。曾祖王信，隋朝请大夫、著作郎，入唐为安邑县令。玄宗开元十四年(726年)，王之涣任冀州衡水主簿，赋《宴词》、《送别》。开元十年(722年)，王之涣与勃海李氏结婚，李氏乃冀州衡山县令李涤之第三女。开元十四年(726年)，王之涣由于遭人诬陷诽谤，辞去官职。