王之涣出身于太原王家，为当时望族。他的五世祖王隆之为后魏绛州刺史，可能因此而移家绛州的。曾祖王信，隋朝请大夫、著作郎，入唐为安邑县令。祖王表，唐朝散大夫、文安县令。父王昱，鸿胪主簿、浚仪县令。从曾祖到父亲，虽然皆为官，但均为小官。王之涣出身于普通仕宦之家，排行第四，自幼聪颖好学，年龄还不到20 岁，便能精研文章，未及壮，便已穷经典之奥。不知何故，王之涣未走科举之途，而以门子调补冀州衡水主簿。任衡水主簿时，王之涣父母均已去世，衡水县令李涤将三女儿许配给他。
王之涣与李氏的婚姻，可能还有一段罗曼史。开元十年(722年)两人结婚时，王之涣是已婚并且有孩子之人，年已35岁，而李氏年方二九，比王之涣小17岁，正是妙龄女子。县令的千余，嫁给父亲部属、35岁又已婚的小小县尉，颇耐人寻味。这一定是为王之涣的才华所倾倒。
王之涣才高气盛，不愿为了衡水主薄的卑职而折腰，加上有人诬陷攻击，他便愤然辞官而去，“遂化游青山，灭裂黄绶。夹河数千里，籍其高风;在家十五年，食其旧德。雅谈珪爵，酷嗜闲放。”在家过了15年闲散自由的生活。后来他的亲朋好友觉得他这样一直沉于下层，不是办法，便劝他入仕。后来补文安郡文安县尉，仍是一不起眼之小职。他在职风清白著称，理民以公平著称，颇受当地百姓称道。谁料不久，他竟染病不起，以55岁之壮年，卒于官舍。
靳能在墓志铭中称王之涣“孝闻于家，义闻于友，慷慨有大略，倜傥有异才”，可谓对王之涣一生的完美概括。
李氏嫁给王之涣后，两人恩爱。王之涣在家赋闲15 年，李氏安贫乐素，跟他过着清苦的生活。王之涣再入宦场，生活刚有了转机，却染病身亡，使李氏不到40岁而守寡。王之涣死后六年，李氏也因病而死。因正之涣有前妻，两人竟不能合葬。