从曾祖到父亲，虽然皆为官，但均为小官。王之涣出身于普通仕宦之家，排行第四，自幼聪颖好学，年龄还不到 20岁，便能精研文章，未及壮，便已穷经典之奥。
王之涣从小聪明好学，少年时豪侠义气，放荡不羁，常击剑悲歌。到了中年，他一改前习，虚心求教，专心写诗，在十余年间，诗名大振，与王昌龄、高适等相唱和。
后来，他曾一度作过冀州衡水县主簿，时间不久就被人诬陷。于是，王之涣拂衣去官，在家居住十五年，晚年任文安县尉，在任上死去。
王之涣是盛唐的著名诗人，他写西北风光的诗篇颇具特色，大气磅礴，意境开阔，热情洋溢，韵调优美，朗朗上口，广为传颂。为盛唐边塞诗人之一。“黄河远上白云间”，仅七个字，祖国壮丽山河景色跃然纸上。
可惜他的诗歌散失严重，传世之作仅六首，辑入《全唐诗》中。不知何故，王之涣未走科举之途，而以门子调补冀州衡水主簿。任衡水主簿时，王之涣父母均已去世，衡水县令李涤将三女儿许配给他。
王之涣才高气盛，不愿为了衡水主薄的卑职而折腰，加上有人诬陷攻击，他便愤然辞官而去，“遂化游青山，灭裂黄绶。夹河数千里，籍其高风；在 家十五年，食其旧德。雅谈珪爵，酷嗜闲放。”在家过了15年闲散自由的生活。
后来他的亲朋好友觉得他这样一直沉于下层，不是办法，便劝他入仕。
后来补文安郡文安县尉，仍是一不起眼之小职。他在职风清白著称，理民以公平著称，颇受当地百姓称道。谁料不久，他竟染病不起，以55岁之壮年，卒于官舍，葬于洛阳。
如此有才华之人，可惜终不见用，天也不假其年。这也是诸多有才华的正直知识分子的常见结局。他的诗虽只流传下六首，但这寥寥数首，确为我国古典文学宝库的精华。