《水调》这样的曲调就出现在这样的背景下，传为隋炀帝亲制。但不知道为什么这个好大喜功的皇帝会创作一首这样乐曲，唐人的《隋唐嘉话》上说，这首乐曲“声韵悲切，帝喜之”。他不会不知道在两千多里的运河两岸曾有多少尸骨，一定也听说过那些诸如“呼麻胡”的故事，为什么在他兴致勃勃下扬州的旅途上创作一首曲调那么忧伤悲戚的《水调》呢?他的心里会有怎样的感触，后人已经难以猜想。
到了唐代，《水调》成为传唱不衰的名曲。《水调》可以单独作为乐曲演奏，也可以填上词来演唱，唐朝许多诗人都为这一曲调填写过或五言或七言的歌词，可以说这几乎是最早的按谱填词的曲调之一。在唐代，《水调》有大曲、小曲之分。大曲有十一叠，前五叠多填入五言词，声韵幽怨。后几叠入破后多填七言。白居易说：“五言一遍最殷勤，调少情多似有因。不会当时翻曲意，词声断肠为何人?”可见这一曲调是真的伤感。《水调歌头》就是截取大曲《水调》的第一遍而成。可惜古曲不复闻。直到五代北宋，《水调》仍传唱不已，但在历史的流变中，渐渐地，《水调》的曲调发生了很大的变化，由最初的凄凉怨慕渐变为昂扬酣畅，极潇洒而豪放，这中间的渐变过程融注了无数宫廷乐师和民间歌者的创意，更有苏舜钦和苏东坡等词人的开创之功。《水调歌头》作词牌最早见于北宋苏舜钦：
潇洒太湖岸，淡伫洞庭山。
鱼龙隐处，烟雾深锁渺弥间。
方念陶朱张翰，忽有扁舟急桨，撇浪载鲈还。
落日暴风雨，归路绕汀湾。
丈夫志，当景盛，耻疏闲。
壮年何事憔悴，华发改朱颜。