话说俞伯牙善于抚琴，有很多的仰慕者，他的妻子就是其中的一位。在俞伯牙抚琴的时候，他的妻子经常坐在一边如痴如醉地倾听，两人的夫妻关系很和谐，突然有一天，俞伯牙的妻子得了一场大病，俞伯牙焦急万分，亲自寻医问药，端茶送水，悉心照料，常常衣不解带。但是他妻子的病终究没有好转。
在妻子弥留之际，她对伯牙说：“相公，我还想听听你的琴声。”俞伯牙含泪答应，他慢慢走了出去，取琴回来，放在妻子的病榻旁边的琴桌上，收拾好哀伤的心情，他的手开始熟练地触碰着琴弦。俞伯牙心想这可能是最后一次为妻子抚琴，于是他不知疲倦地弹了一曲又一曲，渐渐进入如痴如醉的境界。正在这个时候，突然“嘣”的一声，有一根琴弦断了，俞伯牙惊讶万分，急忙往病榻上一看，原来自己的妻子已经咽气多时。俞伯牙走了过去，嚎啕大哭，从此他将这把琴包裹起来，不再抚琴。
就这样过了一年，俞伯牙始终没有从亡妻之中走出来，他经常独自一人抚着断了弦的那把琴，暗暗落泪，十分憔悴。他的家人不忍心看到伯牙长此下去，于是就给他说了一门亲事，希望能以此冲淡他的忧伤，岂料遭到伯牙的断然拒绝。经过家人的再三劝说，伯牙才算同意考虑一下这门亲事。到了女方家中，俞伯牙始终无精打采，有一句没一句地回答着女子家人的问题。忽然，女子家父说道：“我的女儿十分仰慕您的琴艺，能否为她弹奏一曲?”俞伯牙心中一动，默默站起来，施了一礼，回到家中，将那把断了弦的琴重新接上了弦，带到女方家中。
他将琴默默放好，手指轻碰琴弦，不由地想起了自己的妻子，一时眼中含泪。那位相亲的女子一直在默默地观察着俞伯牙，看他如此地爱着自己的妻子，可以看出他是一位钟情之人，又听到他的琴声如此美妙，不由心中欢喜，一曲完毕后，女子立即答应了这门亲事。从此以后，俞伯牙经常为她弹琴，慢慢走出了丧妻的阴影，两人的生活十分美满幸福。
因为这个故事，人们将男子亡妻后再娶称为续弦。