春秋时期，楚国有一位琴师叫俞伯牙，俞伯牙从小就对音乐很痴迷，经过刻苦学习，终于成就了大名。他一生还创作了许多好听的琴曲，其中最得意的是《高山流水》。
但是，曲子写成后，俞伯牙觉得很失落。因为，这支琴曲造诣高深，以至于没有人能欣赏和领会，只能自己弹给自己听。这使他非常苦闷。
一次，俞伯牙乘舟外出，船行中途遇上风雨，泊在一座山脚下。晚上风平浪息，皓月当空，江面波光粼粼，烟雾弥散。如此夜色，不由得引起俞伯牙的琴兴。
于是，琴童焚起一炷香，俞伯牙屏息静气拨动了琴弦，《高山流水》流泻而出。一段铿锵有力的节奏响过之后，俞伯牙只听岸边响起赞叹声：“多壮美啊！曲意巍巍如泰山。”他大吃一惊，因为刚才那段正是表现巍峨高山的。接着，他又奏起了表现烟波浩渺、横无际涯的流水的段落，岸边又赞叹说：“多壮美啊！乐情浩浩如江河。”
俞伯牙惊喜万分，连忙走出船舱，走到船头，见岸上的人原来是一个樵夫。俞伯牙对樵夫拱手相拜，有些激动地说：“这正是我的呕心沥血之作——《高山流水》！多少年来，我一直希望有人能听懂我的琴，今晚我终于遇到了。”
接着两人便上船交谈。从交谈中，俞伯牙才知道樵夫叫钟子期，也喜爱音乐，并很有研究。钟子期认为琴为心声，琴师的心情会不知不觉地在琴声中流露出来。
俞伯牙听了，大为赞同，便在琴上弹奏几段旋律，请钟子期揣摩。钟子期总能会心地描述出旋律的韵味。
就这样边弹边说，一直至黎明。分手时，两人恋恋不合。最后互相约定，一年后的今天再到这里来相会。
一年很快过去了。俞伯牙赶到那个山脚，可是，等啊等啊，却始终不见这位知音露面。原来钟子期已在不久前病逝。俞伯牙知道后悲痛万分，便携琴来到钟子期坟前，重又奏起了那曲《高山流水》。弹完后，他痛哭一场，仰天长叹道：“世上再也没有知音了！”然后摔断了他手中的琴。从此，他发誓再也不弹琴了。
但是伯牙子期《高山流水》觅知音的故事流传了下来，“知音”作为心灵相交的好朋友的同义词也一直沿用至今。