巴乌这种乐器在西南少数民族地区广泛流行，由于少数民族仍然保留着传统的天人思想，思想里纯朴的一面经常反映在对传说的信奉上，所以这种由来已久的乐器很难找到它在史料上记载的创造者，但是在它流行的地区却信奉着一些起源的传说。
由于这种乐器在少数民族地区经常用来传递爱情，所以它的起源故事难免摆脱不了爱情。相传，古时候，红河南岸的哈尼族有一对相知相恋的青年男女，姑娘叫梅乌，小伙子叫巴冲。他们爱得纯粹而坚定，甚至让魔鬼都嫉妒不已，魔鬼想方设法要破坏这对情侣，于是趁着人们狂欢时带走了梅乌，并且逼着梅乌嫁给他，梅乌深爱着巴冲坚决不肯答应，终于这天恼羞成怒的魔鬼失去耐心，残忍地将梅乌的舌头割掉，让梅乌再也无法言说她对巴冲的爱意。梅乌独自在深山中无法向外界传达信息，苦闷不已，这种情况让一只仙鸟动容，仙鸟便想要帮助这对苦命的情侣，于是它衔来梅乌的舌头和一节竹子，梅乌将舌头放进竹子里轻轻吹奏，竹子发出美妙的乐音，梅乌便借助这节竹子传达自己的爱意和委屈，巴冲听到梅乌心灵的乐声，循着乐音找到梅乌，两个人终于冲破阻碍有情人终成眷属。从此以后，这种乐器便被相爱的男女所喜爱，并以两个人的名字命名，希望后人的爱情也像他们的爱情一样美满。
关于巴乌彝族也有他们世代都赖以相信的起源故事，这个故事同样表达了深沉的情感。相传，在古老的彝族山寨里有个可怜的聋哑人，因为他又聋又哑，所以没有办法在母亲去世时表达自己的不舍和悲痛，很偶然的一个机会，他悲痛地拣起一节被虫子蛀了的竹子，发现竟然可以吹奏出声音，他又进行了一番改造，终于可以借助这个竹节来表达自己失去母亲的悲痛了。而这件乐器也世世代代流传下来，这就是现在的巴乌。