蔡伦是桂阳（今湖南耒阳县）人，于东汉明帝刘庄永平十八年（公元75年），进京城洛阳的皇宫里当了太监，不久，升为“小黄门”“中常侍”，后又兼任“尚方令”。
他先是掌管皇宫内院事务，后来成为监制各种御用器物的皇家工场的负责人。
平时，蔡伦看皇上每日批阅大量简牍帛书，劳神费力，就时时想着制造一种更简便廉价的书写材料，让天下的文书都变得轻便，易于使用。
传说，有一天，蔡伦带着几名小太监出城游玩，正赏景间，忽见溪水中积聚了一簇枯枝，上面挂浮着一层薄薄的白色絮状物，不由眼睛一亮，蹲下身去，用树枝挑起细看。只见这东西扯扯挂挂，犹如丝绵。
蔡伦想到工场里制作丝绵时，茧丝漂洗完后，总有一些残絮遗留在篾席上。篾席晾干后，那上面就附着一层由残絮交织成的薄片，揭下来，写字十分方便。蔡伦忽然想，溪中这东西和那残絮十分相似，也不知是什么物件。
他立即命小太监找来河旁农夫询问。农夫说：“这是涨河时冲下来的树皮、烂麻，扭在一块儿了，又冲又泡，又沤又晒，就成了这烂絮！”
“这是什么树皮？”蔡伦急切地问。
“那不，岸上的构树呗（学名楮树）！”
蔡伦望去，只见构树生长繁茂，满眼绿色，脸上漾起笑意。几天后，蔡伦率领几名皇室作坊中的技工来到这里，利用丰富的水源和树木，开始了试制。剥树皮、捣碎、泡烂，再加入沤松的麻缕，制成稀浆，用竹篾捞出薄薄一层晾干，揭下，便造出了最初的纸。
但经试用后，发现纸张薄脆，容易破烂。又将破布、烂渔网捣碎，将制丝时遗留的残絮，掺进浆中，再制成的纸便不容易扯破了。为了加快制纸进度，蔡伦又指挥大家盖起了烘焙房，湿纸上墙烘干，不仅干得快，且纸张平整，大家心里乐开了花。
蔡伦挑选出规正的纸张，进献给和帝。和帝试用后龙颜大悦，当天就到陈河谷造纸作坊，查看了造纸过程，回宫后重赏了蔡伦，并诏告天下，推广造纸技术。
后来，元初元年（公元114年），邓太后见蔡伦的纸越造越好，能厚能薄，质细有韧性，兼有简牍价廉、缣帛平滑的优点，而无竹木笨重、丝帛昂贵的缺点，真是利国利民，便高兴地封蔡伦为“龙亭侯”，赐地三百户，不久又加封为“长乐太仆”。人们把这种新的书写材料称做“蔡侯纸”。