玉佩在新石器时代就已经出现。原始先民把凿成形似各种图腾的玉饰挂在颈部，垂于胸前，来象征地位、权力、财富。后来，玉石被演绎成了一系列的圆形礼器：玉璧、玉琮、玉环、玉瑗等，成为美丽的装饰品，一代代流传到后世。
古人对玉佩的热爱不是因为玉的贵重，而是源于玉的品格。古人根据玉料的色泽，如淡绿、茶绿、黄绿、墨绿、黄褐、棕褐、白色、黑色、白灰色等，及玉料的不同性质，依人品、寓意制作出不同的造型，如虫鱼鸟兽的形状、圆环状（玉璧）等来与其品德相配。
在《周礼·玉藻》中，更把玉佩上升到礼法的高度，规定了各种不同身份的王侯佩玉的规格。在周代，贵族佩玉以节步是基本的礼仪之需，他们听自己的玉佩声，使行步与玉佩声相一致，来显示自己走路的威仪。
玉佩的种类繁多，有单件的玉佩，也有成组出现的玉佩，也叫组玉佩。组玉佩就是将几种不同形状的玉佩，用彩线组为一串系挂在脖子上，或挂在腰间，走起路来，玉佩相撞，发出悦耳的声响。
组玉佩既有礼玉性质，又有引人注目的装饰功能，它是权贵身份的象征。战国、秦汉时期的玉佩繁缛华丽，有的甚至包括数十个小玉佩，如玉璜、玉璧、玉珩等。同时，组玉佩不再是颈部的专用装饰品，而是系在腰带上，而且组玉佩的使用也不再为贵族所专有，在普通百姓中也广为流行。
东汉时期用玉制度逐渐完备，汉明帝依据古制，对失传已久的大佩制度重新考订，颁行天下。东汉末年，天下大乱，佩玉制度再次失传。三国时，曹操统一北方后，又建立典章礼仪制度，命侍中王粲依古礼制定佩玉制度，以该制度所制玉佩从此成为魏晋至隋唐时期广为流行的玉佩式样。
魏晋以后，各朝男子都只是佩戴简单的玉佩，而女子很长时间里依然佩戴组玉佩，通常系在衣带上，走起路来环佩叮当，悦耳动听，因此“环佩”也渐渐成了女性的代称之一。
明朝初年统治者废除元代留下来的胡风胡俗，在政治、社会、风俗、制度方面都以古制及唐宋之制作为参考，对组玉佩的规格也制定了新的规定。至清代以后，随着大规模的改装易服，组玉佩制度遂废而不行。
其实玉佩不仅具有装饰功能，玉对人体的医疗保健作用很早就被人类所发现。中国著名的中医药巨著《神农本草》、《唐本草》、《本草纲目》中都有过著述。《本草纲目·金石部第八卷》中记载，玉具有：“除胃中热、喘急烦懑、滋毛发、滋养五脏、柔筋强骨、止渴、润心肺、助声喉、安魂魄、利血脉、明耳目”等疗效。
现代科学研究也表明：玉含有对人体有益的元素，经常佩戴和使用玉器摩擦皮肤与穴位等，可起到防病治病的效果。
在民间，人们也喜欢佩戴玉佩作为护身符以避邪保平安。同时，玉佩还寄予了人们种种美好的寓意，如带有“福禄寿喜”、“鹤鹿同春”纹饰图案的玉佩就表达了人们对健康长寿的盼望。