传说中的铁拐李是八仙中地位最高的一位。此老蓬头黑脸，衣衫破烂，一条腿是瘸的，拄一根铁拐杖，背一个药葫芦，像一个叫化子。
有一种说法是铁拐李是隋代陕西人，名李洪水，经常拄一铁杖在街上要饭。有一次，忽然将铁杖抛向天空，变成了一条龙，铁拐乘龙而去。
另一种说法是铁拐李名叫李玄。因崇拜老子要进山修炼，临行前吩咐徒弟，如果七天不回来，便可将他的躯壳烧掉。到了第六天，徒弟家来人说老娘病重，催他立即回家，侍候老娘。徒弟无法守到第七天，见师父元魂仍未归，一把火将师父躯壳烧了。
第七天李玄回来，失去了躯壳，失魂落魄，六神无主。忽然看见外面有一行将饿死的乞丐，马上来了个借尸还魂，站起来到池塘边一照，大吃一惊，那副尊容奇丑无比。正在惊慌中，师父李聃大笑道：“道行不在外貌，这样子很好。”铁拐李没有办法，只得面对现实接受这副丑相，当然不会用葫芦里的灵丹妙药去治好自己的瘸腿。
铁拐李在民间影响很大，据说，他背上葫芦里装的药可治百病，民间流行的狗皮膏药还是铁拐李传授的秘方，河南安阳一带奉铁拐李为狗皮膏药的发明者和祖师爷。