中国少林武功起源于古代嵩山少林寺，并因而得名。作为我国着名的武术流派之一，少林武功的历史悠久影响深广，是中国传统武术的一个重要组成部分，是中华民族智慧的结晶。然而，据说最早武术并不是在中国出现的而是在古印度，少林拳的创始人也是印度人——达摩。为什么这么说呢？
一般认为，少林拳的创始人，是一位名为达摩的印度僧人。达摩，这位中国佛教禅宗的初祖菩提，是天竺国佛教禅宗第27代祖师般若多罗的嫡传弟子。
据说有一天，在印度修行的达摩问师傅般若多罗大师：“我得法以后，应该到什么地方去传法？”般若多罗回答说：“去震旦。”达摩遵照师傅嘱托，东行来到今中国。他首先在南朝都城金陵晋见了梁武帝萧衍。
在会见期间，皇帝说：“我已经建造了许多寺庙和宝塔，并且修复了更多的寺庙和宝塔，我把我的许多宝藏给了尚哈（与佛教僧侣有着兄弟般的关系的人），而且为主要寺庙提供了大量土地。我尽了一切努力，我能得到什么呢？”达摩注视着皇帝，答道；“陛下，虽然您尽了所有的努力，可是您一点儿也没有获得公德。”皇帝被激怒了，驱逐了达摩。
达摩感到在中国南方并不受欢迎，只好渡江北上到魏都洛阳。达摩来到魏都洛阳，不久又来到嵩山，一看这里山青水秀，就在五乳峰的山洞中落迹面壁，一坐就是九年。相传，达摩在这个石洞里，整日面对石壁，盘膝静坐。不说法，不持律，默然终日面朝壁，双眼闭目，五心朝天，在“明心见性”上下功夫，在思想深处“苦心练魔”。洞内静若无人，万籁俱寂，入定后，连飞鸟都不知道这里有人，竟在达摩的肩膀上筑起巢穴来了。
一年夏天，达摩发现自己刚坐下修炼不久，便不知不觉地打磕睡，他被自己的惰性激怒了，并且认识到打磕睡是绝不会达到佛教的终极境界的，于是，他用刀割断了自己的眼皮，扔出山洞。
此后不久，一个很小的达摩眼皮落地的地方长出一棵茶树芽，后来僧人的弟子们发现了这棵茶树，茶叶经过调制，帮助僧侣们在长期的修炼过程中保持清醒的头脑。自此以后，茶叶就成了修炼厅里必不可少的物品。达摩在山洞里呆了九年，直到达到佛教之终极。当达摩离开山洞开始传授禅宗时，弟子们发现，他坐禅面对的那块石头上，竟留下了一个达摩面壁姿态的形象，衣锦织纹，隐约可见，宛如幅淡色的水墨画像。人们把这块石头称为“达摩面壁影石”。把这个天然石洞，称之为“达摩面壁洞”。直至今日，遗址犹存。
九年之后的达摩功到业成，便开始出来传布大乘禅法了，从此也被尊为中国佛教的禅祖。
当年达摩终日静坐，不免筋骨疲倦，又加上在深山老林，要防野兽和严寒酷暑的侵袭，深感身体锻炼的必要性。在向僧侣们传授禅宗时，僧侣们每天长途跋涉带着自己的事物来到达摩的山洞。然而，达摩注意观察，发现他们学习新知识所取得的成绩很微小，他们的身体保持不住长时间修炼的僵硬状态，肌体是软的，并且已有许多僧人由于每天长时间盘腿而坐产生了血液循环问题。有些僧人体力不支，坐下修行一会儿就昏昏欲睡，精神不振。达摩认识到他们需要各种武功以克服长期打坐而带来的影响。达摩利用自己作为印度贵族所受的教育，根据瑜珈学研究了一系列的功夫。这些功夫能够增加体内循环能量、提神和放松筋骨，而且强身健体。后来这些功夫被书中称为“古典肌体变化学”。
同时，为了驱倦、防兽、健身、护寺，达摩等人还仿效我国古代劳动人民锻炼身体的各种动作，编成健身活动的“活身法”传授僧人，此即为“少林拳”雏形。此外，达摩在空暇时间还练几手便用铲、棍、剑、杖等防盗护身的动作，后人称之为达摩铲、达摩杖、达摩剑。以后，他又吸取鸟、兽、虫、鱼飞翔、腾跃之姿，发展“活身法”，创造了一套动静结合的罗汉十八手。后来经过历代僧徒们长期演练、综合、充实、提高，逐步形成一套拳术，达百余种，武术上总称“少林拳”。
的确，把武术训练作为寺庙的主要课程似乎是令人难以理解的。但历史表明，在当时，对僧人来说，寺院武术项目要比佛教的说教更重要。
无论关于达摩与武术的传说是真实的历史还是虚构的故事，据考证，三千年来，印度西南部的确一直有习武的传统——~这大概比世界上其他任何地方都历史悠久。武术在印度被称作“卡拉里帕亚”，意思是在角斗场上搏斗，它是在纳亚尔——一个组成封建领主军队的武士种性——中兴起的。为了维护名声被敌人损害的头领的荣誉，一名角头场上的冠军会与来自敌方的另一名冠军激烈拼杀，直到其中一个在这场智与勇的较量中死去。有两部印度古籍都提到过它：一部是讲述战争技艺的《戴诺吠陀》，另一部是医学着作《寿命吠陀》。
然后，也许正是那位位佛教圣贤——达摩，于公元前5世纪左右将卡拉里帕亚介绍到中国，又在少林寺那里它发展成了“中国功夫”并最终派生出其他门类的武功。纳亚尔的技艺今天仍在传授。学徒七岁入门，经历严格的训练以养自制力、注意力和谦卑心。他们必须经过两个阶段更为复杂、要求更高、也更令人疲惫的练习才能进入被称作“安卡萨里”或“武装掐斗”的第三阶段。能够控制自己的体能和情感后，他们准备学习有关“码尔码”（或关键点）的秘术。通过攻击这些脆弱的地方——~“码尔码”，他们能立即致对手于死地，或令其伤残数月。尽管人身上有一百多个“码尔码”，但最关键的只有七个——一位师父只要将他的食指点向一名学生身上的七个码尔码中的一个，他就会令这位弟子失去平衡或失去意识。
今天，卡拉里帕亚的教授者仍像过去一样被视为有疗伤治病的能力，被当做医生看待。比如，他们配制特殊的油和油膏用以治疗关节炎，他们只要把手放在一只断臂或断腿上，就能对其实施麻醉。
菩提达摩（英文：Bodhidharma、又称：菩提达磨），意译为觉法。自称佛传禅宗第二十八祖，为中国禅宗的始祖，故中国的禅宗又称达摩宗，达摩被尊称为“东土第一代祖师”、“达摩祖师”。与宝志禅师、傅大士合称梁代三大士。于中国南朝梁武帝时期航海到广州。梁武帝信佛。达摩至南朝都城建业会梁武帝，面谈不契，遂一苇渡江，北上北魏都城洛阳，后卓锡嵩山少林寺，面壁九年，传衣钵于慧可。后出禹门游化终身。
菩提达摩（英文：Bodhidharma；~536，另说532、528）通称达摩，是中国禅宗的始祖。他生于南天竺（印度），婆罗门族，传说他是香至王的第三子，出家后倾心大乘佛法，出家后从般若多罗大师。南朝梁.普通年中（520~526，一说南朝宋末），他自印度航海来到广州，从这里北行至北魏，到处以禅法教人。据说他在洛阳看见永宁寺宝塔建筑的精美，自言年已一百五十岁，历游各国都不曾见过，于是“口唱南无，合掌连日”（《洛阳伽蓝记》卷一）。
达摩在中国始传禅宗，“直指人心，见性成佛，不立文字，教外别传”。佛陀拈花微笑，迦叶会意，被认为是禅宗的开始。不立文字的意思是禅是脱离文字的，语言和文字只是描述万事万物的代号而已。这也是为什么慧能大字不认识一个，但是却通晓佛经的原因。只要明心见性，了解自己的心性，就可以成佛。经二祖慧可，三祖僧璨、四祖道信、五祖弘忍、六祖慧能等大力弘扬，终于一花五叶，盛开秘苑，成为中国佛教最大宗门，后人便尊达摩为中国禅宗初祖，尊少林寺为中国禅宗祖庭。
东魏天平三年（公元536年）卒死于洛滨，葬熊耳山。