随着社会的变迁，约在公元前4世纪，印度佛教发生了第一次大分裂，出现了尊崇传统、保守旧规的上座部和较为进取、提倡改革的大众部。分裂的具体原因，其说不一，有的说是由于在戒律和持守上有了分歧，有的说是由于僧人大众要求改革遭到保守派的非难。之后，佛教内部这种分化的趋势愈演愈烈。公元前4世纪至公元前3世纪为部派佛教时期，并于公元1世纪，形成了大乘佛教。乘是“舟车”、“乘载”和“道路”的意思。后期的佛教自称为大乘，即“大道”、“大业”，部派佛教被称为小乘，谓之“小道”、“小业”。
大乘佛教追求菩萨道的普渡众生，求无上菩提的佛果；小乘佛教强调修炼自我的声闻乘，以罗汉的解脱为目标。大乘僧人基本食表，小乘僧人可食“三净肉”，二者都虏诚的佛教徒，但因宗派不同，一直争论不休。公元8、9世纪以后，由于印度教的兴起，佛教的内部的腐败和派系纷争，以及频繁的外族入侵等原因，佛教在印度开始衰微。