巴甫洛夫于1849年9月26日出生在俄国梁赞的一位牧师家庭。1875年，他从彼得堡大学毕业后开始在谢切诺夫指导下学习医学和生理学。1883年，他获得了医学博士学位。1884年，巴甫洛夫到德国莱比锡追随年迈的路德维希学习生理学。路德维希当时是与弥勒、杜·雷蒙、赫尔姆霍巴甫洛夫齐名的生理学家，从德国学成回国后，巴甫洛夫担任药理学教授。巴甫洛夫是一位出色的演讲家，更是一位优秀的生理学教师。他发明了医用描波器、水银血压计等仪器，并对肾脏的功能和唾液的分泌功能有研究。
巴甫洛夫对消化生理有着浓厚的兴趣。他在自己的博士论文《心脏的离心神经》中阐明了向心神经对心率和血压的影响，在此基础上他进一步指出神经系统是动物和人的机体内所进行着的一切过程的主宰者，消化生理当然也不例外。
大学时代的巴甫洛夫就对消化生理进行了研究。1879年，他第一次把一个固定的胰腺瘘管成功地安置在狗的身上，从此他踏上了慢性生理实验的征程。当时的生理学实验都是急性的，是在非正常状况下进行的。巴甫洛夫主张只有在正常的状况下才能揭示生理活动的本质规律。巴甫洛夫做了一系列实验来证明神经对消化腺分泌的控制作用。1889年，他做了著名的“假喂”实验，这个实验是这样的：将实验狗的食管切开，食物从口中进入从食管切开处出来，这时食物并没有进入胃中，但通过胃瘘管发现胃液仍然分泌。这个实验说明了胃液的分泌并不仅仅是食物对胃的机械或化学刺激所引起，而是通过神经在起作用。为了更准确证实神经对胃液分泌的影响，他把分布到胃的迷走神经切断再重复上面的实验过程，此时胃液停止了分泌，导致这个实验就表明了动物在吃食时由于嗅觉、味觉、咀嚼和吞咽运动通过神经传导刺激胃液的分泌。巴甫洛夫在这两个实验的基础上还进行了进一步的实验，这些实验使巴甫洛夫发现胃液有两种：一种是由食物的机械或化学刺激产生的；一种是由神经刺激产生的，他称之为“心理分泌液”。1897年，巴甫洛夫总结了消化腺研究方面的主要成就，并在此基础上出版了《主要消化腺活动讲义》。
1904年，巴甫洛夫获得了诺贝尔奖。荣誉并未让巴甫洛夫就此止步，他继续研究“心理分泌”的神经机制。巴甫洛夫在用狗做实验时发现狗在看到或嗅到食物，甚至只要听到饲养员的呼唤声就能分泌大量唾液，并非在吃到了食物之后才会分泌唾液，这种现象靠一般的反射理论很难解释。通过多次实验，巴甫洛夫将反射分为条件反射和非条件反射：非条件反射是先天性的，如膝跳反射；条件反射是后天获得的。巴甫洛夫认为条件反射是中枢神经因外周神经反复刺激后构成的一种暂时联系，他指出动物和人身上的条件反射和无条件反射属于第一信号系统，语言是人的第二信号系统，他还用两个信号系统理论来解释人的学习过程。1921年，巴甫洛夫出版了《大脑两半球活动讲义》，提出了高级神经系统类型学说。他根据神经活动的强度、灵活性和平衡性将行为分为四种基本类型。1935年，巴甫洛夫在列宁格勒主持了第十五届国际生理学大会。巴甫洛夫被誉为“世界生理学家的领袖”。