巴甫洛夫出生在俄罗斯的梁赞，父亲是东正教的一名牧师。[3]他刚开始是一位神学院的学生，但后来退出，1870年进入圣彼得堡大学学习自然科学。[4]在1879年得到博士学位。大学毕业时，获金质奖章。后在德国学习两年。
一只巴甫洛夫的狗，巴甫洛夫博物馆，2005年
在1890年代，巴甫洛夫研究了狗的胃，透过唾腺来研究在不同条件下对食物的唾液分泌。他注意到狗在食物送进嘴里之前便开始分泌口水，并开始研究这个他所称的"灵魂分泌液"。他认为这些现象比起唾液的化学成分更加有趣，于是便改变了他的研究焦点。以调整食物出现之前的刺激来开始一连串的实验。因此建立了他所称的条件反射（如唾液分泌受动物先前的经验而制约）。这些实验在1890年代和1900年代透过翻译被介绍到西方科学界，但直到1927年才有完整的英文书籍出版。
巴甫洛夫是一位在工作和习惯上非常规律的实验操作者，他准时地在12点整吃午餐、每天晚上准时在同样的时间睡觉、每天准时喂他的狗，并且每年的同一天离开列宁格勒（圣彼得堡）前往爱沙尼亚。如此的习惯直到他因为他的儿子维克多（Victor）在俄罗斯白军运动中过世而失眠为止。
不同于许多革命前的俄国科学家，巴甫洛夫受到苏联政府的高度认可，且能够继续他的研究直到相当大的年纪。 巴甫洛夫承认本身并不热衷于马克思主义，但由于诺贝尔奖得奖者的身份，被视为有价值的政治资产。当他在1923年从第一次美国访问归国之后（第二次在1929年），他公然指责共产主义，认为国际马克思主义的思想基础是错误的，并说“我不会为了你们所做的社会实验牺牲一只青蛙的后腿！”。1927年，巴甫洛夫更是写信给斯大林，称他是“俄国人的耻辱”。 1934年谢尔盖·基洛夫被谋杀后，巴甫洛夫写了几封信给莫洛托夫，批评这样的迫害，并希望重新考虑关于几个他所认识的人的案件[5]。
晚年巴甫洛夫试着用制约理论去建立关于诱发神经官能症的实验模型。1936年在列宁格勒过世，他的实验室受到安全的保存。直到死前巴甫洛夫依然神志清醒，且继续他的研究。他要求一位学生坐在他的床边纪录他迈向死亡的详细情形，想要建立关于他生命最后一段时间的主观经验的独特证明。[6]
1936年2月27日，巴甫洛夫因双肺炎去世，享年86岁。人们为他举行了隆重的葬礼，为了纪念他，他的实验室被当做博物馆保存了下来。[5]