Летом 1877 года он работал в городе Бреслау, в Германии, с Рудольфом Гейденгайном, специалистом в области пищеварения. В следующем году по приглашению С. Боткина Павлов начал работать в физиологической лаборатории при его клинике в Бреслау, ещё не имея медицинской степени, которую Павлов получил в 1879 году. В лаборатории Боткина Павлов фактически руководил всеми фармакологическими и физиологическими исследованиями. В том же году Иван Петрович начал исследования по физиологии пищеварения, которые продолжались более двадцати лет. Многие исследования Павлова в восьмидесятых годах касались системы кровообращения, в частности, регуляции функций сердца и кровяного давления.
В 1881 году произошло счастливое событие: Иван Петрович женился на Серафиме Васильевне Карчевской, от которой у него родились четыре сына и дочь. Однако так хорошо начавшееся десятилетие стало самым тяжёлым для него и для его семьи. «Не хватало денег, чтобы купить мебель, кухонную, столовую и чайную посуду», — вспоминала его жена. Бесконечные скитания по чужим квартирам: долгое время Павловы жили вместе с братом Дмитрием в полагавшейся ему университетской квартире; тяжелейшее несчастье — гибель первенца, а буквально через год опять неожиданная смерть малолетнего сына; отчаяние Серафимы Васильевны, её продолжительная болезнь. Всё это выбивало из колеи, отнимало силы, столь необходимые для научных занятий.
И был такой год, который жена Павлова назовёт «отчаянным», когда мужество изменило Ивану Петровичу. Он разуверился в своих силах и в возможности кардинально изменить жизнь семьи. И тогда Серафима Васильевна, которая уже не была той восторженной курсисткой, какой начинала свою семейную жизнь, принялась подбадривать и утешать мужа и вывела-таки его из глубокой меланхолии. По её настоянию Иван Петрович вплотную занялся диссертацией.
После длительной борьбы с администрацией Военно-медицинской академии (отношения с которой стали натянутыми после его реакции на увольнение Циона) Павлов в 1883 году защитил диссертацию на соискание степени доктора медицины, посвящённую описанию нервов, контролирующих функции сердца. Он был назначен приват-доцентом в академию, но вынужден был отказаться от этого назначения в связи с дополнительной работой в Лейпциге с Гейденгайном и Карлом Людвигом, двумя наиболее выдающимися физиологами того времени. Через два года Павлов вернулся в Россию.
Впоследствии он напишет об этом скупо, несколькими фразами обрисовав столь многотрудное десятилетие: «Вплоть до профессуры в 1890 году, уже женатому и имевшему сына, в денежном отношении постоянно приходилось очень туго, наконец, на 41-м году жизни я получил профессуру, получил собственную лабораторию… Таким образом, вдруг оказались и достаточные денежные средства, и широкая возможность делать в лаборатории что хочешь».
К 1890 году труды Павлова получили признание со стороны учёных всего мира. С 1891 году он заведовал физиологическим отделом Института экспериментальной медицины, организованного при его деятельном участии; одновременно он оставался руководителем физиологических исследований в Военно-медицинской академии, в которой проработал с 1895 по 1925 год.
Будучи от рождения левшой, как и его отец, Павлов постоянно тренировал правую руку и в результате настолько хорошо владел обеими руками, что, по воспоминаниям коллег, «ассистировать ему во время операций было очень трудной задачей: никогда не было известно, какой рукой он будет действовать в следующий момент. Он накладывал швы правой и левой рукой с такой скоростью, что два человека с трудом успевали подавать ему иглы с шовным материалом».
В своих исследованиях Павлов использовал методы механистической и холистической школ биологии и философии, которые считались несовместимыми. Как представитель механицизма Павлов считал, что комплексная система, такая как система кровообращения или пищеварения, может быть понята путём поочерёдного исследования каждой из их частей; как представитель «философии целостности» он чувствовал, что эти части следует изучать у интактного, живого и здорового животного. По этой причине он выступал против традиционных методов вивисекции, при которых живые лабораторные животные оперировались без наркоза для наблюдения за работой их отдельных органов.
Считая, что умирающее на операционном столе и испытывающее боль животное не может реагировать адекватно здоровому, Павлов воздействовал на него хирургическим путём таким образом, чтобы наблюдать за деятельностью внутренних органов, не нарушая их функций и состояния животного. Мастерство Павлова в этой трудной хирургии было непревзойдённым. Более того, он настойчиво требовал соблюдения того же уровня ухода, анестезии и чистоты, что и при операциях на людях.
Используя данные методы, Павлов и его коллеги показали, что каждый отдел пищеварительной системы — слюнные и дуоденальные железы, желудок, поджелудочная железа и печень — добавляет к пище определённые вещества в их различной комбинации, расщепляющие её на всасываемые единицы белков, жиров и углеводов. После выделения нескольких пищеварительных ферментов Павлов начал изучение их регуляции и взаимодействия.
В 1904 году Павлов был награждён Нобелевской премией по физиологии и медицине «за работу по физиологии пищеварения, благодаря которой было сформировано более ясное понимание жизненно важных аспектов этого вопроса». В речи на церемонии вручения премии К. А. Г. Мёрнер из Каролинского института дал высокую оценку вкладу Павлова в физиологию и химию органов пищеварительной системы. «Благодаря работе Павлова мы смогли продвинуться в изучении этой проблемы дальше, чем за все предыдущие годы, — сказал Мёрнер. — Теперь мы имеем исчерпывающее представление о влиянии одного отдела пищеварительной системы на другой, т. е. о том, как отдельные звенья пищеварительного механизма приспособлены к совместной работе».
На протяжении всей своей научной жизни Павлов сохранял интерес к влиянию нервной системы на деятельность внутренних органов. В начале XX века его эксперименты, касающиеся пищеварительной системы, привели к изучению условных рефлексов. В одном из экспериментов, названных «мнимым кормлением», Павлов действовал просто и оригинально. Он проделал два «окошка»: одно — в стенке желудка, другое — в пищеводе. Теперь пища, которой кормили прооперированную и вылеченную собаку, не доходила до желудка, вываливалась из отверстия в пищеводе наружу. Но желудок успевал получить сигнал, что пища в организм поступила, и начинал готовиться к работе: усиленно выделять необходимый для переваривания сок. Его можно было спокойно брать из второго отверстия и исследовать без помех.
Собака могла часами глотать одну и ту же порцию пищи, которая дальше пищевода не попадала, а экспериментатор работал в это время с обильно льющимся желудочным соком. Можно было варьировать пищу и наблюдать, как соответственно меняется химический состав желудочного сока.
Но главное было в другом. Впервые удалось экспериментально доказать, что работа желудка зависит от нервной системы и управляется ею. Ведь в опытах мнимого кормления пища не попадала непосредственно в желудок, а он начинал работать. Стало быть, команду он получал по нервам, идущим от рта и пищевода. В то же время стоило перерезать идущие к желудку нервы — и сок переставал выделяться.
Другими способами доказать регулирующую роль нервной системы в пищеварении было просто невозможно. Ивану Петровичу это удалось сделать первым, оставив далеко позади своих зарубежных коллег и даже самого Р. Гейденгайна, чей авторитет был признан всеми в Европе и к которому Павлов совсем недавно ездил набираться опыта.
«Любое явление во внешнем мире может быть превращено во временный сигнал объекта, стимулирующий слюнные железы, — писал Павлов, — если стимуляция этим объектом слизистой оболочки ротовой полости будет связана повторно… с воздействием определённого внешнего явления на другие чувствительные поверхности тела».
Поражённый силой условных рефлексов, проливающих свет на психологию и физиологию, Павлов после 1902 года сконцентрировал свои научные интересы на изучении высшей нервной деятельности.