Шел день за днем, а советский гарнизон продолжал держать жесткую оборону, срывая все попытки противника приблизиться к дому. Были моменты, когда лишь ценой нечеловеческого напряжения, собрав в кулак волю и решимость, советским солдатам удавалось отбивать атаки врага. Сражаясь за этот дом, который они не имели права оставить, за стариков, женщин и детей, укрывшихся в подвале, за свою дивизию, гарнизон помнил слова своего комдива генерала А. И. Родимцева о том, что гвардейцы в Сталинграде должны стоять насмерть.
Действительно, в этом противостоянии с противником наши бойцы «врастали» в оборону, совершенствовали ее. Уже освоившись, они отрыли глубокую траншею в человеческий рост, протянувшуюся на 200 метров до КП батальона. Она помогла эвакуировать в тыл укрывшихся в подвалах мирных жителей. По ней в дом, в основном по ночам, приходили командир роты И. И. Наумов, командир батальона А. Е. Жуков, командир полка И. П. Елин. По необходимости время от времени в дом приходил «поработать» прославленный снайпер А. И. Чехов, а также санинструкторы. По траншее в дом прошел и оператор съемочной группы документального фильма «Сталинград» В. И. Орлянкин. Этот ход сообщения давал возможность снабжать гарнизон боеприпасами, медикаментами, продовольствием. От Волги в термосах доставлялась вода, которая была на вес золота. Немцы яростно обстреливали участок между мельницей и домом. Это была нелегкая и очень опасная дорога: с термосом на спине доползти от «Дома Павлова» к мельнице, потом спуститься к Волге и приползти обратно.
Во время одного из посещений дома командир полка не исключил, что немцы попытаются сжечь дом. На что бойцы отшутились обещанием не сгореть в нем. И уже серьезно, как приказ, прозвучали слова Елина о том, что важен не столько сам дом, сколько выгодная позиция для обороны, и что, даже если дом будет гореть, уходить отсюда все равно нельзя. Гарнизон занялся оборудованием запасных позиций. Бойцы решили связать подземными ходами находившееся перед домом цементированное бензохранилище и расположенный в 30 метрах за домом люк водопроводного тоннеля. Это была тяжелая работа, делать ее нужно было незаметно и собственными силами гарнизона. Возможности отдыхать почти не было: сменялся солдат с боевого поста и сразу шел рыть тоннель, а затем — снова на пост, в бой. Эти запасные позиции сослужили бойцам хорошую службу. Как только немцы открывали огонь по дому, на постах оставались лишь дежурные, а все остальные уходили в убежище, прекращался обстрел — и весь гарнизон снова был в доме, немедленно открывая огонь по наступавшим немцам.
Бойцы оборонялись, находясь под постоянным шквальным огнем, задыхаясь в дыму и пыли. Взрывными волнами с дома была сорвана крыша. Немцам удалось обвалить одну из торцевых стен, которая была расположена ближе к вражеским батареям. Бойцы шутили, что у них есть еще три стены и «дом теперь с небольшой вентиляцией». Сутки боя сменялись другими, а враг не мог продвинуться ни на метр. Дом продолжал стоять неприступной цитаделью.
День 7 ноября 1942 года — 25-летия Октябрьской революции, особо запомнился защитникам «Дома Павлова». В этот день в Сталинграде стояла непривычная тишина. Немцы, видимо, ждали в этот день каких-нибудь серьезных операций со стороны наших войск и сами решили в атаки не ходить, сосредоточившись на обороне. К вечеру в штаб гарнизона прибыли Елин, Жуков, Наумов. Они передали поздравления с праздником командира дивизии Родимцева, принесли газету «Правда» с докладом И. В. Сталина, поблагодарили за боевую службу, вручили знаки «Отличный пулеметчик» И. Воронову и «Отличный снайпер» Г. Хохолову с записью в красноармейских книжках. Был доставлен и праздничный обед. Собравшись за столом, бойцы грянули многократное «ура!». Это сильно перепугало немцев, они решили, что начинается атака, и открыли яростный огонь.
В минуты затишья защитники дома вслух мечтали о том, как закончат войну, вернутся в родные места, будут ездить друг к другу в гости — за дни обороны они стали близкими и дорогими друг другу людьми.
Дом служил ориентиром на картах Сталинграда и до конца битвы именовался «Домом Павлова», названием, закрепившимся за ним с первого дня захвата группой разведчиков 13-й гвардейской дивизии. Под ним он фигурировал в сводках, донесениях, заметках фронтовых газет. В ходе многодневной обороны сформировался гарнизон, членов которого принято считать защитниками «Дома Павлова». Он состоял из воинов десяти национальностей: русские — И. Ф. Афанасьев, А. П. Александров, М. С. Бондаренко, И. В. Воронов, Т. И. Гридин, Я. Ф. Павлов, И. Т. Свирин, А. Н. Чернышенко, М. В. Киселев, В. К. Сараев; украинцы — В. С. Глущенко, П. И. Довженко, А. И. Иващенко, А. А. Сабгайда, Н. Я. Черноголов, Г. И. Якименко; армянин — В. Авагимов; грузин — Н. Г. Мосияшвили; татарин — Ф. 3. Рамазанов; казах — Т. Мурзаев; узбек — К. Тургунов; таджик — А. Турдыев; еврей — И. Я. Хаит, калмык — Г. Б. Хохолов.
Гарнизон в течение почти двух месяцев не давал врагу пробиться к Волге, и при этом защитникам удалось избежать больших потерь. 19 ноября войска Сталинградского фронта перешли в контрнаступление. Утром 25 ноября, после артиллерийской подготовки, бойцы гарнизона покинули дом и начали продвигаться вперед через площадь. Целью их вылазки было выбить немцев из дома, стоявшего неподалеку. Вперед, от Волги на запад, защитники дома пошли уже в рядах своей родной 7-й роты: после двухмесячного перерыва они снова воссоединились с ней. Во время этой атаки Павлов был ранен в ногу и переправлен в госпиталь на левый берег Волги.
Выписавшись из госпиталя, Яков Федотович пытался вернуться в родную гвардейскую дивизию, но не удалось — к этому времени сталинградцы ушли далеко на запад. Сначала он попал в запасной полк, а затем в 288-й истребительно-противотанковый артиллерийский полк 19-й отдельной истребительной противотанковой артиллерийской бригады Резерва Ставки ВГК. Спустя некоторое время Яков Павлов прочитал в газете про «Дом Павлова» и своих боевых товарищей. Когда он пришел к заместителю полка по политчасти с газетой, то замполит отнесся с недоверием к тому, что боец его полка и есть тот самый Павлов, который оборонял дом в Сталинграде. Он пожелал Павлову думать о будущих подвигах на фронте.
В 1944 году в Житомире Павлов вновь попал в госпиталь с сугубо мирной болезнью — малярией, что вызывало у него отчаянную досаду. И здесь, в госпитале, ему опять попались газетные статьи о «Доме Павлова». Имея неудачный опыт обращения к военному начальству, вернувшись в полк, он дал почитать статьи в газетах своему командиру взвода. Взводный, в свою очередь, посоветовал молчать, так как самозванство в военное время чревато последствиями. Дав такой совет, взводный тем не менее написал письмо-запрос генералу Родимцеву.
Тем временем Яков Павлов храбро сражался в рядах 288-го истребительно-противотанкового артиллерийского полка, который входил в состав 3-го Украинского фронта и вместе с ним двигался на запад. В январе 1944 года Павлов подбил немецкий танк и был награжден еще одной медалью «За отвагу» (приказ командира 288-го ИПТАП № 02/Н от 20 января 1944 года), получил премию в 500 рублей и отпуск на родину. Во время краткосрочного отпуска, находясь дома, Яков узнал от матери о том, что его разыскивает генерал Родимцев. После возвращения в полк Павлов передал письмо генерала, полученное матерью, командованию.
Яков Федотович продолжал доблестно воевать, о чем свидетельствует выписка из наградного листа от 17 мая 1945 года о представлении его к ордену Красной Звезды: «…Тов. Павлов в бою с немецко-фашистскими захватчиками с 21 по 23 апреля во время форсирования р. Одер и завоевания плацдарма на ее западном берегу проявил себя мужественным и стойким.
21.04.45 года, когда батарея отбивала яростно наседавшего противника, видя, что снаряды на исходе, старшина организовал поднос снарядов, чем обеспечил успех и благоприятный исход борьбы. В этот день батарея отбила 13 вражеских атак. 22–23.04.45 г. батарея сопровождала огнем и колесами наступавшую пехоту. Старшина организовал и руководил подносом снарядов, не отставая от пушек, которые двигались с боевыми порядками пехоты. 24.04 в ночной атаке немцев на наши позиции из личного оружия уничтожил до 15 гитлеровцев. За проявленную смелость и умелую организацию по бесперебойному снабжению батареи снарядами старшина Павлов достоин правительственной награды — ордена Красной Звезды».