Полученный из Смоленска ответ должен был на первых порах разочаровать Сигизмунда и его ближних советников. Воеводы, поговоря с архиепископом Сергием, с служилыми и посадскими людьми, отписали, что смольняне положили обет в соборном храме Богородицы «за истинную православную христианскую веру, за святые церкви и государя царя и великого князя Василия Ивановича всея Руси всем помереть, а литовскому королю и его панам отнюдь не поклониться». Таким образом, вызванные обещаниями некоторых изменников, расчеты на добровольное покорение смольнян не оправдались, и пришлось силою оружия добывать сей западный оплот Московского государства.

В это трудное, критическое время судьба послала смольнянам мужественного воеводу в лице боярина Михаила Борисовича Шеина, который и явился героем упорной обороны, надолго задержавшей короля у смоленских стен. Смоленск расположен на обоих холмистых берегах Днепра; причем самый город или крепость лежит на левом берегу, а часть городских посадов и слобод на правом. Шеин уговорил жителей сжечь свои беззащитные посады и слободы, а самим перебраться с семьями в крепость, и всем способным к бою стать в ряды ее защитников. Каменные стены крепости, построенные Борисом Годуновым, отличались прочностию и основательностию. Они обнимали более пяти верст протяжения и заключали в себе до 38 круглых и четвероугольных башен, часть которых была с воротами. Стены имели три сажени толщины и до пяти сажен вышины; в них поделаны амбразуры или бои в три обычные яруса: подошвенный, средний и верхний. По стенам было размещено более 300 пушек, тюфяков и разнообразных пищалей; при них в достаточном количестве имелись порох, железные и каменные ядра. Продовольствие заготовлено было также в изобилии. Только мало было опытных ратных людей для обороны такого обширного пространства; ибо отправка трехтысячного отряда на помощь Скопину Шуйскому весьма ослабила смоленский гарнизон. Деятельный воевода сумел до известной степени восполнить этот недостаток. В городе оставалось почти такое же количество ратных людей, т. е. детей боярских, стрельцов, казаков, воротников, затинщиков и пр. По требованию Шеина духовенство всех жителей вновь привело к присяге крепко стоять и обороняться против врагов до последней крайности; а затем он на каждый отдел укреплений назначил головами или начальниками по три, по четыре человека из боярских детей и лучших посадских людей; а черные сотни и слобожан велел расписать по несколько десятков на каждый отдел стены в помощь ратным людям, да по нескольку человек при каждом орудии в помощь пушкарям и затинщикам. Другие посадские и слобожане расписаны были по отделам для содержания ночных караулов в крепости под ведением двух земских старост (Горбачова и Гапянова). Следовательно, каждый занял свое место и отправлял сторожевую и ратную службу. Таким образом набралось всех способных к бою, но большею частию плохо вооруженных, тысяч до семивосьми; а все население крепости со стариками, женами и детьми можно считать от 30 до 40 тысяч. В узкой полосе между крепостью и рекой расположилась еще толпа ближних крестьян, ради пастьбы своего скота; но потом эти люди и скот отчасти попали в руки неприятелей. Большинство же окрестных поселян бежало в леса, где, однако, неприятельские фуражиры отыскивали их и отнимали у них скот.

Осаждавшее войско числом своим вначале немного превышало осажденную рать, с тою, однако, разницею, что оно состояло из опытных хорошо вооруженных конников (гусар, пятигорцев, казаков) и некоторого количества наемной немецкой пехоты. В открытом поле защитники Смоленска не могли бы стоять против них; но за укреплениями они оказали чисто русскую стойкость и неодолимость. Все подсылки, письменные и словесные, пытавшиеся при помощи разных изменников склонить смольнян к сдаче, остались тщетными как вследствие бодрости и предупредительных мер со стороны воеводы, так и вследствие одушевления самих граждан. Религиозная ревность в борьбе с врагами православия, а также неистовства, производимые тогда поляками и казаками в Русской земле, возбуждали в жителях воинственный пыл, а страх видеть от них поругание своих жен и дочерей в особенности усиливал этот пыл. При таком настроении смольняне горячо молились о небесной помощи во своих храмах Богу, Пречистой Богородице и местным угодникам Меркурию, Авраамию и Ефрему. Живою и чувствительною связью с Москвой и царем Шуйским служили тогда их братья и родственники, находившиеся в войске Скопина под начальством князя Барятинского и Ададурова; письменные сношения с ними немало поддерживали верность смольнян и их усердие к обороне. Но тщетно архиепископ смоленский Сергий и воеводы писали царю Василию о недостатке ратных людей и просили помощи. Пока Тушинский вор стоял под Москвой, царь не мог послать войска, а только посылал увещательные грамоты. Смольнянам пришлось ограничиться собственными средствами обороны, и тем более, что крестьяне Смоленского уезда, обольщенные королевскими грамотами о вольности, не послушали воеводского приказу, в осаду не пошли и даточных людей не прислали. Мало того, крестьяне соседних волостей, побуждаемые польскими и литовскими фуражирами, стали возить в королевский лагерь съестные припасы, так что во время осады неприятель не имел недостатка в продовольствии.

Королевское войско окружило город несколькими отрядами. Главные же его силы расположились в укрепленном лагере над Днепром. Начальствующие над ними лица, а именно король, гетман Жолкевский, канцлер Сапега, каштелян перемышльский Стадницкий и др. поместились в ближних загородных монастырях, Троицком, Спасском, Борисоглебском, Архангельском и Духовском. Впрочем, Сапега, обеспокоенный выстрелами из крепости, вскоре покинул Спасский монастырь и велел построить себе дом по далее в днепровской долине. К северу от крепости за Днепром стоял лагерь воеводы брацлавского Яна Потоцкого и его брата; а на пепелище городского посада окопался с своим отрядом литовский маршал Дорогостайский. Выше по Днепру, около Духовского монастыря, расположились особым табором пришедшие вскоре запорожцы. А один из главных виновников похода на Смоленск, пан Гонсевский, с отдельным отрядом осадил ближайшую к Смоленску крепость Белую.

Осаждавшие поставили пушки и принялись обстреливать стены; но по отсутствию мортир и орудий большого калибра (пока их не подвезли из Риги) пальба эта мало вредила осажденным, которые с своей стороны живо отвечали из своих пушек и пищалей. Немецкая пехота начала копать траншеи, чтобы приблизиться к стенам. Недели через две они настолько приблизились, что король решил сделать ночной приступ, с помощью петард. Его повели на двое ворот, Копытецкие и Аврамьевские. Но эти ворота были защищены снаружи деревянными срубами; так что неприятелю пришлось прокрадываться узкими, тесными закоулками. Ему удалось прислонить к воротам доски с петардами («медяные болваны с зельем», по выражению русского источника) и зажечь их. Ворота были выбиты, и несколько десятков воинов ворвались уже в крепость. Но они скоро были вытеснены; ибо никто их не подкрепил: за треском петард и орудий, назначенный для приступа отряд не уловил момента; а помянутые срубы препятствовали ему видеть, что за ними происходило; трубачи не подали условленного сигнала, и отряд отступил. Разрушенные ворота смольняне немедля завалили песком и камнями, а потом укрепили их палисадами, и усилили при них стражу. Также неудачны были попытки нечаянного приступа, произведенные и в следующие ночи.

Эти первые неудачи смутили осаждающих и ободрили осажденных. После неудачных приступов поляки прибегли к другому обычному средству: к подкопам. Но и тут их попытки оказались тщетны; ибо основания смоленских стен были так искусно устроены, что имели под собой тайные ходы или слухи, благодаря которым каждый подкоп своевременно был замечен и уничтожен контрминою. Король и канцлер Сапега неоднократно возобновляли попытки обольстить осажденных своими увещательными грамотами и обещаниями всяких милостей. Смольняне оставались глухи к сим увещаниям. Поэтому волею-неволею пришлось вести правильную, долгую осаду и быть постоянно настороже; ибо осажденные делали частые вылазки, побуждаемые к тому в особенности нуждою в дровах и воде; они обыкновенно по ночам производили эти вылазки, под прикрытием которых рубили деревья в соседних рощах и делали запасы воды из Днепра. Хотя на помощь королю пришло до 30 000 запорожцев, т. е. поднялся едва не весь Запорожский кош: но они постоянно менялись в числе, так как не любили подчиняться военной дисциплине, приходили и уходили, когда им вздумается, и более занимались набегами на разные московские области, чем Смоленскою осадою. Видя недостаточность своих сил, Сигизмунд и его главные советники решили привлечь на королевскую службу те польские войска, которые тогда стояли под Москвою и Троицею, т. е. тушинцев и сапежинцев, служивших Лжедимитрию II; для чего стали снаряжать особое посольство от короля под Москву.