Сначала Василий заключил мирный договор с Менгли-Гиреем, а затем решил, желая мести, наказать бывшего московского ставленника, а с 1505 г. мятежного, вторгавшегося в русские земли казанского хана Магмет-Амина. В 1506 г. началась подготовка к взятию Казани. Русские войска подошли к столице татар и под руководством Дмитрия, брата Василия, попытались приступом овладеть городом, но попытка не удалась. Второй удар был нанесен Василием Холмским. Татары не ожидали нападения, побежали, но русские не воспользовались благоприятным обстоятельством, а начали пить крепкие напитки, грабить население. Через три дня 50-тысячное войско татар внезапно ударило по противнику. Русские бежали, оставив Казань.

Однако казанский хан Магмет-Амин понял, что воевать с Россией бесполезно, и дал клятвенную грамоту, согласно которой обязался быть другом великого князя, признавая свою зависимость от Москвы, как это было при Иоанне III.

Политика России в отношении Литвы осталась прежней. Со стороны Василия и Александра, как говорили в те времена, изъявлялась холодная учтивость. В августе 1506 г. король Польши и великий князь Литвы Александр умер. Василий попытался через сестру Елену утвердить себя в этих достоинствах, но Елена сообщила, что брат Александра 39-летний Сигизмунд I уже объявлен преемником в Вильно и Кракове.

В правление Василия продолжались переезды многих семей из России в Литву и обратно. Так, в 1508 г. славный Константин Острожский изменил данной Василию присяге и бежал в Литву, Сигизмунд принял его. В то же время в Москву прибыли Михаил Глинский и его братья, род которых происходил от одного татарского князя, выехавшего из Орды к Витовту. Пишут, что действия Глинских имели намерение восстановить древнее Киевское княжество и они хотели господствовать там независимо.

Переезды семей не мешали выяснять русско-литовские отношения военным путем. В 1508 г. русские полки осадили Минск, разорили окрестные села, воевали в смоленских землях, ходили на Оршу. Положение Литвы становилось все тяжелее и тяжелее. Во многих местах происходили локальные сражения, но каждая сторона сохранила свои границы.

В 1508 г. Сигизмунд I предложил мир, Василий его принял. Король утверждал за Россией все приобретенные Иоанном III земли, а также вотчины и города князей, перешедших из Литвы на службу великому князю, —  Шемякиных, Стародубских, Трубецких, Одоевских, Воротынских, Перемышльских, Новосильских, Белевских, Мосальских. За эту уступку Литвы Василий обещал не вступать в Киев, Смоленск и другие литовские владения. Города Мозырь и Туров были также оставлены за Литвой.

Отношение крымских татар к России ухудшилось, но Василий смог возвратить их доверие. Боярин Морозов по указанию Василия в 1509 г. тайно встретился со старшим сыном хана Магмет-Гиреем и вел с ним переговоры. Его отец Менгли-Гирей был уже в преклонном возрасте, но добровольно правление уступать не собирался. В том же году Россия заключила на 14 лет новый договор с Ливонским Орденом. Большое значение имело то, что немцы прервали союзнические отношения с польским королем.

Обезопасив Россию от внешних неприятелей, Василий решил окончательно определить судьбу древнего Пскова. Собрав многих приближенных из числа родных, бояр и воевод, Василий сначала приехал в Новгород и оттуда направил своих послов в Псков, выдвинув два конкретных условия: отменить вече и снять колокола, приняв великокняжеских наместников. 13 января 1510 г. граждане Пскова со слезами сняли вечевой колокол с церкви Св. Троицы и, глядя на него, вспоминали о своей воле.

20 января Василий въехал в Псков. Народ принял его как государя. Город достался великому князю без войны. Вскоре в Москву было переселено 300 знатных семей, список огласили при Василии. Наместником Пскова был назначен боярин Григорий Федорович Давыдов. Вечевой колокол был отправлен в Москву. Взамен убывших знатных людей в Псков было отправлено 300 семей из 10 городков и сел этого же края. Так закончилась независимость города Пскова.

В 1510 г. возобновились взаимные претензии Литвы и России. Переговоры безуспешно продолжались около трех лет, в 1512 г. военные действия вновь возобновились.

Младший брат Василия, Симеон, пылкий, легкомысленный, с неудовольствием видел себя подданным великого князя и решил бежать из Калуги в Литву. Василий, узнав об этом, хотел заключить брата в темницу, но по просьбе других близких родных оставил его в покое. Юный брат раскаялся.

Сигизмунд I воспользовался обстановкой и за 15 тысяч червонцев «выкупил» клятву у Менгли-Гирея. Этот тайный договор о разрыве отношений с Россией исполнился немедленно: в мае 1512 г. сыновья хана Ахмат и Бурнаш-Гирей напали на Россию. Бурнаш-Гирей подступил к самой Рязани. Московские воеводы, собрав сильную дружину, прогнали татар. Менгли-Гирей объявил, что его сыновья помимо его воли начали войну. Но как бы то ни было, а союз с крымскими татарами разрушился.

Сигизмунд I, готовясь к войне с Россией, склонял к ней и крымских татар. Узнав об этом, Василий направил Сигизмунду грамоту о разрыве отношений и начал военные действия против Литвы. Россия вооружилась и сама пошла на противника. В 1513 г. Василий приступил к Смоленску, но взять город не удалось (в это время в Литве скончалась вдовствующая королева Елена —  сестра Василия). В июне того же года великий князь вторично пошел на Смоленск. Наместник города пан Юрий Сологуб встретил русские войска в поле, но в бою уступил. Василий сам прибыл в войска и 25 сентября начал осаду Смоленска, которая продолжалась шесть недель, однако город устоял. Так и не добившись цели, Василий с войском должен был возвратиться в Москву.

В 1514 г., после двух неудачных походов на Смоленск, Василий снова, собрав рать, пошел «воевать» этот город. Василий выехал из столицы с войском. 29 июля началась осада города, в результате которой сопротивление литовцев было сломлено. Отличились русские пушкари. «Взятие Смоленска, — говорит летописец, — казалось светлым праздником для всей России. Отнять чуждое лестно одному славолюбию государя; но возвратить собственное весело народу». 110 лет Смоленск находился под властью Литвы. Изменились обычаи, но русское слово трогало сердца местных жителей, и они с благодарностью встретили воинов-освободителей. Сологубу отсекли в Смоленске голову. Города Смоленщины — Мстиславль, Кричев и Дубровна — не сопротивлялись, и их население присягнуло России.

8 сентября 1514 г. состоялась кровопролитная битва русских с литовцами близ Орши. Несмотря на превосходство сил русских войск из-за несогласия между воеводами Булгаковым-Голицей и Челядниным литовцы победили. Литовский гетман Константин Острожский применил хитрость, зайдя в тыл русским войскам. Русские лишились 30 тысяч воинов, многие воеводы попали в плен. Но эта блестящая победа литовцев не имела никаких важных последствий.

Смоленск охватили волнения. Изменники сообщили Сигизмунду о передаче города Литве. Константин Острожский с шестью тысячами воинов осадил город. Василий Шуйский, наместник Смоленска, повесил всех изменников на стенах города. На повешенных были надеты собольи шубы, бархат, драгоценные камни, серебряные ковши и чарки, подаренные им русским великим князем. Острожский с ожесточением начал осаду города, но, так как изменников больше не было, город защищался мужественно. Литовцы ушли, они заняли лишь Дубровну, Мстиславль и Кричев, где жители снова присягнули Сигизмунду.

В 1515 г. Менгли-Гирей скончался. Этот хан, как говорили современники, «пережил самого себя», в последние годы он был лишь тенью властителя. Василий питал надежды на дружбу с его старшим сыном Магмет-Гиреем, но тот не походил на отца ни умом, ни добрыми качествами, к тому же пьянствовал. Сначала этот хан принял дружбу Василия, но затем изменил ей, войдя в сношения с Сигизмундом. Магмет-Гирей грозил Василию, который, однако, надеялся на дружбу с другим сыном Менгли-Гирея — Ахмат-Гиреем.

В 1515 — 1516 гг., татары опустошили Мещеру, собирались в окрестностях Азова, угрожали рязанским землям.