Треба було рятувати Україну, виривати її із лещат деспота й поневолювача. Розмірковуючи над долею України, Мазепа замислювався й над власною долею. Вона була під загрозою. Можна було використати європейську політичну обстановку, яка склалася несприятливо для завойовницьких планів царя. Шведський король Карл XII переміг Данію, що разом з польським королем Августом II, який водночас був і саксонським курфюрстом, першою розпочала Північну війну в 1700 р. Данія окупувала Шлезвіг-Голштинію. Август зі своїм військом узяв у облогу Ригу. Карл XII висадився з військом у Копенгагені й примусив датського короля укласти мир і вийти з антишведської коаліції.
Цар Петро оголосив Швеції війну 19 серпня 1700 р. і обложив 40-тисячною армією фортецю Нарву на південному березі Фінської затоки. 20 листопада шведський король на чолі восьмитисячного війська несподіваним рішучим наступом розгромив царську армію. Всі генерали і офіцери Петра І, серед яких переважали іноземці, здалися в полон. Царська армія втратила увесь обоз, артилерію, військовий скарб.
За велінням царя 12-тисячний козацький корпус під командуванням полковника Обідовського вирушив під Нарву, але встиг дійти тільки до Пскова, коли все було скінчено. Кілька тисяч козаків, хоч вони й не воювали, загинули від голоду і холоду або повернулися в Україну скаліченими.
У 1702 р. Карл XII у Лівонії подолав і третього свого ворога — польського короля Августа, прибічника царя, а, розбивши його армію, переніс військові дії в Литву. Однак Петро І, незважаючи на нищівний розгром його війська під Нарвою й поразки союзників, із непохитною рішучістю й енергією намагався продовжувати війну. Новим договором цар зміцнив свій союз з польським королем Августом. Петро готовий був іти назустріч вимогам Августа про зречення тих прав, які він іще мав на частину Правобережної України. Це викликало протести Мазепи, який різко висловився перед царем проти всяких поступок полякам коштом України.
Нового, ще нищівнішого, розгрому військовим силам польського короля завдав Карл XII у 1702 р. Шведські війська захопили Варшаву і Краків. Багато польських магнатів перейшло на бік познанського воєводи Станіслава Лєщинського, котрий претендував на королівську корону і якого підтримували шведи. Мазепа за наказом царя змушений був у 1703 р. послати до Білорусії на підтримку креатури Петра І — Августа II велике військове з'єднання (12 тисяч козаків), очолене полковником Міклашевським.
Сам гетьман весною 1704 р. на чолі всього свого війська (40 тисяч козаків) вирушив у Правобережну Україну для виконання наказів Петра І та Августа II приборкати магнатів — прибічників Станіслава Лєщинського. Але Іван Мазепа, зайнявши козацькими військами Київщину й Волинь, а в наступному році — Поділля й Галичину, дійшовши аж до Сандомира, здійснював, як уже зазначалося, свою давню мету, свою національну програму — об'єднання обох частин України. Фактично він став гетьманом усієї України і вживав титул — «гетьман обох сторін Дніпра».
Водночас 17-тисячний український корпус під проводом полковників Апостола та Мировича за розпорядженням Мазепи приєднався до саксонських військ Августа й діяв разом із ними проти шведів на Познанщині. Козаки Апостола розбили шведські частини Лейбнгельма й захопили у полон 300 шведів. Козаки Мировича брали участь у здобутті Варшави.
Однак Карл XII продовжував діяти досить успішно. Він знову розгромив військові сили Августа, а його самого вигнав із Польщі й переніс війну на територію Білорусії і Литви, а потім і Саксонії. Литовські магнати й шляхта в масі своїй переходили на бік шведів, визнаючи Станіслава Лєщинського, який третього вересня 1705 р. був проголошений польським королем.
Цар, намагаючись затримати просування шведів, викликав Мазепу з козацьким військом. 14 тисяч козаків привів український гетьман до Мінська, де їх поставили залогою, а також у Слуцьку, Несвіжі, Ляховичах. Шведам і тут посміхнулося військове щастя. Вони взяли Несвіж, у боях за який загинув стародубський полковник Міклашевський. Після довгої облоги шведи здобули Ляховичі, де потрапив у полон переяславський полковник Мирович.
У 1706 р. Карл XII вирішив остаточно покінчити з Августом Саським. З головними своїми військовими силами Карл вирушив до Саксонії, рідної спадщини Августа, й окупував її аж до Лейпціга. Августу нічого не залишилося, як почати переговори, в результаті яких був укладений сепаратний мир 14 вересня 1706 р. зі шведським королем. Август розірвав свій союз із Москвою, зрікся польської корони на користь Станіслава Лєщинського, увільнив своїх підданих від присяги йому на вірність. Карл XII дістав змогу повернути всі свої збройні сили проти останнього члена антишведської коаліції — царя Петра.
Восени 1708 р. шведський король вирушив із Польщі через Литву і Білорусію на Московщину. Варто зазначити, що напередодні 1707 р. Мазепа остаточно утвердився в думці: для врятування України необхідно заздалегідь розірвати з Москвою (розгром котрої тоді здавався неминучим) і шукати забезпечення самостійності України через союз зі Швецією. Ще раніше український гетьман установив контакти зі шведським королем через довірених посередників. Робилося це з надзвичайною обережністю. Докладно передати перебіг цих подій, особливо початок, неможливо через брак достовірних історичних джерел.
У жовтні 1705 р. спробу встановити з українським гетьманом союзні відносини зробив Станіслав Лєщинський. Його представник привіз офіційний проект союзу за підписами польського короля та канцлера. Мазепа, після допиту з тортурами, відправив цього представника разом із проектом договору в Москву. В листі до Петра він повідомляв, що вже було чотири спроби намовити гетьмана на розрив із царем. Але, запевняв гетьман царя, він «залишається непохитним, як гранітна скала, супроти всіх спокус». Насправді, Мазепі союз із польським королем був ні до чого, оскільки гетьман завжди непримиренно ставився до панування поляків в Україні. А якось у розмові з французом Балюзом, якого приймав у батуринському палаці, Мазепа заявив, що «польська корона йде за прикладом давнього Риму до занепаду». Його цікавив тільки Карл XII.
У березні 1706 р. в Білорусії чернець передав Мазепі шифроване послання близької довіреної особи княжни Дольської, в якому повідомлялося, що Карл XII направив гетьману свого листа. Через деякий час, уже в Києві, Мазепа одержав нового листа, де повідомлялося, що шведський король обіцяє підтримати Мазепу на Волині, й він може розраховувати на всю шведську армію, отже, гетьман може приступати до виконання свого плану. Незабаром йому буде надісланий договір за підписом Карла XII й Станіслава Лєщинського.
4 липня до Києва приїхав цар з Меншиковим. Розійшлася чутка, що Карл XII іде на Україну. Цар наказав своєму улюбленцю підготувати для відсічі кінноту, а Мазепу поставив під його командування. Володар України відчув себе ображеним, приниженим і скривдженим. Меншиков, якого цар нагородив титулом князя, прагнув стати українським гетьманом. Проте Мазепа не виявив своїх почуттів, і цар та Меншиков продовжували вважати гетьмана «одиноким серед старшин вірним цареві».
Під час бенкету Меншиков напідпитку завів розмову з Мазепою про те, що оскільки царські війська в Києві, нарешті слід розправитися з «нашими ворогами», маючи на увазі старшину. Мазепа відповів, що «небезпечно починати нову війну, внутрішню, поки не покінчили із зовнішніми ворогами», але зробив так, щоб присутня старшина чула цю розмову. Потім гетьман своїм старшинам сказав: «Скрізь проливаємо свою кров — у Лівонії, Польщі, Литві, в Криму, Туреччині. Й навіщо? Вся ваша нагорода — це образи, приниження, а тепер хотять нам ще забрати останки нашої свободи… Господи, змилуйся над нами, не дай їм виконати наміченого плану». Це був натяк, але старшина вже впевнилась, що їхній гетьман противник царської політики в Україні, яка викликала чимраз більше нарікань та обурення серед усього українського народу.
Будівництво Київської фортеці влітку 1706 р., започатковане Петром І у зв'язку зі згадуваним спрямуванням шведських військ в Україну, обернулося рабською працею, знущанням, бідою не тільки для козацтва, а й для міщанства, особливо ж для селян, яких силоміць гнали на землекопні роботи. До Мазепи один за одним приходили полковники й уже відверто закликали до визвольних дій. Миргородський полковник Данило Апостол казав: «Очі всього народу звернені до тебе, гетьмане. Цей нарід вірить у тебе. Нехай Господь береже тебе перед смертю, щоби ти не залишив нас у неволі». Полковник Горленко додав: «Як ми щодня молимось за спокій душі Хмельницького і звеличуємо його ім'я за те, що визволив Україну з ляцького ярма, так і, навпаки, проклинатимемо ми й наші діти довіки тебе й твої кості, коли ти нас за свого гетьманування після смерті своєї у такій неволі залишиш».
