Юнаком Іван Мазепа брав участь у війні зі шведами. Він добре знався на зброї, зібрав у Батуринському палаці численну й цінну її колекцію, організував у Батурині ливарню для вироблення гармат.
На чолі однієї з кращих європейських армій того часу — козацького війська — Мазепа провів багато походів, здебільшого успішних. Наприкінці XVII ст. він писав царю: «За 12 літ з початку свого гетьманства я зробив 11 літніх і 10 зимових походів».
Під час так званого «першого азовського походу 1695 р.» цар Петро І з 35-тисячним військом, серед якого було й кілька козацьких полків, ціле літо здобував турецьку фортецю Азов, закидавши її кільканадцятьма тисячами великих бомб, але так і не взяв її. З наближенням осінньої пори він змушений був відступити. Водночас гетьман Іван Мазепа на чолі козацького війська, до якого приєднався боярин Б. П. Шереметєв із допоміжним московським кінним і пішим військом, діяли за наказом царя в пониззі Дніпра — здобували турецьку фортецю Казикермен.
За описом козацького літописця Самійла Величка, об'єднані війська підійшли до неї на світанку 24 липня. Гетьман наказав українським козацьким полкам і сердюкам підступити до її стін. Вони пройшли сади передмістя, розбили й загнали назад до Казикермена турецький загін, що намагався стримати натиск козаків. Неподалік від стін Казикермена козаки поробили шанці й залягли там. Шанці обставили плетеними кошами, насипаними землею, а також гарматами й мортирами, зробили таємні підкопи. Наступного ранку Мазепа наказав почати обстріл Казикермена. Упродовж п'яти днів, «невсипущо денно і нощно бито з гармат і дрібної зброї, кидано з мортир бомби».
Спочатку з Казикермена енергійно й активно відповідали з гармат і яничарок. А потім козацькі й московські гармаші так пристрілялися, що як тільки яничари відчиняли вікна в амбразурах, їхній вогонь придушувався, знищувалася обслуга.
Казикерменський бей обіцяв великі гроші, але ніхто з яничар не погоджувався бути пушкарем.
Оскільки стіни фортеці були з твердого каменю й мало руйнувались (облога могла надовго затягтися), гетьман наказав своєму війську котити до казикерменських стін такий широкий і високий земляний вал, щоб ним можна було засипати рів і, порівнявшись зі стінами, вломитися в місто. Казикерменська залога намагалася обстрілювати вал, але їхні заходи були марними. Одного вечора в Казикермен було закинуто кілька десятків бомб і малих гранат, стріляли з усіх обозів. Наче від блискавки, все було освітлене в той темний вечір. Один із московських підкопів зламав казикерменську стіну. 30 червня 1695 р. через цей підкоп козаки, зірвавши башту, вдерлись у фортецю.
Розпочався рукопашний бій, який тривав близько п'яти годин. Казикермен капітулював.
З ближньої фортеці — Мустрит-Кермен, розташованої навпроти, на дніпровому Гаванському острові, спробували обстрілювати козацькі й московські шанці та обози, але після капітуляції Казикермена, як свідчить Самійло Величко, «поклонилися й собі Низовому Запорозькому Війську, яке зі своїм кошовим отаманом Максимом промишляло, здобуваючи його, — вони припливли туди від Січі на човнах».
З інших двох фортець — Аслам-Кермена і Муберек-Кермена, що стояли поруч, гарнізони й мешканці, покинувши великі гармати, з усім своїм майном утекли до Криму. Генерал А. Гордон, що перебував на російській службі, дав таку оцінку цій кампанії, якою керував Мазепа: «Тогорічний (1695) похід на Борисфен, де генерал Шереметєв командував разом із гетьманом Мазепою, був дуже успішний. Вони по-мистецьки заволоділи кількома містами — Газі-Керменом, Аслан-Керменом і Шингиреєм».
На місці турецьких фортець побудували нові, обсадили їх українськими та московськими залогами. Це були своєрідні військові бази на кордоні з Кримом. У наступні роки боротьба з татарами тривала в пониззі Дніпра й на Запорожжі, де була витримана важка татарська облога.
У 1697 р. Мазепа взяв участь у морському поході. Наприкінці травня 1697 р. цар Петро І перебував на одній із 16 галер, що вийшли в море на чолі з венеціанським віце-адміралом Ліме разом із сотнею великих відкритих човнів, за кермом яких сиділи козаки. Командував ними гетьман Мазепа. Вони зустріли турецьку флотилію, що складалася з 13 галер, семи трищоглових і п'яти малих суден. Цар вирішив атакувати їх. У результаті двогодинного наступу чотирнадцять ворожих суден із 270 яничарами на чолі з агою були захоплені.
У липні 1698 р. численні козацькі полки під проводом гетьмана Мазепи разом з 60-тисячним московським військом, яке очолював Долгорукий, вирушили проти турецького війська сераскерського паші й змусили його відступити за річку Буг.
Мазепа також намагався відновити український флот на Чорноморському морі, — прислав запорожцям усякі корабельні припаси, заохочував їх до морських походів. За наказом гетьмана полтавський полковник Іван Іскра ретельно описав усі дніпрові острови, річки та урочища від порогів до моря. Але за Константинопольським миром 1700 р. з Туреччиною Петро І забезпечив собі Азов, погодившись на зруйнування недавно заснованих козаками на чолі з Мазепою фортець на Дніпрі.
Успішно діяв Мазепа й під час Північної війни, наприклад, у 1705 р. на Червоній Русі. Того ж року козаки під проводом гетьмана зайняли Замостя. Автор «Історії русів», характеризуючи Івана Мазепу, справедливо зауважив: «в безустанній боротьбі з поляками, татарами та турками Мазепа відзначався хоробрістю, підприємливістю та всім воєнним мистецтвом».
У 1700 р. Петро І в союзі з Данією та Польщею розпочав війну проти Швеції, намагаючись здобути Балтійське побережжя, щоб мати морську дорогу до Західної Європи. Він втягнув у війну й Україну, не рахуючись при цьому ні з укладеними нею договорами, ні з її економічним становищем, ні з політичними обставинами, ні з соціальними умовами.
Для України царські інтереси в цій війні були далекими й чужими. За українсько-російською угодою 1654 р. московські царі ніколи раніше не використовували збройні сили України проти держав, які не виступали безпосередньо проти України та її інтересів. Україна посилала козацькі війська тільки для оборони свого краю, коли війна безпосередньо точилася біля її кордонів. Петро І змусив Івана Мазепу відправити козацькі полки на Північ, на далекі фронти Лівонії, Литви, Польщі, Саксонії. Починаючи з 1700 р., козаків приневолювали ходити рік за роком своїм коштом у ці далекі походи, брати участь у тяжкій війні в незвичних для них кліматичних умовах. Не вистачало найнеобхіднішого, навіть харчів. Кладучи свої голови заради чужої для них справи, козацтво не тільки не діставало ніякої нагороди, а ще й потрапляло під командування московських начальників, офіцерів і генералів. Козаки терпіли й страждали від насильства, беззаконня, нечуваного свавілля, жорстокості, усяких кривд і зневаження всіх Божих і людських прав. Багато козаків гинуло, а котрі й верталися, то піші, голі, скалічені.
Цілий корпус українського війська під проводом полковника Данила Апостола діяв на півночі разом із царськими військами. Під Ерестфером у Ліфляндії вони розбили шведського генерала Шліпенбаха. Козаки захопили великі військові трофеї, але царські командири все у них відняли. Взагалі, замість вдячності, козаків пограбували — забрали всіх коней. Внаслідок цього знеможені козаки мусили пішки долати далеку дорогу додому.
Багато козаків гинуло на примусових «канальних», землекопних, будівельних роботах, на прокладенні нових доріг, висушуванні болотяних місцевостей, копанні каналів на Півночі, куди їх зганяли тисячами й де умови праці були нестерпними. Козацький полковник Черняк так описує обстановку на Ладозі, де працювало 10 тисяч козаків. «Велике число козаків хворих і померлих знаходиться, і щораз більше множаться тяжкі хвороби — найбільше вкорінилася гарячка і опух ніг, і мруть з того, однак приставлені офіцери, незважаючи на таку нужду бідних козаків, за наказом пана бригадира Леонтьєва… б'ють їх при роботі палицями — хоч і так вони її не тільки вдень і вночі, а навіть і в дні недільні, святкові виконують — без спочину».
