Гетьман зробив спробу порозумітися з царським урядом через голштинських дипломатів у Петербурзі. Йому запропонували персональну амністію з умовою повернення в Україну, але там напевно його чекала розправа з боку царських урядовців. Орлик рішуче відкинув цю пропозицію, яка, за його словами, означала для нього втрату честі. Прийнявши її, він «був би змушений ціле життя зносити нестерпні муки душі». У меморіалі шведському уряду гетьман нагадував, що він не є підданим царя, отже й не потребує його амністії. Крім того, він просив короля захистити його від ласк і запевнень царя, «через котрі не один чоловік постраждав».
Орлик знову пережив крах своїх планів, а в майбутньому його чекали нові невдачі. І щоразу він долав хвилини розпуки та відчаю, знову підводився, набирався енергії, шукав нових шляхів — і так до кінця життя. Він вважав, що звання гетьмана, керівника української нації накладає на нього історичний обов'язок, на вівтар якого він має покласти свою особисту долю. Усвідомлюючи, що його сила як повновладного державного чинника грунтується на збройних силах, він вирішив бути поруч із Запорозьким Військом. Оскільки Запорозька Січ підлягала кримському хану — васалу Туреччини, Орлик вирішує перебратися до турецьких володінь, щоб при нагоді, коли складеться сприятлива політична кон'юнктура, бути готовим для виступу на чолі Запорозького Війська.
Для більшої безпеки Орлик перевозить дружину й дітей у Краків, де влаштовує їх у францісканському та бернардинському монастирях. 17 лютого 1722 р. він виїжджає з Кракова, взявши з собою сина Михайла, секретаря-капітана де Клюара та довголітнього слугу Кароля й вирушає в далеку мандрівку на схід. Орлик віз із собою рекомендаційні листи шведського короля до султана, великого візиря й хотинського сераскера.
Турецький уряд дозволив Орлику жити тільки в Салоніках. Знову ж таки, з огляду на домагання царя, цей уряд вирішив тримати Орлика подалі. По суті це було почесне заслання. 12 довгих років прожив Орлик у цьому нездоровому місті, де лютували епідемії, де помер його син Михайло й де, незважаючи на все це, його життя було насичене інтелектуальною й духовною працею. Він читав французькі, італійські та голландські часописи, ретельно стежив за плином міжнародного життя, робив нотатки про події в Україні та суміжних із нею державах, займався політично-теоретичними розробками. Гетьман вів активне листування із Запорозькою Січчю, з великим візирем, кримським ханом, молдавським господарем, із представниками шведського уряду, з англійськими послами в Стамбулі (Станіяном) і Відні (Сафорином). Останній був посередником Орлика в кореспонденції з іншими європейськими державними діячами й навіть із його родиною.
Увагу Орлика займали в той час і богословські проблеми. Він був глибоко віруючою людиною, в неділю й на свята ходив до церкви, відвідував і католицькі богослужіння. Цікавився основоположними принципами християнської релігії, вів пошук шляхів об'єднання церков, вільної сполуки православних і католиків. У щоденнику залишилися записи його дискусій із православними священиками й католицьким духовенством.
Гетьмана відвідували люди з України — монахи, купці, подорожні, невільники й невільниці. Долю цих людей він неодноразово щасливо вирішував. Адже український гетьман був бажаним і почесним гостем і в турецьких урядовців — муфтія та каді, й у французьких та англійських консулів, і в грецькій громаді тощо.
Для політичної ситуації в Європі першої половини 20-х років XVIII ст. були характерні швидкоминучі політичні комбінації та конгреси, що тривали роками. У 1725 р. відбулися дві події, які змінили міжнародне становище. На початку року помер запеклий і невблаганний ворог Орлика — Петро І. Це відродило сподівання гетьмана на можливість порозуміння з російським урядом. Крім того, в серпні відбувся шлюб французького короля Людовика XV з дочкою колишнього польського короля прошведської орієнтації Станіслава Лєщинського, що зумовлювало антимосковські позиції Франції. Європа поділилася на два ворожі табори. З одного боку — віденська коаліція (Австрія, Іспанія, Росія), з другого — ганноверська (Англія, Франція, Голландія, Данія, інші держави). До останньої прилучився й Орлик зі своєю великою дипломатичною акцією. Здавалося, Європа стоїть на порозі нової війни.
Проте новий голова французького уряду — кардинал Флері виявив ініціативу мирного полагодження конфлікту й домігся скликання європейського конгресу, котрий відкрився в Суасоні влітку 1728 р. Завдяки старанням Орлика українська проблема знову набула європейського масштабу. Хоча розмови стосовно України велися «поза засіданнями конференції», українському гетьману обіцяли допомогу Англія, Франція та Швеція.
Так, за Орлика заступився кардинал Флері, який разом з англійським, голландським та іспанським делегатами намагався переконати російського уповноваженого на конгресі графа Олександра Головніна в необхідності полагодити справедливу справу українського гетьмана. Але той рішуче заявив, що його уряд не може допустити дискутування на конгресі щодо української справи. Уряд і так прихильний до «козацької нації», всупереч постанові покійного царя дозволяє вибори гетьмана. Орлик — бунтівник і спільник Мазепи. Мова може йти лише про амністію, якщо він лояльно ставитиметься до Росії. Дипломати більше не наполягали.
Тоді гетьман безпосередньо звернувся до представників віденської коаліції. Голштинського герцога Карла Фрідріха, який був одружений на дочці Катерини І, він просить висловитися на його захист перед імператрицею. Зав'язує відносини з представниками Австрії, Ватікана та ордену єзуїтів, прагнучи через них вплинути на російський уряд і примусити його визнати за Орликом гетьманські права на Лівобережну Україну, водночас вплинути на Польщу з вимогою визнання нею автономії Правобережної України під його владою, а також відновлення козацтва. І зовсім фантастичним був проект окатоличення України заради одержання допомоги від Ватікану.
Та вже в наступному 1729 р. український гетьман-емігрант цілком позбавляється всяких ілюзій відносно можливості порозумітися з царським урядом щодо України. З цього часу й до останніх днів життя політика Пилипа Орлика має чіткий безкомпромісний антимосковський напрям. Найбільше він покладається на Францію й прагне використати її великий вплив на Туреччину.
З 1729 р. поряд із Пилипом Орликом стає його син Григорій. Після років навчання й військової служби він включається в політичну й дипломатичну працю свого батька, спрямовану на мобілізацію міжнародних сил для визволення України. З великою енергією й ентузіазмом молодий Орлик діє як дипломатичний посередник в українських справах.
Після Суасонського конгресу визріла ситуація, в котрій була закладена можливість загальноєвропейського збройного конфлікту. Йшлося про наступника тяжко хворого польського короля Августа II. Франція воліла, щоб ним був Станіслав Лєщинський — батько французької королеви. Швеція, зрозуміло, теж підтримувала Станіслава Лєщинського, який займав у минулому польський королівський престол значною мірою завдяки шведському королю Карлу XII. Урядові кола Польщі майже всі підтримували Станіслава Лєщинського. Серед його прибічників був і Пилип Орлик. Однак усі розуміли, що Росія ніколи не погодиться з цією кандидатурою.
Французький посол у Польщі де Монті влаштував таємну нараду у Варшаві, в якій взяли участь шведський посол Цюліх і прихильники Лєщинського — примас Польщі, коронний гетьман і київський воєвода, а також молодий Орлик. Останній зробив доповідь, у якій підкреслив місце козацької нації й Пилипа Орлика в майбутньому конфлікті. Учасники наради запропонували йому поїхати до Франції й поставити перед її урядом справу свого батька. Наприкінці 1729 р. Григорій «Орлик опинився в Парижі, де викликав у правлячих французьких державних діячів посилений інтерес до України. Крім того, йому була доручена спеціальна місія на Сході. Виконуючи її, Григорій мав змогу побачитися в Салоніках із батьком. Енергійні демарші Григорія Орлика перед турецьким урядом, спрямовані на звільнення українського гетьмана від примусового перебування в Салоніках, не мали успіху. Турецький уряд ретельно виконував вимогу царського уряду.