По прибытии в Сирию Кемаль был первоначально определен в 30-й кавалерийский полк, где участвовал в обучении солдат и возглавлял небольшие операции против отрядов арабских повстанцев или просто бандитов. Затем его отправили в отдельный пехотный батальон в Палестину, где он продолжал заниматься обучением солдат, но теперь уже в пустыне Негев и возглавлял патрули на египетской границе.
Кемаль оставался политически активным. Он по-прежнему терпеть не мог правительство Абдулы-Хамида, под панисламистскими лозунгами консервировавшее отсталость империи. Молодой офицер в октябре 1905 года создал революционную организацию «Ватан ве Хюррийет» («Родина и свобода»). Разъезжая по всему району дислокации 5-й армии, он создавал на местах ячейки организации. Полагая, что Шюкрю-паша, инспектор артиллерии 3-й армии в Салониках, сочувствует целям организации, Кемаль взял отпуск для лечения и отправился на родину, где также начал создавать секретные ячейки оппозиционеров. Едва избежав ареста, он вернулся в Сирию. Созданные им ячейки сыграли немаловажную роль в последующем революционном движении младотурок.
В Дамаске Кемаль убедился, как арабы «любят» Османскую империю: одни за другими йеменцы, друзы и сирийские арабы поднимали восстания, а Союз арабов требовал независимости для всех арабских территорий Османской империи. Приходилось искать в Анатолии тысячи новых рекрутов для отправки их в эти по большей части пустынные и неприветливые земли.
Следует отметить, что немусульманское население в турецкую армию в эпоху Османской империи вообще не призывалось, а лишь платило специальный налог, поскольку считалось неблагонадежным, да и само предпочитало откупаться налогом от военной службы. В последние десятилетия существования империи неоднократно поднимался вопрос о призыве немусульман, что должно было существенно повысить численность армии, и даже издавались соответствующие султанские указы, которые, однако, так и остались на бумаге.
Нищие турецкие солдаты занимались грабежом арабского населения, поскольку им давно не платили жалованья. Это только усиливало ненависть арабов к туркам. А дисциплина среди солдат была такова, что их боялись собственные офицеры. И когда по случаю исламского праздника солдаты при подстрекательстве своих офицеров отказались участвовать в официальной церемонии, то комендант гарнизона не наказал их, так как опасался мятежа. Полковой командир того полка, в котором служил Кемаль, порекомендовал ему познакомиться с бывшим военным врачом, сосланным в эти края и ставшим основателем движения «Ватан» («Родина»). Так в Дамаске Мустафа Кемаль познакомился с доктором Мустафой-беем, который отбывал здесь ссылку за свои политические убеждения, и совместно с ним создал революционную организацию «Родина и свобода» («Ватан ве хюрриет»). Побывав по делам службы в Бейруте, Хайфе и Иерусалиме, Кемаль организовал филиалы общества и хотел связать его с салоникскими революционерами, потому что в Македонии дислоцировалась основная часть османской армии. Командировки в Салоники ему удалось добиться с большим трудом и полуофициально. Добираться на родину пришлось через Египет и Грецию. В Салоники Кемаль прибыл лишь в конце апреля – начале мая 1906 года. Здесь влиятельные друзья помогли ему благополучно пройти полицейский контроль при пересечении границы и представили Шюкрю-паше (1857–1915), главному инспектору артиллерии, впоследствии руководившему обороной Адрианополя (Эдирне) в Первой Балканской войне. Вскоре они подружились. Кемаль письменно обрисовал паше опасность политической ситуации в стране и попросил его поддержки. Четырехмесячный отпуск «по болезни», оформленный задним числом с помощью друзей, спас Кемаля от наказания за самовольное оставление места службы.
В салоникское отделение общества «Родина и свобода» Кемаль привлек Баха-хаккы Парса, Омара Наджи, Мустафу Неджипа и Хюсрева Сами. Они подсказали ему, что в Салониках активно дейсвует комитет «Единения и прогресса», вокруг которого надо объединяться всем революционерам. В Салониках 22 июля 1906 года Кемаль официально провозгласил создание салоникской ячейки «Родины и свободы».
В 1906 году Кемаль был назначен в штаб артиллерийской школы в Бейруте. По мнению некоторых турецких авторов, «Родина и свобода» была тесно связана с франкмасонскими ложами через так называемую Высокую миссию («Хейет-и Алие»), состоявшую из трех членов общества – Мехмета Талаата, Рахми и Исмаила Джан-булата. Однако нет никаких данных о принадлежности к масонам Мустафы Кемаля, да и принадлежность к ним отдельных членов основанного им общества вызывает сомнения. В то же время несомненно масонство одного из лидеров младотурок, Мехмета Талаата-паши, члена масонской ложи «Македония Ризорта» и основателя стамбульской ложи «Хюр ве Кабул Эдильмиш», где одно время даже был Великим магистром.
20 июня 1907 года Кемаль стал колагасы (в султанской армии – звание между капитаном и майором). А 13 октября по его просьбе и при содействии Шюкрю-паши он был переведен в Салоники в штаб 3-й армии. Здесь он обнаружил, что созданные им революционные группы не признают его верховенства, а офицеры и солдаты открыто высказывали недовольство задержкой жалованья. Официальное присоединение «Османского общества свободы» и через него «Родины и свободы» к комитету «Единение и прогресс» произошло 21 апреля 1907 года. Объединенная организация стала именоваться Османское общество «Единение и прогресс» (Османлы Иттихад ве теракки джемиети). Комитет «Единение и прогресс» (Иттихад ве теракки) во главе с Талаатом был создан в Салониках с целью объединения противников режима в эмиграции и членов Османского общества свободы, созданного почтовым служащим Талаатом, лейтенантом Исмаилом Канболатом и еще восемью членами, в том числе двумя членами местной ячейки «Родины и свободы». По другой версии, Османское общество свободы было создано Мустафой Кемалем еще 22 июля 1906 года. Сам Кемаль присоединился к комитету «Единение и прогресс» 29 октября 1907 года, поклявшись на Коране и револьвере бороться против тирана султана с целью восстановления конституции.
Идеи Кемаля не полностью совпадали с идеями Комитета «Единение и прогресс». Он был настроен более радикально, поскольку думал не только о восстановлении конституции, но и об упразднении султаната. Кроме того, он хотел коренным образом реорганизовать армию, что вызывало возражения со стороны некоторых членов «Единения и прогресса», занимавших в армии важные посты. Энвер-паша, один из наиболее влиятельных лидеров младотурок, остерегался Мустафы Кемаля, в котором видел опасного соперника в борьбе за высшие армейские посты.
В июне 1908 года Кемаль был переведен в железнодорожный директорат 3-й армии и назначен инспектором линии на Скопье. Здесь Кемалю очень пригодились хорошие знания немецкого. Он перевел в 1908 году германский устав боевых действий пехотного взвода. В 1909 году им же была переведена германская книга о военных церемониях, а в 1911 году – германская книга о действиях экспедиционных сил. Наконец, в 1912 году Кемаль перевел на турецкий германский устав боевых действий пехотной роты.
Кемаль был лично знаком со многими ключевыми фигурами в младотурецком движении, но непосредственно не участвовал в перевороте июля 1908 года, восстановившем конституцию. «Настанет день, когда нынешнее правительство определенно рухнет, – заявил Кемалю один генерал-майор, друг отца Али Фуада Исмаила Фазыла, – но я сомневаюсь, что его сменит правительство, созданное по западному образцу». «Ваше превосходительство, – возразил Кемаль, – правительство западного толка придет в свое время. Сейчас наша нация дремлет. Если после революции правящая верхушка будет стремиться остаться у власти, тогда вы правы. Но среди нового поколения есть немало людей, достойных доверия». – «Мустафа Кемаль-эфенди, сын мой, – воскликнул тогда генерал, вполне удовлетворенный проверкой. – Я вижу, что Исмаил Фазыл не ошибся в тебе. Теперь я согласен с ним». И добавил: «Ты не будешь тянуть лямку офицера Генерального штаба, как мы в свое время. Твой блестящий ум и способности послужат будущему страны. Ты – один из тех молодых людей, которые станут государственными деятелями. Аллах не даст мне ошибиться!»
