Свое первое задание Шилой получил в августе 1931 года, когда ему еще не исполнилось 22 лет. Еврейское агентство глубоко внедрило его в арабский мир, в столицу Ирака Багдад. Он использовал прикрытие, работая школьным учителем. Шилой также подрабатывал как журналист, что, естественно, позволяло ему совершать поездки по стране. За три года такой «журналистской» работы Шилой сумел создать внушительную информационную сеть. Самые полезные уроки он извлек из вылазок в горный Курдистан, на севере Ирака, где ему удалось установить контакты с представителями нацменьшинств, обитавшими в горах и не имевшими своего государственного образования. Шилой никогда не забывал курдов и потом, формируя свое представление о будущем израильском разведсообществе, уделял особое внимание заключению тайных союзов с неарабскими меньшинствами на Ближнем Востоке. Он считал, что евреи могут найти себе друзей на периферии арабского мира. Его «периферийная философия» стала одним из важных догматов израильской разведки.
Когда в 1934 году Шилой возвратился в Иерусалим, «Хагана» поручила ему создание профессиональной разведывательной службы для защиты долгосрочных интересов еврейской общины в Палестине. Эту работу он выполнял вместе с Мейеровым и Авигуром, и вскоре они создали «Шай». Официальной работой Шилоя всегда считалось поддержание связи между Еврейским агентством Бен- Гуриона и британской администрацией в Палестине.
Когда в Европе началась вторая мировая война, Шилой воспользовался этой возможностью для углубления таких отношений. Нацистская Германия была общим врагом как евреев, так и англичан. Шилой помог создать еврейскую бригаду в составе британских вооруженных сил. Это был дальновидный шаг: впоследствии бригада явилась одной из основ израильской армии.
Война стала тяжким испытанием для палестинских евреев, которым удалось спасти очень немногих своих братьев от гибели в нацистских лагерях смерти, но для Шилоя и соратников это явилось большим и полезным опытом. Ведя борьбу всеми доступными способами, они приобретали бесценную практику проникновения во вражескую среду, иногда с применением прямо-таки маскарадных средств ведения разведки. Людей с арийской внешностью направляли в оккупированные немцами европейские страны, а те, кто был похож на арабов и владели арабским языком, проникали в Сирию и Ливан, находившиеся под контролем пронацистского вишистского режима Франции.
26 завербованных Шилоем еврейских парашютистов были заброшены в немецкий тыл на Балканы. Некоторые из них, как например Ханна Сенеш и Энзио Серени, были арестованы и как шпионы расстреляны — их имена причислены к сонму героев Израиля. Другие, как Ешайяху (Шайке) Трахтенберг-Дан, выжили и впоследствии сделали немало полезного в израильской разведке.
Во время войны Шилой не только учился, но и приобретал влиятельных друзей, которые впоследствии будут помогать евреям в их борьбе с арабами за контроль над Палестиной. Он также установил тесные отношения с представителями английской военной разведки в Иерусалиме и Каире. Что было еще более важно, во время второй мировой войны были установлены первые контакты между сионистским движением и американской разведкой. Шилой обменивался мыслями и угощал коктейлями представителей Управления стратегической службы, которые в 1947 году составили ядро Центрального разведывательного управления.
После войны эти связи укрепились и стали основой для жизненно важных отношений между ЦРУ и разведкой Израиля. Деятельность Шилоя во время войны является наглядным примером его мудрости и дальновидности, умения видеть стратегические перспективы разведки в современных условиях.
Наставляя основателей еврейского государства, которые учились управлять современным государством на древней земле своих предков, Шилой называл разведку «наиболее важным политическим инструментом». В этой сфере, где намерения редко провозглашаются открыто, Шилой так определял тайные цели израильской внешней политики и задачи дипломатии:
«Арабы являются врагом номер один еврейской общины, и в арабскую среду надо внедрять профессиональных агентов.
Израильская разведка не должна ограничиваться рамками Палестины. Она должна выполнять роль еврейско-сионистского гаранта безопасности евреев по всему миру.
Тайная деятельность должна основываться на современной технологии, использовать новейшие достижения в области шпионажа, поддерживая связи с дружественными службами США и европейских стран».
Шилой не участвовал во встрече в особняке на улице Бен-Иегуда, на которой была распущена «Шай» и созданы основы разведки нового государства — он считал эту встречу чисто формальным актом — и как ангел-хранитель издали наблюдал за рождением новой израильской разведки. Но у него были и основания для серьезного беспокойства в лице Иссера Беери.
30 июня 1948 г., всего через несколько часов после вступления на пост руководителя военной разведки, Беери проявил такое экстремальное чувство долга, какого с тех пор не было в истории Израиля. Он собрал так называемый «суд кенгуру», по существу самосуд, который вынес смертный приговор одному офицеру израильской армии, и этот приговор был немедленно приведен в исполнение.
Обвиняемый, капитан Меир Тубянски, служил в организации «Хагана» и после получения Израилем независимости занимался созданием постоянной военной базы в Иерусалиме. Одновременно он служил в Иерусалимской электрической компании, и отношения Тубянски с британским руководством компании вызвали подозрение его израильских коллег.
В начальный период войны 1948 года иорданская артиллерия наносила поразительно точные удары по израильским базам. Командир иерусалимского подразделения «Шай» майор Биньямин Джибли пришел к выводу, что в рядах израильтян был шпион, и казалось вполне логичным, что этим шпионом может быть Тубянски, передающий информацию своим британским хозяевам. Они в свою очередь сообщали эти данные английским офицерам, которые командовали Трансиорданским арабским легионом. К тому же Тубянски во время войны служил в Британском королевском инженерном корпусе и считался англофилом.
Косвенные доказательства сочли достаточными для того, чтобы приговорить его к смерти. Суд проходил в каком-то полуразрушенном здании около дороги, ведущей из Иерусалима в Тель-Авив. В качестве судей выступали Беери, Джибли и еще два офицера «Шай». Протокол судебного заседания не велся. Все члены суда, кроме Беери, впоследствии утверждали, что они просто допрашивали подозреваемого и не знали, что выносят приговор, который будет приведен в исполнение. Однако в тот же день Тубянски был расстрелян на глазах других израильских солдат, которые с трудом верили, что израильтяне убивают своего.
Один из свидетелей вспоминает: «“Предатель! Они собираются расстрелять предателя!" — воскликнул мой сослуживец. Мы присели на каменистом склоне и стали смотреть. Шесть или семь солдат вывели молодого человека в защитной форме. Это были всего-навсего небрежно одетые мальчишки. Молодого человека усадили на стул. Его лицо даже не закрыли платком. Потом они отошли на несколько шагов. Мы услышали лязганье затворов чешских винтовок. Все затихло. Сияло солнце. Короткий залп разорвал тишину. Человек упал со стула».
Через несколько часов Беери информировал премьер- министра, что военно-полевой суд приговорил к смерти предателя. Однако Бен-Гурион, получив эмоциональное обращение от вдовы казненного, пересмотрел это дело. Официальная комиссия оправдала капитана, и его вдове была выплачена компенсация.
В тот же день, 30 июня 1948 г., люди Беери в Хайфе, северном портовом городе со смешанным арабско-еврейским населением, подвергли пыткам друга мэра — еврея, которого считали слишком либеральным. Агенты «Шай» добивались от него показаний о том, что мэр Абба Коуши был не только «мягок» по отношению к арабам, но что он предал дело сионизма.
Жертвой был Жюль (Иегуда) Амстер, владелец такси и, неофициально, правая рука мэра Коуши. Беери приказал арестовать его 15 мая 1948 г., в день провозглашения независимости Израиля. Амстера поместили в секретный лагерь и обвинили в шпионаже. Этот кошмар продолжался два с половиной месяца. Его имущество было конфисковано, и допрашивавшие его лица, сначала из «Шай», потом из вновь созданной службы военной разведки Беери, подвергли его страшным пыткам. Ему приставляли пистолет к виску, били, капали воду на голову, вырывали зубы, поджаривали пятки, вкалывали медицинские препараты. В конце концов, 1 августа его выпустили без официального предъявления каких-либо обвинений.