Для Трумпельдора и его единомышленников только сионизм и создание еврейского государства в Эрец Исраэль, в котором обездоленные массы российского еврейства смогут обрести свободу и равноправие, являлось единственным решением еврейского вопроса. Новые веяния в России, в мире, сионистском движении Иосиф горячо обсуждает в сионистских студенческих кружках. Из петербургских студентов-сионистов он создает группу единомышленников, с которой предполагает отправиться в Палестину и создать там сельскохозяйственное поселение, в котором будут реализованы идеи толстовства и социализма.

Вновь и вновь он возвращается к своей идее коммун (квуцот) молодых пионеров, которым предстоит стать ядром еврейского поселенчества и основой будущего Еврейского государства. Трумпельдор развивает свою идею строительства Еврейского государства на основе коммун. Идея приобретает всё новые детали и подробности. Квуца должна представлять из себя социалистическую коммуну единомышленников, в которой будут воплощены идеи равноправия и социальной справедливости.

Первым шагом в создании квуцы станет подготовка добровольцев на учебных сельскохозяйственных фермах, которые предстоит создать еще в России. За время совместной учебы должна сформироваться группа единомышленников, которым предстоит затем отправиться в Палестину и создать там новое еврейское поселение. Квуца должна быть оснащена современными сельскохозяйственным инвентарем и машинами и использовать самые эффективные методы земледелия. Средства производства находятся в коллективном владении всех членов квуцы, распределение продуктов питания, одежды и прочих предметов личного потребления должно осуществляться в соответствии с потребностями каждого коммунара. Успешное ведение сельского хозяйства станет основой экономической независимости квуцы-коммуны.

Образование членов квуцы должно осуществляться в национальном духе и включать в себя овладение ивритом, изучение еврейской истории и еврейского культурного наследия. Особое внимание уделялось овладению возрожденным языком — ивритом, который необходимо было выучить и сделать родным для каждого еврея, мечтающего о возрождении Страны Израиля. Иврит должен стать официальным и обязательным языком общения и ведения документации.

Эти взгляды Трумпельдора нашли поддержку у сионистов-единомышленников, и не только среди петербургских студентов, но и в Киеве, в городах и местечках черты еврейской оседлости. Одним из первых к Иосифу присоединился его старый товарищ по русско-японской войне и плену Давид Белоцерковский. Из городка Ромны Полтавской губернии Трумпельдору написал учащийся местного реального училища Григорий-Цви Шац.

Именно в Ромнах и прошла первая встреча единомышленников Трумпельдора по созданию коммуны-квуцы. 24 августа 1911 года там собрались семь молодых сионистов, студентов и учащихся гимназий, которым предстояло создать первую коммуну-квуцу. Среди них было пять парней и две девушки. Центром этой "конференции" был Трумпельдор, взявший на себя написание учредительных документов и ведение финансовых дел будущей коммуны. В создании коммуны нашли воплощение его наработки.

Первоначально Иосиф считал, что малые коммуны-квуцы, состав которых не превышает нескольких десятков человек, станут основной ячейкой будущего еврейского государства, заменив собой семью. Впрочем, от столь радикальной идеи Трумпельдор вскоре отказался, признав ее нереальность. Более жизненной, на его взгляд, была идея больших коммун, с сотнями членов, в которых бы сохранялись традиционные семейные ценности, основанные на законах иудаизма. На встрече в Ромнах Иосиф определил основные опасности, угрожающие единству членов квуцы — это проблемы, связанные с отсутствием товарищеских отношений между членами коммуны, и малое число женщин, примкнувших к коммуне.

Четырехдневная встреча в Ромнах закончилась общим решением участников примкнуть к Трумпельдору в предстоящем переселении на Святую Землю, где все были готовы посвятить свою жизнь сельскохозяйственному труду. Вскоре после конференции первым на Землю Израиля отправился юный последователь Трумпельдора девятнадцатилетний студент Цви-Григорий Шац, чья судьба типична для пионеров сионизма: он работал в еврейских сельскохозяйственных коммунах, во время мировой войны сражался в рядах Еврейского легиона и погиб в схватке с арабами в 1921 году.

С чувством глубокого удовлетворения Трумпельдор возвращается в Петербург. Он писал впоследствии: "С удовольствием я вспоминаю дни, проведенные в Ромнах. Действительно, это были замечательные дни. Небольшая группа людей, которые, возможно, еще слабы духовно и физически, которые не до конца понимают цели, к которым они стремятся — однако, собралась и сказала с гордостью "Мы"!"

В 1912 году Трумпельдор успешно заканчивает университет. Новоиспеченного юриста ждут заманчивые предложения работы в Петербурге и в родном Ростове. Однако Трумпельдор предан идеям сионизма и, вместо высокооплачиваемой работы в России, выбирает крестьянский труд в далекой Палестине. Уже в сентябре 1912 года Трумпельдор отправляется в Палестину, где планирует присоединиться к группе пионеров.

Сентябрьским утром 1912 года Трумпельдор сошел по трапу корабля в палестинском порту Яффа, бывшем тогда "воротами" для всех волн еврейских переселенцев на историческую Родину. Легко представить, какие высокие чувства испытывал он, делая первые шаги по священной для каждого еврея земле.

Страна Израиля, или на иврите — Эрец Исраэль, переименованная чужеземными захватчиками в Палестину, на протяжении тысячелетий всегда была местом притяжения еврейского народа. Именно здесь почти четыре тысячи лет назад зародился еврейский народ, именно здесь происходили все события еврейской истории, воплощенные в Книге Книг — Библии. Здесь возникали и гибли под ударами захватчиков еврейские государства, здесь совершали свои подвиги цари Израильские — Соломон и Давид, здесь были созданы Ветхий Завет и Новый Завет, здесь возникла иудейская религия, ставшая колыбелью для христианства и ислама.

Связь еврейского народа со Страной Израиля — беспримерный феномен в истории человечества. Библейское предание начинает жизнеописание родоначальника еврейского народа словами: "И сказал Господь Аврааму: пойди из земли твоей, от родства твоего и из дома отца твоего в землю, которую Я укажу тебе”, то есть в Землю Израиля, обетованную Богом потомкам Авраама.

Еврейские племена обосновались в Эрец Исраэль примерно в XV-XIII веках до н. э. Территория была поделена на двенадцать наделов — по числу колен Израилевых. Вместе колена Израилевы составляли племенной союз, в основе которого лежала общая религиозная вера. Период 1200-1025 годов до н. э. известен под названием эпохи Судей. Судьей называли вождя племени или клана, который выступал в качестве командующего в войне с внешним врагом, угрожавшим племени (колену) или группе племен.

Эпоха Судей — время политической консолидации еврейских племен под руководством Саула, первого царя Израиля (1025— 1004 года до н. э.). Три тысячи лет назад потомки царя Израиля Саула — царь Давид и царь Соломон, в ходе успешных войн значительно расширили границы Израильского царства, при них был заложен столичный град Иерусалим, отстроен Первый Храм, служивший для отправления культа Бога Израиля. Население Земли Израиля в эпоху Первого Храма было достаточно многочисленным и достигало двух миллионов человек.

После кончины царя Соломона израильская империя раскололась на два царства — северное, получившее название Израиль, и южное, названное Иудеей. Эти еврейские царства существовали почти триста лет, пока Израильское царство не было покорено Ассирией и его население не было угнано захватчиками в Месопотамию. Спустя сто пятьдесят лет, в 587 году до н. э., под ударами Навуходоносора пало Иудейское царство, был разрушен Храм, и Земля Израиля оказалась под властью Вавилона. Но уже через пятьдесят лет, в 538 году до н. э. евреи, угнанные в Вавилон и Месопотамию, возвращаются на Родину, где приступают к восстановлению Второго Храма. На двести лет Иудея становится провинцией персидской империи, находясь под управлением еврейских наместников.