Недостаток в живой силе у новых франкских правителей с самого начала стал отличительной особенностью «заморских территорий». Осенью 1099 года, после победы над египетской армией, направлявшейся на подмогу запертым в Иерусалиме туркам, большинство уцелевших крестоносцев потянулись домой, и Готфрид Бульонский остался в городе всего с тремя сотнями рыцарей и тысячью солдат. Не больше войск было и у сменившего его на троне Балдуина I. Поскольку угроза нападения со стороны мусульман Фатимидов на некоторое время ослабла, представилась возможность исправить уязвимое положение Иерусалимского королевства путем дальнейшего расширения его территории, в частности за счет средиземноморских портов. Проникнувшись важностью этого предприятия и рассчитывая на славу, успех и церковные вознаграждения, подобные тем, что достались первым крестоносцам, на Ближний Восток отправились новые отряды искателей приключений из Европы — из Франции, Ломбардии и Баварии. Эти отряды были атакованы турками, как только добрались до Анатолии, и лишь немногие сумели вернуться в Константинополь.
Для короля Балдуина большее значение имели морские военные экспедиции из приморских республик Италии — Пизы, Венеции и Генуи. Предвидя возможности, открывавшиеся в случае овладения портами на востоке Средиземноморья, они предложили свою поддержку в обмен на будущие привилегии. Один за другим латиняне захватили все прибрежные города — Хайфу, Яффу, Арсуф, Кесарию, Акру и Сидон. С падением Тира в 1124 году мусульмане полностью лишились восточных портов на Средиземном море, а военно-стратегическое положение франкских государств заметно упрочилось.
Куда большие трудности вызывало умиротворение завоеванных территорий. На итальянских галерах прибыли тысячи новых паломников, наслышанных о победах своих предшественников и жаждавших немедленно двинуться в землю Сионскую. Некоторые из них были вооружены, у остальных же были только посох и сума. Порой богомольца было трудно отличить от крестоносца. Те и другие не только молились в церкви Гроба Господня, прося о том, чтобы сбылись их обеты, но посещали и другие святые места в Иудее и Самарии. В Иерусалиме был Собор в Скале, теперь превращенный из мечети в церковь, освящавшую то место, откуда Иисус изгнал торговцев и ростовщиков и которую крестоносцы называли Храмом Всевышнего. На юго-восточном склоне Храмовой горы сохранился дом святого Симона, в котором стояли кровать Богородицы, колыбель и купель младенца Иисуса; а севернее ворот Иеосафата была церковь, возведенная в честь родителей Девы Марии — Иоакима и Анны. Неподалеку от Иерусалима находились: дом Захарии, в котором родился Иоанн Креститель; источник Марии, к которому они с Иосифом свернули, когда разыскивали в Иерусалиме Иисуса; место, где было срублено дерево, из которого сделали крест для распятия Христа; и площадка, где Иисус беседовал с апостолами, объясняя им заветы Всевышнего.
Изрядно вытоптанная христианами-богомольцами тропа вела на восток от Иерусалима — в Иерихон и на реку Иордан, в водах которого паломники жаждали совершить повторное крещение. Здесь они благоговейно прикасались к камню, с которого Иисус садился на осла, чтобы отправиться в Иерусалим в день Вербного воскресенья; осматривали яму, в которую злые братья столкнули Иосифа; проходили по дороге, где добрый самаритянин оказал помощь жертве разбойников; видели место, где святое семейство отдыхало по пути в Египет; и, наконец, приближались к речному перекату, где Иоанн крестил в водах Иордана самого Христа.
Местность была пустынной и сильно пересеченной, а отношение к ним окрестных мусульман злобным, потому путь для богомольцев был столь же опасен, как и в дни доброго самаритянина. Стоило паломникам высадиться с корабля где-нибудь в Яффе, как они сразу подвергались нападениям сарацинских головорезов и воинственных бедуинов, которые укрывались в пещерах, расположенных среди Иудейских холмов. Пилигримы, имевшие хоть какое-нибудь оружие, могли себя защитить, но большинство были абсолютно беззащитны перед вооруженными мусульманами. Войска же самого короля Балдуина были сосредоточены в главных стратегических пунктах и в средиземноморских портах.
В 1104 году в Святую землю с большой свитой рыцарей прибыл граф Гуго Шампанский. Из своей резиденции в городе Труа в верховьях Сены он управлял большими и весьма богатыми землями, входившими в состав Западного Франкского королевства Карла Лысого. Гуго был очень набожен и несчастлив в браке — у него имелись сомнения, является ли он настоящим отцом своего старшего сына. Среди его вассалов был рыцарь по имени Гуго де Пейн, поместье которого располагалось в нескольких километрах от Труа, ниже по течению Сены. Приписан он был к церковному приходу Монтиньи; граф Шампанский был его законным сюзереном, и Пейн входил в его рыцарскую дружину.
В 1108 году граф Гуго на время вернулся в Европу, а шесть лет спустя снова отправился в Иерусалим. Не известно, сопровождал ли Гуго де Пейн своего сеньора в первом путешествии или же отправился в Святую землю только сейчас, но он там остался, когда граф Шампанский снова вернулся в Европу. К этому времени Балдуина I на иерусалимском троне сменил его кузен Балдуин Буржский, а патриарха Даймбера — преподобный Вармунд де Пикуньи. Именно к ним Гуго вместе с другим рыцарем, Готфридом де Сен-Омером, обратились с предложением создать рыцарское братство, подчиняющееся уставу религиозного ордена, но занимающееся защитой паломников. За основу они собирались взять устав, разработанный когда-то Блаженным Августином из Гиппона, и канонические правила церкви Гроба Господня в Иерусалиме.
Предложение Гуго было одобрено и королем, и патриархом; в день Рождества Христова в 1119 году Гуго де Пейн и восемь других рыцарей — в том числе Готфрид де Сен-Омер, Аршамбуа де Сен-Аньян, Пайен де Мондидье, Жоффруа Бизо и еще один крестоносец по имени Россаль, или Роланд, — дали обет бедности, целомудрия и торжественно поклялись патриарху в церкви Гроба Господня. Они назвались «бедным братским воинством Иисуса Христа» и поначалу не носили какой-то особой одежды, а продолжали одеваться сообразно своей особой профессии. Дабы обеспечить их необходимыми для существования средствами, патриарх и король выделили им средства из своей казны. Балдуин II уступил им замок в Иерусалиме, возле места, где, по преданию, находился храм Соломона, на южном склоне Храмовой горы. Поэтому их вскоре стали называть бедным рыцарством Христовым и храма Соломонова, рыцарями храма Соломона, рыцарями Храма или просто храмовниками.
Не исключено, что первоначально Гуго де Пейн и его соратники просто хотели создать очередной монастырь или же рыцарское братство, аналогичное ордену иоаннитов, то есть госпитальеров, занимавшихся организацией и охраной странноприимных домов. Орден госпитальеров, основанный торговцами Амальфи, заботился о богомольцах еще до 1-го Крестового похода. Средневековый летописец Михаил Сириянин, например, считал, что именно король Балдуин, прекрасно понимавший непрочность своей власти в Иерусалиме, настоял на том, чтобы Гуго де Пейн и его товарищи остались в сане рыцарей и не постригались в монахи, дабы они могли «не только заниматься спасением душ, но и защищать эти места от грабителей». Другой средневековый историк крестовых походов, Жак де Витри, отмечает двойственную природу этого «рыцарского братства», призванного, с одной стороны, «защищать паломников от бандитов и насильников», а с другой — соблюдать «обет бедности, воздержания и послушания в соответствии с монашеским кодексом».
Решение остаться при оружии могло быть продиктовано и растущей нестабильностью жизни в заморских территориях, и постоянной угрозой жизни латинян. В пасхальную неделю 1119 года на группу из 700 невооруженных паломников, направлявшуюся из Иерусалима к реке Иордан, напали вооруженные сарацины: 300 человек они убили на месте, а 60 продали в рабство. Свои разбойничьи набеги турки совершали у самых стен Иерусалима, поэтому стало смертельно опасно даже ненадолго покидать город без надежной охраны. Позднее в том же году по королевству распространились слухи о несчастье, случившемся в соседней Антиохии: Рожер, двоюродный брат Боэмунда, бывший регентом при его сыне Боэмунде II, был убит вместе со всей свитой мусульманскими головорезами; место, где это произошло, народ назвал «полем крови». Это заставило обратиться за помощью к папе римскому Калликсту II, венецианским дожам и даже к архиепископу Компостельскому — там в бывшем испанском королевстве Галисии для охраны паломников и защиты христианских земель от мусульман был создан рыцарский орден святого Иакова Меченосца. Как всегда, обрушившиеся на христиан беды были восприняты как наказание свыше: считалось, что некоторых добравшихся до Святой земли паломников увлекла сладкая восточная жизнь, что они погрязли в грехах, забыв о спасении души. В январе 1120 года собравшиеся на совет в Наблусе светские и духовные лидеры христиан одобрили проект Гуго де Пейна, оценив его гуманную направленность и очевидную прагматичность.