Победа при Манцикерте позволила сельджукам двинуться дальше на запад, захватывая Малую Азию, Сирию и Палестину и обустраиваясь там всерьез и надолго. Вскоре после битвы при Манцикерте, в 1073 г., они захватили Иерусалим, отобрав его у Фатимидского халифата. В 1076 г. Фатимиды вернули себе Святой город, однако в 1078 г. сельджуки вновь захватили его, в этот раз окончательно вытеснив шиитских властителей из Палестины. По словам Вильгельма Тирского, сельджуки «после великих завоеваний пожелали захватить Египет, который славился в те времена силой и богатством; они вошли в Сирию и овладели этой страной и основными городами, среди которых был и Святой Иерусалим».

Расцвет государства Великих Сельджуков пришелся на правление сына Альп-Арслана султана Малик-Шаха I (1072–1092), при котором сельджукское государство достигло максимальных территориальных пределов, раскинувшись от Индии до Сирии, от Гиндукуша до Средиземного моря. Однако в этой формально единой державе уже с середины 1070-х гг. вызревало зерно распада, брошенное самим Малик-Шахом у западных границ его владений. Этим семенем дезинтеграции сельджукского государства стал созданный в 1077 г. племянником Алп-Арслана эмиром Сулейманом ибн Куталмышем (1077–1086) султанат Сельджуков Рума, или Румийский (Румский) султанат (1077–1307) со столицей в Изнике (Никее). Уже в самом названии этого государства по арабскому обозначению Византийской империи – ар-Рум – крылись претензии на наследование римской славы и ромейских, то есть византийских, земель. Это был вызов Византии, вызовом же государству Великих Сельджуков стало самовольное присвоение Сулейманом титула султана, что делало его правителем, равнозначным Малик-Шаху. Воюя с начала 1080-х гг. на два фронта, Сулейман в 1081 г. заключил с византийским императором Алексеем I Коминым (1081–1118) договор о размежевании их владений. Граница, согласно достигнутому соглашению, должна была проходить по реке Драконт.

Сулейман удерживал власть в своих руках до 1086 г., когда был побежден и убит братом Малик-Шаха Тутушем. Румийские сельджуки были изгнаны из северной Сирии, однако заложенное Сулейманом государство на этом не закончило свое существование и вскоре смогло доказать свою жизнеспособность. Когда после смерти Малик-Шаха в 1092 г. начался стремительный распад созданной им и его предками державы, сын Сулеймана султан Кылыч Арслан («Сабля Льва») возродил султанат Сельджуков Рума со столицей в Никее. Позже, после потери Никеи под напором крестоносцев и возврата города Византийской империи, столица государства была перенесена в Иконий (современная Конья), в связи с чем Румский султанат называют также Иконийским. Палестина и Сирия попали в это время на несколько лет под власть брата Малик-Шаха Тутуша, контролировавшего земли от пределов Фатимидского Египта на юге до Антиохии на севере. Наместником Иерусалима при нем стал военачальник по имени Артук. После смерти Тутуша в 1085 г. его держава, сама бывшая лишь западным обломком государства Великих Сельджуков, распалась на несколько независимых владений. В Дамаске стал править его сын Дукак, в Алеппо – другой сын, Ридван. Дукак контролировал также Иерусалим, где правили Сокман и Ильгази, сыновья бывшего наместника Святого города Артука.

Положение христиан Иерусалима после сельджукского завоевания оценивается исследователями по-разному. С одной стороны, есть убедительные свидетельства сохранения традиций мусульманской веротерпимости и относительного благоденствия как христианской, так и иудейской общин города. Так, мусульманский ученый Абу Бакр ибн аль-Араби, посетивший Иерусалим в 1092 г., отмечал, что в городе были образованные люди, исповедовавшие как ислам, так и христианство и иудаизм. По его словам, христиане «возделывают свои земли и содержат церкви в хорошем состоянии». С другой стороны, можно привести свидетельство Вильгельма Тирского, согласно которому сельджуки после завоевания Иерусалима «подвергли гонениям жителей, мучили и обложили их небывалой доныне данью». Отображают ли слова западного хрониста реальную картину сельджукского владычества над Иерусалимом или же он переносит на события сельджукского завоевания свидетельства о более ранних гонениях на христиан, к примеру во времена фатимидского халифа аль-Хакима в первые десятилетия XI в.? Найти достоверный ответ на этот вопрос непросто, однако красочно описанные Вильгельмом Тирским страдания гонимых христиан в Палестине – как местных жителей, так и паломников к святыням Иерусалима – заслуживают, чтобы привести их полностью: «Среди опасностей всякого рода в это бедственное время в Палестину стекались во множестве греки и латиняне по обету поклонения святым местам. Пройдя по неприятельской земле чрез тысячу смертей, они являлись к городским воротам, но не могли войти в них, не заплатив предварительно в виде подати одного золотого привратникам. Потеряв все на пути и едва успев сохранить жизнь, чтобы достигнуть желанной цели, они не имели чем заплатить подати. Вследствие того тысячи пилигримов, собравшись в окрестностях города и ожидая возможности войти, доходили до совершенной наготы и погибали от голода и нищеты. Для несчастных же жителей города и живые, и мертвые составляли одинаково невыносимую тяжесть. С трудом они могли позаботиться о доставке припасов для живых; но им нужно было позаботиться и о погребении мертвых; все подобные труды превышали их силы. Получившие право входа за плату обращались еще в предмет величайших забот. Надобно было бояться, что, ходя без предосторожностей при посещении святых мест, они могут быть избиты, оплеваны и даже где-нибудь задушены. Заботясь о предупреждении таких несчастий и воодушевленные братской любовью, иерусалимские граждане ходили постоянно за пилигримами, чтобы наблюдать за их безопасностью и защищать от нечаянных нападений… Из тысячи пилигримов едва ли один мог сам удовлетворять свои нужды, потому что они теряли все путевые запасы и с трудом спасали жизнь среди стольких опасностей и трудов. Таким образом, жители не имели покоя ни в доме, ни вне его, смерть угрожала им каждый день, и, что хуже всякой смерти, они падали под бременем невыносимого рабства. Наконец, к довершению всех этих бедствий, их церкви, охраняемые и возобновляемые не без труда, подвергались ежедневно жестоким нападениям. Во время богослужения неверные, наводя на христиан ужас своими криками и бешенством, вбегали неожиданно в храм, садились на алтари, не делая различия в местах, опрокидывали чаши, топтали ногами сосуды, посвященные служению Господу, ломали мрамор и наносили духовенству оскорбления и побои. С самим владыкой патриархом обращались как с лицом презренным и ничтожным, хватали его за бороду и волосы, свергали с престола и бросали на землю. Нередко они овладевали им и, таща его, как последнего раба, без всякой причины сажали в темницу, лишь бы тем огорчить народ, соболезновавший своему пастырю».

Как бы то ни было, к середине 90-х гг. XI в. в пределах Юго-Западной Азии и уже Святой земли сложилась ситуация многовластия, когда на господство над Сирией и Палестиной претендовали одновременно три существенно взаимно ослабленные силы – подпавший к тому времени под власть военных визирей египетский Фатимидский халифат, султанат Сельджуков Рума и султанат Великих Сельджуков. Ни одно из этих государств не было способно обеспечить должный контроль над регионом, что привело к возникновению здесь мелких, враждующих между собой эмиратов, не способных оказать действенное сопротивление сильному, хорошо подготовленному и организованному внешнему врагу. Иерусалим был готов упасть к ногам того завоевателя, который оказался бы способным его захватить, и в этом плане начало крестовых походов оказалось весьма своевременным.