В начальной стадии боя в северном секторе византийская пехота, преодолевая сопротивление заградительных сил неприятеля, повела бодрое наступление в направлении мусульманского лагеря. Беда была в том, что их рвение умело использовалось арабами, которые симулировали беспорядочное отступление и даже начали для вида показной демонтаж лагеря. В то же время, пользуясь складками местности, значительные силы укрылись в засадах и стали ждать своего часа. Вероятно, эта тактика была спланирована ими заранее. В ходе преследования образовался разрыв между пехотой и конницей, в который устремились всадники Халида ибн аль-Валида, атаковав ромейскую кавалерию на фланге, совместно с засадными отрядами, которые теперь вышли на поле. Сопротивление византийской конницы было сломлено, и она была рассеяна. Теперь притворно отходившие части арабской пехоты сделали поворот кругом и контратаковали истощенных ромейских пехотинцев, которые, не выдержав удара с двух сторон, с наступлением сумерек обратились в бегство. Печальным следствием этого стал захват единственного моста через Вади аль-Рукад. Гассаниды, которые стояли на страже этого ключевого пункта, частью дезертировали, частью перешли на сторону врага. Воспользовавшись моментом, Халид ибн аль-Валид напал прямо на лагерь в Джиллике, быстро подавив там всякое сопротивление. Всего за четыре или пять часов весь византийский левый фланг рассыпался.
Первый день боя подошел к концу. После незначительного начального успеха ромеев и последовавшей очень жестокой борьбы, отмеченной и мусульманскими, и византийскими источниками, первая стадия сражения закончилась поражением имперских сил на северном участке посредством клина, вбитого арабами между этими силами и центром. Скорее всего, тактика заманивания неприятеля к своему лагерю, чтобы нарушить взаимодействие между имперскими войсками и прорвать их фронт, была тщательно спланирована заранее командующим Абу Убейда ибн аль-Джар-рахом. В этом он проявил себя более искусным полководцем, чем ромеи, сумев привязать действия своих войск к особенностям местности. К этому времени южное, или правое крыло, и центр имперских сил, базировавшиеся на лагерь в Якузе, перешли Вади аль-Рукад, и дошли на восток до Вади-Аллана. С этого положения они попытались отбросить арабов, прорваться к их ставке и, в свою очередь, охватить центр и правый фланг. Однако Вади-Аллан им перейти не удалось. Поскольку весть о предательстве гассанидов распространилась среди солдат, их моральный дух сильно упал. Ситуация еще ухудшилась, когда, в результате внезапного ночного нападения, арабы захватили лагерь в Якузе, защитники которого разбежались по оврагам или бросились на северо-восток, по дороге на Дамаск.
Потеря этого лагеря на правом фланге и моста через Вади аль-Рукад подразумевала, что главные силы имперской армии были отрезаны как от левого крыла (которое они, возможно, считали еще боеспособным), так и от всех путей отступления. Они были прочно заперты между обрывистыми берегами Вади аль-Рукада и Вади-Аллана на западе и на востоке, и рекой Ярмук на юге. Утром 20 августа арабы начали решающее наступление с севера и с запада, от лагеря в Якузе. Разразившаяся песчаная буря помогла им скрытно подойти к окруженным. Паника охватила ромейские войска, каждый спасался как мог. Много всадников и лошадей сломали себе шею в напрасной надежде перескочить крутые овраги. Многие солдаты вместе со своими командирами складывали оружие и садились на землю в ожидании плена. Но аль-Джаррах приказал в плен никого не брать.
К тому времени организованного сопротивления уже никто не оказывал. Главной задачей ромейских командиров в таком положении было наведение хоть какого-то порядка, но в данном случае это оказалось совершенно невозможным. Хотя многие бросились в поисках спасения к Дамаску, пока мост через Вади аль-Рукад еще не был захвачен арабской конницей, все свидетельства говорят об очень тяжелых потерях имперских войск, как на поле битвы, так и в ходе беспощадного преследования не только до Дамаска, но и далее на север, до самой Эмесы.
Имперская армия на Ближнем Востоке прекратила свое существование, и хотя полевые армии Востока и Армении, отдавшие ей свои части, сохранили боеспособность, но сильно уменьшились в численности, и о воссоздании фронта в Палестине и Сирии для эффективного сопротивления арабам уже не могло быть и речи. Только отдельные гарнизоны крепостей и хорошо укрепленных городов могли еще как-то держаться. Полевым войскам император Ираклий приказал впредь всячески уклоняться от сражений.
Несмотря на противоречия в сообщениях различных источников об этой битве, с годами все более обраставших полулегендарными подробностями, мы можем составить о ней относительно полное представление. Ясно, что имперская армия страдала в основном от двух главных бед. Во-первых, это отсутствие единоначалия. Главнокомандующему Вахану не удалось полностью подчинить себе византийских военачальников и прекратить распри и интриги. Координация действий имперских частей и их связь между собой почти полностью отсутствовала. В результате такой несогласованности создавалось впечатление, что на поле боя вместо центральной, северной и южной группировок фактически действовали две, если не три, отдельные армии. Важный мост через Вади аль-Рукад был доверен потенциально ненадежным войскам, которые частично перешли на сторону врага, частично рассеялись до начала боя, а те, что остались, не сумели дать должного отпора неприятелю. Хотя устройство лагерей вполне соответствовало стандартной византийской практике и положениям военных руководств того времени, вынос далеко от поля боя подвергал их опасности набега мобильных арабских сил, а всю армию — угрозе окружения. Дело в том, что византийцы на собственном горьком опыте были уже хорошо знакомы с этой тактикой кочевников. В нужный момент защита обоих лагерей оказалась удивительно беспомощной. Этот факт особенно важен, поскольку говорит о том, что византийцы существенно недооценили мобильность мусульманской конницы и скорость ее передвижения. В результате все попытки ромеев установить «фронт» закончились весьма печально, а арабы могли свободно перемещаться как вдоль этого фронта, так и поперек, легко прорывая его в ключевых пунктах в любые моменты сражения. Отсутствие связи между имперскими войсками превратило сражение при Джабии-Ярмук в несколько отдельных столкновений, связанных между собою только тем, что результат каждого предыдущего непосредственно влиял на ход и результат последующего, при полном отсутствии тактического взаимодействия частей.
Во-вторых, мусульманское командование отлично изучило особенности неровной и сильно изрезанной местности и привязало к ней тактику ведения боя. Особенно эффективными оказались притворные отступления и укрытие целых подразделений в оврагах, до момента внезапной атаки. Абу Убейда ибн аль-Джаррах предвидел заранее, что сражение окажется «рассыпанным» на несколько очагов, и предоставил своим командирам большую степень свободы действий в рамках общего плана, который они блестяще выполнили. Инициатива, таким образом, оставалась почти полностью на стороне арабов, а византийцы лишь безуспешно пытались удержать фронт и, кроме правого фланга, действовали исключительно пассивно.
Поражение имперских сил объясняется еще несколькими факторами. Прежде всего, в их частях было очень много новобранцев, а ветераны были незнакомы ни с тактикой, ни с самой природой врага, с которым они собирались иметь дело. Нам известно, что командующий армянской полевой армией Георгий в лагере в Якузе в течение нескольких дней проводил тактические занятия, с намерением приучить своих солдат сражаться в новых условиях, ознакомить их с вооружением неприятеля и способами ведения боя. Многие источники сообщают о низком боевом духе и падении дисциплины в ромейских войсках, а это сказывалось на отношениях с местными жителями. Главнокомандующий Вахан не нашел общего языка с правителем Дамаска в вопросе продовольственных поставок для армии. Этот правитель подстрекал горожан подкрадываться по ночам к лагерям и вызывать возможно больший шум, провоцируя тревогу. Такая враждебная и нервная обстановка на своей территории сама по себе не сулила ромеям ничего хорошего и уж конечно не побуждала их к ратным свершениям на поле битвы.
