Как уже было отмечено, халиф Умар возглавил Халифат в разгар решающей битвы мусульманской армии с многократно превышающими их по численности и оснащению армиями Византийской империи и их союзников.

В ходе битвы при Ярмуке правым флангом войск Халифата командовал Амр ибн аль-Ас, левым — Йазид ибн Абу Суфьян.

 Между ними располагались войска под командованием Абу Убайды. На крайнем правом фланге находились отряды под командованием Муаза ибн Джабала, а на левом — Наффасы ибн Усамы аль-Кинани. Кавалерийскими отрядами командовал Халид ибн аль-Валид, а пешими — Хашим ибн Утба ибн Абу Ваккас.

На передовой части мусульманских войск находился Халид ибн аль-Валид. Несмотря на то, что мусульманские войска значительно уступали византийцам по численности, их боевой дух был очень высок. Перед битвой к бойцам обратились с речью такие авторитетные сподвижники, как Амр ибн аль-Ас, Абу Хурайра, Абу Суфьян.

Они говорили об их ответственности перед Аллахом и напомнили им эпизоды из жизни Пророка Мухаммада. Тем самым они способствовали поднятию боевого духа армии. Непосредственно перед сражением Абу Убайда, Йазид ибн Абу Суфьян, Халид ибн аль-Валид и другие военачальники встретились с командующими византийских войск и предложили им либо принять Ислам, либо выплачивать джизью.

После их отказа сражение началось. Византийцы перешли в наступление на правом фланге мусульманской армии. Это были арабские подданные империи. Однако, встретив ожесточенное сопротивление, они были вынуждены отступить. Под ответным натиском мусульман это отступление превратилось в бегство.

 В тот же момент мусульманская кавалерия под командованием Халида ибн аль-Валида атаковала левый фланг византийских войск. В результате этой атаки византийцы понесли большие потери и потеряли убитыми около 6 тысяч бойцов.

 В этот момент из Медины прибыл гонец с известием о смерти Абу Бакра и передаче Халифата его преемнику Умару. Стало известно, что новый халиф отстранил Халида ибн аль-Валида от командования мусульманской армией и назначил вместо него Абу Убайду. В ходе этой битвы мусульмане проявили невиданные ранее героизм и решимость к победе.

 Они словно не знали страха смерти. Вдохновленные божественной религией они так храбро и отчаянно сражались с превосходящими силами византийцев, что противник, несмотря на свое многократное преимущество, был разгромлен.

 Значение этой победы в истории Ислама очень велико. Битва при Ярмуке была началом полного поражения такого могущественного государства, как Византийская империя, и потери ею всего Южного Средиземноморья.

 После этой битвы Халифат заявил о себе не только как о новой «сверхдержаве», но и положил начало новой мусульманской цивилизации, которая объединила многие народы мира. Благодаря высокому политическому весу Халифата началось распространение Ислама, который с этого времени стал мировой религией.

 В битве при Ярмуке героически погибли такие влиятельные мусульмане, как Икрима ибн Абу Джахль, Харис ибн Хишам, Амр ибн Икрима, Салама ибн Хишам, Амр ибн Саид, Аббан ибн Саид, Хишам ибн аль-Ас, Амр ибн Туфайл. Наряду с этим Абу Суфьян, Мугира ибн Шаба, Хашим ибн Утба ибн Абу Ваккас, Аль-Ашаз ибн Кайс, Амир ибн Маадикариб, Кайс ибн аль-Макшух лишились зрения. Практически каждый воин Ислама бесстрашно сражался с врагом.

Можно упомянуть имена лишь некоторых из них: аз-Зубайр ибн аль-Аввам, Абу Суфьян, Йазид ибн Абу Суфьян, Малик аль-Аштар и многие другие. Мусульмане некоторое время преследовали разгромленных византийцев.

После того, как в этом регионе практически не осталось византийских войск, жители Шама заключили с мусульманами мирный договор. После этой победы командующий мусульманской армии Абу Убайда Амир ибн аль-Джаррах в соответствии с полученными от халифа Умара рекомендациями, захватил Фахль и Басан.