公元636年，经过精心筹划，哈立德率领“伊斯兰远征军”先以小股部队骚扰敌人，然后于636年8月1日在约旦河支流雅穆克河附近与东罗马帝国拜占庭军队进行了决战，最终东罗马帝国战败，阿拉伯人将罗马人驱逐出叙利亚，这一战争史称雅穆克战役。
公元633年出征的阿拉伯骑兵数量约为25000人，而东罗马援军则有约5万的庞大兵力。阿拉伯人的军队基本由骑兵组成，机动性强，由哈立德率领。东罗马援军主要由步兵组成，包括帝国最精锐的重装铁甲骑兵军团，由提奥多拉率领。
公元636年，经过精心筹划，哈立德率领“伊斯兰远征军”先以小股部队骚扰敌人，然后于636年8月1日在约旦河支流雅穆克河附近与拜占庭军队进行了决战。然而，由于长途跋涉和水土不服，在加上中东气候的极度炎热，临时征调的东罗马军队战斗力严重下降，同时其最重要的士气已经荡然无存。哈立德遂采取集中兵力，利用阿拉伯军都是骑兵善与骑射的特点，利用沙暴为掩护，向东罗马军队发起大规模集团冲击，拜占庭军队虽然拼死作战，以坚固的方阵对付阿拉伯人的猛烈冲击。结果，东罗马军队阵亡超过4万，先锋统帅王弟提奥多拉被杀，东罗马军全线崩溃。
希拉克略皇帝已经无力回天，被迫率残部撤退，当他撤退至叙利亚边界时，面对他祖先历尽艰辛夺取的领土却即将沦丧的凄凉景象，作为一代有作为、曾经胸怀恢复罗马荣誉大志的杰出君主的希拉克略皇帝放声痛哭!他仰天长叹道：“美丽的叙利亚，永别了”! 这是希拉克略的告别词。
罗马人战败后从此叙利亚永别了。雅穆克战役的失败，使东罗马帝国丧失了叙利亚这一富庶的行省。公元640年，东罗马帝国的整个叙利亚全部陷落。阿拉伯骑兵马不停蹄的推进着：公元638年，占领中东重镇耶路撒冷;公元637年，阿拉伯远征军进入他边上另一个大国波斯萨珊帝国，在大将赛亦德指挥下，阿拉伯骑兵在两河流域重镇卡迭西亚重创波斯军，赛亦德乘胜前进，渡底格里斯河于六月夺取萨删波斯首都泰西封。赛亦德建立了巴士拉军营，这就是现在伊拉克南部最大城市巴士拉。公元650年，阿拉伯人与波斯军在波斯本土决战，波斯军死伤十万，自此一蹶不振。波斯王逃往中亚呼罗珊，波斯灭亡。
阿拉伯人在灭亡波斯的同时继续打击着东罗马，公元642年征服埃及，公元645年征服利比亚，从此终结了罗马对西亚和北非近千年的统治。公元669年，阿拉伯军队第一次进攻君士坦丁堡，随后的公元674-680年，阿拉伯人连续七年进攻君士坦丁堡。东罗马帝国军队在当时的叙利亚裔皇帝君士坦丁四世率领下，以帝国海军希腊舰队为支撑，进行异常顽强的抵抗。抗击中东罗马帝国海军希腊舰队动用了一种即使在现在看来都颇具威力的原始火焰喷射器“希腊火”。最终阿拉伯舰队有三分之二的船只被焚毁，人员阵亡不少于20万。东罗马帝国得以保全，更重要的是，东罗马帝国的胜利成功的将企图征服欧洲基督教文明的阿拉伯人阻挡在了欧洲之外。而东罗马海军在这场战争中发挥了举足轻重的作用。
雅穆克战役是阿拉伯人进军波斯和东罗马帝国的战略开端，可谓意义重大。