بعد الانتهاء من حروب الردة وتسيير خالد من اليمامة إلى العراق في سنة 13هـ جهز الصديق الجيوش إلى الشام ، فبعث عمرو بن العاص إلى فلسطين ، وسير يزيد بن أبي سفيان وأبا عبيدة بن الجراح وشرحبيل بن حسنة ، رضي الله عنهم أجمعين ، آمراً إياهم أن يسلكوا تبوك على البلقاء ، وكان عدد كل لواء من هذه الألوية الأربعة ثلاثة آلاف ، ثم توالت النجدات فيما بعد .
وصل الأمراء إلى الشام ، فنزل أبو عبيدة الجابية على طريق دمشق ، ونزل يزيد البلقاء مهدداً بصرى ، ونزل شرحبيل الأردن بأعلى الغور فوق طبرية ونهر الأردن ، وقيل نزل في بصرى ، أما عمرو فقد وصل إلى وادي عربة .
عين الصديق لكل منهم الولاية التي يتولاها بعد الفتح ، فجعل لعمرو فلسطين ، وليزيد دمشق ، ولأبي عبيدة حمص ، ولشرحبيل الأردن .
سار الأمراء إلى أهدافهم ، وعكرمة ردء للناس ، فبلغ الروم ذلك فكتبوا إلى هرقل، فجاء من حمص ، وأعد الجند ، وجمع العساكر ، وأراد أن يشغل قواد المسلمين بعضهم عن بعض لكثرة جنوده ، أراد أن يحاربهم متفرقين ، لكن عمراً تنبه للأمر ، خاصة بعد أن أرسل هرقل تذارق في تسعين ألفاً ، وبعث جرجة نحو يزيد بن أبي سفيان فعسكر بإزائه ، وبعث الدراقص فاستقبل شرحبيل بن حسنة ، وبعث الفيقار في ستين ألفاً نحو أبي عبيدة ، فهابهم المسلمون وخاصة أن جميع ألويتهم تعد واحداً وعشرين ألفاً ، باستثناء عكرمة فهو في ستة آلاف أيضاً ، فالمجموع سبعة وعشرين ألفاً ، فسأل الجميع بكتب مستعجلة عمراً : ما الرأي ؟ فراسلهم أن الرأي الاجتماع ، كما كتب الأمراء إلى أبي بكر بمثل ما كاتبوا به عمراً فكتب إليهم : أن اجتمعوا فتكونوا عسكراً واحداً .
بلغ ذلك هرقل فكتب إلى بطارقته أن اجتمعوا لهم ، وانزلوا بالروم منزلاً فسيحاً فيه ماء ، ويكون ضيّق المهرب لجنوده ، وجعل على الناس التذارق ، وعلى المقدمة جرجة، وعلى مجنبتيه باهان والدراقص ، وعلى الحرب الفيقار ، ففعلوا فنزلوا الواقوصة - وهي على ضفة اليرموك - ، وصار الوادي خندقاً لهم ، وانتقل المسلمون من عسكرهم الذي اجتمعوا فيه فنزلوا عليهم بحذائهم على طريقهم ، فقال عمرو : أيها الناس أبشروا ، حصرت الروم وقلما جاء محصور بخير ، إذ أن الروم تتحرك في منبطح فسيح من الأرض تحيط به من ثلاث جهات الجبال المرتفعة ، فهم محصورون .
وبقي المسلمون أمامهم صفر من سنة ثلاث عشرة وشهري ربيع لا يقدرون من الروم على شيء ، ولا يخلصون إليهم ، الواقوصة من ورائهم ، والخندق من أمامهم ، ولا يخرجون خرجة إلا نصر المسلمون عليهم ، حتى إذا انقضى ربيع الأول كتب أبو بكر الصديق إلى خالد ليلحق بهم من العراق ، وقد قال في ذلك : خالد لها ، والله لأنسين الروم وساوس الشيطان بخالد بن الوليد .
وقطع خالد المسافة بجيشه في خمسة أيام ، وفرح المسلمون بخالد ، واشتد غضب الروم بمجيئه ، وقال هرقل لقواده : أرى من الرأي أن لا تقاتلوا هؤلاء القوم ، وأن تصالحوهم ، فوالله لأن تعطوهم نصف ما أخرجته الشام ، وتأخذوا نصفه ، وتقر لكم جبال الروم ، خير لكم من أن يغلبوكم على الشام ، ويشاركوكم في جبال الروم ، ولكنهم أبوا .
واتخذ الطرفان استعداداتهما ، الروم في أربعين ومائتي ألف ، منهم ثمانون ألفاً مقيدين بالسلاسل كي لا يفروا من المعركة ، والمسلمون سبعة وعشرون ألفاً ممن كان مقيماً ، إلى أن قدم إليهم خالد في تسعة آلاف فبلغوا ستة وثلاثين ألفاً ، ومرض الصديق في هذه الأثناء وتوفي للنصف من جمادى الآخرة قبل الفتح بعشر ليال .
وعرض خالد على الأمراء أن يكونوا جيشاً واحداً ويتداولوا الإمارة يوماً بعد يوم ، فوافقوا وأمّروه هو أولاً ، وعلم خالد أن القتال كل بفرقته سيطول ، وفيه إضعاف للجهود فعبأ الجيش وقسمه إلى أربعين كردوساً [ أي: كتائب كبيرة ] كل كردوس ينقسم إلى: قلب وميمنة وميسرة ، وجعل القاضي أبا الدرداء ، والقاص أبا سفيان ، وعلى الغنائم ابن مسعود ، وقارئ سورة الأنفال المقداد بن عمرو ، وشهد المعركة ألف من أصحاب رسول الله صلى الله عليه وسلم .
وأمر خالد الكراديس كلها أن تنشب القتال ، وحينئذ وصل البريد إلى خالد بوفاة أبي بكر الصديق وتأمير أبي عبيدة فأخذ الكتاب وجعله في كنانته وخاف إن أظهر الأمر أن يضعف معنويات الجند .
ونشب القتال بجد في اليوم الأول ، وزحف الروم بأعدادهم الكثيرة فردهم المسلمون ، وفي هذا اليوم كثرت الجراح من كثرة السهام ، واعورّ من المسلمين سبعمائة فارس ، فسمي ذلك اليوم يوم التعوير ، وفي اليوم الثاني وقف عكرمة وقال: من يبايع على الموت ؟ فبايعه أربعمائة من الرجال ، فقاتلوا حتى أصيبوا جميعاً بجراحات ، ودامت المعركة يوماً وبعض اليوم ، وكان الهجوم الأخير عاماً على الروم ، واقتحم خالد وجيشه خندق الروم فتساقطوا في الوادي ، وتهافت منهم في الوادي ثمانون ألفاً .
وانتهت المعركة باستشهاد ثلاثة الآف من المسلمين ، وقتل من الروم مائة وعشرون ألفاً ، وارتحل هرقل من حمص مودعاً سورية وداعه الأخير ، وقال : سلام عليك ياسورية ، سلاماً لا لقاء بعده .
وبعد المعركة أعلن خالد مضمون الكتاب ، واعتزل الإمارة ، وولاها مكانه أبا عبيدة رضي الله عن الجميع .