وافداً ، فأمره أبو بكر بالشام وندب معه الناس واستعمله على عمل الوليد بن عقبة فأتى شرحبيل على خالد بن سعيد ففصل عنه بعض أصحابه واجتمع إلى أبي بكر ناسٌ فأرسلهم مع معاوية بن أبي سفيان ، وأمره باللحاق بأخيه يزيد ، فلما مر بخالد فصل عنه بباقي أصحابه فأذن أبو بكر لخالد بدخول المدينة فلما وصل الأمراء إلى الشام نزل أبو عبيدة الجابية ، ونزل يزيد البلقاء ونزل شرحبيل الأردُنّ ، وقيل : بُصْرَي ، ونزل عمرو بن العاص العربة فبلغ الروم ذلك فكتبوا ! لي هرقل ، وكان بالقدس ، فقال : أرى أن تصالحوا المسلمين ، فوالله لأن تصالحوهم علن نصف ما يحصل من الشام ويبقى لكم نصفه مع بلاد الروم أحبّ إليكم من أنْ يغلبوكم على الشام ونصف بلاد الروم . فتفرقوا عنه وعَصَوه فجمعهم وسار بهم إلى حمص فنزلها ، وأعدّ الجنود والعساكر وأراد إشغال كُل طائفةً من المسلمين بطائفةٍ من عسكره لكثرة جنده لتضعف كل فرقة من المسلمين عمن بإزائها ، فأرسل تذارق أخاه لأبيه وأمه في تسعين ألفاً إلى عمرو ، وأرسل جرجة بن توذر إلى يزيد بن أبي سفيان ، وبعث القيقار بن نسطوس في ستين ألفاً إلى أبي عبيدة بن الجراح ، وبعث الدراقص نحو شرحبيل فهابهم المسلمون ، وكاتبوا عمراً ما الرأي ؟ فأجابهم : إن الرأي لمثلنا الاجتماع ، فإنّ مثلنا إذا اجتمعنا لا نُغْلَب من قلة ، فإن تفرقنا لا تقوم كل فرقة لمن استقبلها لكثرة عدونا .
وكتبوا إلى أبى بكر فأجابهم مثل جواب عمرو ، وقال : إنّ مِثْلَكم لا يؤتى من قلة ، وإنما يؤتى العشرة آلاف من الذنوب ، فاحترسوا منها . فاجتمعوا باليرموك متساندين ، وليصلّ كل واحد منكم بأصحابه . فاجتمع المسلمون باليرموك والروم أيضاً ، وعليهم التذارق ، وعلى المقدمة جرجة ، وعلى المجنبة