فلما قدم كتاب الوليد على عمر بمن دخل الروم من العرب كتب عمر إلى ملك الروم : بلغني أن حَيَّاً مِنْ أحياء العرب ترك دارنا وأتى دارك فواللّه لتخرجنه إلينا أو لنخرجن النصارى إليك . فأخرجهم ملك الروم فخرج منهم أربعة آلاف وتفرّق بقيتهم فيما يلي الشام والجزيرة من بلاد الروم فكل إيادي في أرض العرب من أولئك الأربعة آلاف ؛ وأبن الوليدُ بن عقبة أن يقبل من تغلب إلاّ الاسلام فكتب فيهم إلى عمر فكتب إليه عمر : إنّما ذلك بجزيرة العرب لا يقبل منهم [ فيها ] إلا الاسلام فَدَعْهُم على أنْ لا يُنَضرُوا وليداً ، ولا يمنعوا أحداً منهم من الاسلام ، وكان في تغلب عِز وامتناع فهم ، بهم الوليد فخاف عمر أن يسطو عليهم فعزله وأقَر عليهم فرات بن حيان ، وهند بن عمرو الجملي .
وقال ابن إسحاق : إن فتح الجزيرة كان سنة تسع عشرة . وقال : إنّ عمر كتب إلى سعد بن أبي وقاص : إذا فتح الله الشام والعراق فابعث جنداً إلى الجزيرة وأفر عليه خالد بن عُرفطة ، أو هاشم بن عتبة ، أو عياض بن غنم ، قال سعد : ما أخَرَ أمير المؤمنين عياضاً إلا لأن له فيه هوى وأنا موليه . فبعثه وبعث معه جيشاً فيه أبو موسى الأشعري وابنه عمر بن سعد ليس له من الأمر شيء فسارَ عياض ونزل بجنده على الرها فصالحه أهله مصالحة حران ، وبعث أبا موسى إلى نصيبين فافتتحها ، وسار عياض بنفسه إلى دارا فافتتحها ، ووجه عثمان بن أبي العاص إلى إرمينية الرابعة فقاتل أهلها فاستشهد صفوان بن المُعَطل وصالح أهلها عثمان على الجزية . ثم كان فتح قيسارية من فلسطين ، وهرب هرقل .
فعلى هذا القول تكون الجزيرة من فتوح أهل العراق ، والأكثر على أنّها