فأسلم فصار على الكفار أشد منه على المسلمين .
وكان سبب إسلامه أن أخته فاطمة بنت الخطاب كانت تحت سعيد بن زيد بن عمرو العدوي وكانا مسلمين يخفيان إسلامه من عمر وكان نعيم بن عبد الله النحام العدوي قد أسلم أيضا وهو يخفي إسلامه فرقا من قومه وكان خباب بن الأرت يختلف إلى فاطمة يقرأها القرآن فخرج عمر يوما ومعه سيف يريد النبي والمسلمين وهم مجتمعون في دار الأرقم عند الصفا وعنده من يهاجر من المسلمين في نحو أربعين رجلا فلقيه نعيم بن عبد الله فقال أين تريد يا عمر فقال أريد محمدا الذي فرق أمر قريش وعاب وسب آلهتها فأقتله فقال نعيم والله لقد غرتك نفسك أترى بني عند مناف تاركيك تمشي على الأرض وقد قتلت محمدا أفلا ترجع إلى أهلك فتقيم أمرهم قال وأي أهلي قال ختنك وابن عمك سعيد بن زيد وأختك فاطمة فقد والله أسلما .
فرجع عمر إليهما وعندهما خباب بن الأرت يقرأهما القرآن . فلما سمعوا حس عمر تغيب خباب وأخذت فاطمة الصحيفة فألقتها تحت فخذيها ، وقد سمع عمر قراءة خباب فلما دخل قال ما هذه الهينمة قالا ما سمعت شيئا ؟ قال : بلى ، وقد أخبرت أنكما تابعتما محمد على دينه وبطش بختنه سعيد بن زيد فقامت إليه أخته لتكفه فضربها فشجها فلما فعل ذلك قالت له أخته وختنه قد أسلمنا وآمنا بالله ورسوله ، فاصنع ما شئت .
ولما رأى عمر ما بأخته من الدم ندم وقال لهما أعطيني هذه الصحيفة التي سمعتكم تقرأون فيها الآن حتى أنظر إلى ما جاء به محمد قالت إنا نخشاك عليها فحلف أنه يعيدها قالت له وقد طمعت في إسلامه إنك نجس على شركك ولا يمسها إلا المطهرون فقام فاغتسل فأعطته الصحيفة وقرأها