وكان أنيس وهو أخو أبي ذر شاعرا فصيحا ذائع الشهرة، فقدم مكة ولقي النبي - صلى الله عليه وسلم - ورجع إلى أبي ذر فقال له: "رأيت محمدا يأمر بالمعروف وينهى عن المنكر".
فقاد أبو ذر: ما شفيتني مما أردت، وانطلق راجلا ووصل إلى مكة، لم يكن أبو ذر رضي الله عنه يعرف النبي - صلى الله عليه وسلم - كما أنه كره أن يسأل أحدا عنه، فشرب من ماء زمزم واستراح في الكعبة، وبينما هو كذلك إذ قدم علي رضي الله عنه، فوقف عنده وقال: يبدو أن هنا غريب، فقال أبو ذر، نعم، فقال علي المرتضى رضي الله عنه، اتبعني فتبعه، ولم يسأله علي رضي الله عنه شيئا، كما أن أبا ذر لم يقل شيئا، وطلع الصباح، فذهب أبو ذر مرة ثانية إلى الكعبة عازما على البحث عن النبي - صلى الله عليه وسلم -، ولكنه لم يسأل أحدا، فمر به علي مرة ثانية، فقال له: لعل الرجل لم يجد مناله؟ قال أبو ذر رضي الله عنه: "نعم" فذهب به علي رضي الله عنه وسأله عمن يكون وما الذي أقدمه؟ فقال أبو ذر: إن حفظت السر أخبرتك، فعاهده علي رضي الله عنه على ذلك، فقال أبو ذر رضي الله عنه: سمعت أن في هذه البلدة رجلا يقول إنه نبي الله، فأرسلت أخي، فلم يأتني بما يشفيني ولهذا جئت بنفسي.
قال علي رضي الله عنه، لقد أحسنت بمجيئك وكان خيرا إن لقيتني، إني ذاهب إليه فامض معي، سأدخل أولا لأرى هل الوقت مناسب للقاء ... والخلاصة أن أبا ذر رضي الله عنه وصل مع علي المرتضى رضي الله عنه إلى النبي - صلى الله عليه وسلم - فسأل النبي - صلى الله عليه وسلم - عن الإسلام، وأجابه النبي - صلى الله عليه وسلم - فأسلم أبو ذر على الفور. فقال له النبي:
"يا أبا ذر احفظ عليك هذا الأمر، وارجع إلى قومك حتى يأتيك أمري".
فقال أبو ذر "والله لأعلن هذا بين هؤلاء الأعداء". وانطلق أبو ذر ناحية الكعبة، واجتمعت قريش فنادى بأعلى صوته: "أشهد أن لا إله إلا الله وأن محمدا رسول الله" فقال كفار قريش: اضربوا هذا الصابئ وبدأوا في ضربه إلا أن العباس قدم وأكب عليه قائلا ويلكم هذا رجل من قبيلة غفار من حيث تمضي تجارتكم إلى الشام، فتراجع الناس، وفي اليوم التالي عاد لمثلها فضربوه فخلصه العباس، ثم عاد أبو ذر رضي الله عنه إلى قومه (1)
(1) صحيح البخاري كتاب المناقب عن ابن عباس [4/ 41، 2/ 242] وفي مدارج النبوة أن أبا ذر رضي الله عنه عاش على ماء زمزم نحو شهر، وكان هذا ماءه وغذاءه حتى تسكن بطنه.