فأجمعوا أن يرسلوا معه رجلين من الأحلاف وثلاثة من بني مالك، منهم عثمان بن أبي العاص. فلما دنوا من المدينة ونزلوا قناة، ألفوا بها المغيرة بن شعبة. فاشتد ليبشر رسول الله صلى الله عليه وسلم بقدومهم. فلقيه أبو بكر، فقال: أقسمت عليك بالله، لا تسبقني إلى رسول الله صلى الله عليه وسلم، حتى أكون أنا أحدثه، ففعل. ثم خرج المغيرة إلى أصحابه، فروح الظهر معهم. وعلمهم كيف يحيون رسول الله صلى الله عليه وسلم. فلم يفعلوا إلا بتحية الجاهلية. فضرب عليهم قبة في ناحية المسجد.
وكان فيما سألوه: أن يدع لهم اللات لا يهدمها ثلاث سنوات، فأبى. فما برحوا يسألونه سنة، فيأبى. حتى سألوه شهرا واحدا. فأبى عليهم أن يدعها شيئا مسمى. وإنما يريدون بذلك - فيما يظهرون - أن يسلموا بتركها من سفهائهم ونسائهم، ويكرهون أن يروعوهم بهدمها، حتى يدخلهم الإسلام. فأبى إلا أن يبعث أبا سفيان بن حرب والمغيرة بن شعبة يهدمانها.
فلما أسلموا أمر عليهم عثمان بن أبي العاص - وكان من أحدثهم سنا - وذلك: أنه كان من أحرصهم على التفقه في الدين، وتعلم القرآن.
فلما توجهوا راجعين بعث معهم أبا سفيان والمغيرة بن شعبة، حتى إذا قدموا الطائف أراد المغيرة: أن يقدم أبا سفيان، فأبى، وقال: ادخل أنت على قومك. وأقام أبو سفيان بماله بذي الهدم. فلما دخل المغيرة علاها يضربها بالمعول. وقام دونه بنو مغيث، خشية أن يرمى، كما فعل بعروة، وخرج نساء ثقيف حسرا يبكين عليها. فلما هدمها أخذ مالها وحليها وأرسل به إلى أبي سفيان.