قال ابن عساكر في ((تاريخه)): كان أصله من اليمن وكان يهوديًّا فأظهر الإسلام، وطاف بلاد المسلمين ليلفتهم عن طاعة الأئمة، ويدخل بينهم الشر ودخل دمشق لذلك. ثم أخرج من طريق سيف بن عمر التميمي في الفتوح، له قصة طويلة لا يصح إسنادها، ومن طريق ابن أبي خيثمة حدثنا محمد بن عباد، ثنا سفيان، عن عمار الدهني، سمعت أبا الطفيل يقول: رأيت المسيب بن نجبة أتي به (?) دخل على المنبر فقال: ما شأنه؟ فقال: يكذب على الله وعلى رسوله.
حدثنا عمرو بن مرزوق، حدثنا شعبة، عن سلمة بن كهيل، عن زيد بن وهب قال: قال علي رضي الله عنه: مالي ولهذا الخبيث الأسود. يعني عبد الله ابن سبأ، كان يقع في أبي بكر وعمر رضي الله عنهما. ومن طريق محمد بن عثمان بن أبي شيبة، ثنا محمد بن العلاء، ثنا أبوبكر بن عياش، عن مجالد، عن الشعبي، قال: أول من كذب عبد الله بن سبأ.
وقال أبويعلى الموصلي في ((مسنده)): ثنا أبوكريب، ثنا محمد بن الحسن الأسدي، ثنا هارون بن صالح، عن الحارث بن عبد الرحمن، عن أبي الجلاس سمعت عليًّا يقول لعبد الله بن سبأ: والله ما أفضى لي بشيء كتمه أحد من الناس، ولقد سمعته يقول: ((إن بين يدي السّاعة ثلاثين كذّابًا)) وإنك لأحدهم.
وقال أبوإسحاق الفزاري: عن شعبة، عن سلمة بن كهيل، عن أبي الزعراء، عن زيد بن وهب، أن سويد بن غفلة دخل على عليّ في إمارته،