برخی گفته‌اند: اصطلاح صوفی در قرن دوم هجری به میان آمد که حسن بصری رحمه‌الله این لقب را بر یکی از زاهدین اطلاق نمود وحضرت سفیان رحمه‌الله فرمودند: «اگر ابوهاشمِ صوفی رحمه‌الله نبود، من در مورد انواع «ریا» وحالات آن آگاه نمی‌شدم».
بعضی‌ها می‌گویند: «این لقب دوصد سال بعد از هجرت، جلوه پیدا کرد و آشکار شد.» (کذا فی عوارف المعارف)
آنچه مسلم است، این است که در صدر اسلام (صدۀ اول هجری) گروهی به نام «عارف» یا «صوفی» در میان مسلمانان وجود نداشته است. نام صوفی در قرن دوم هجری به میان آمده است.
برخی گفته‌اند: «اولین کسی‌که به این نام خوانده شد، ابوهاشمِ صوفیِ کوفی بود که در قرن دوم می‌زیست و برای اولین بار در رملۀ فلسطین صومعه‌ای (خانقاه) برای عبادت گروهی از عبادت‌کنندگان و زاهدان مسلمان ساخت. او استاد سفیان ثوری [متوفای سال ۱۶۱ه.ق] بوده است اما تاریخ دقیق وفات خودش معلوم نیست.»
نیکلسون و ابوالقاسم قشیری که از مشاهیر تصوف بود، می‌گویند: «این نام قبل از سال ۲۰۰ هجری به میان آمده است.» اگر ابوهاشم کوفی اولین کسی باشد که به این نام خوانده شده و استاد سفیان ثوری [متوفای سال ۱۶۱ ه.ق] هم بوده است، پس این اصطلاح در نیمۀ اول قرن دوم هجری معروف گردیده نه در اواخر قرن دوم (آن طور که نیکلسون و دیگران گفته‌اند).
صوفیه به دلیل زهد و اعراض از دنیا، از پوشیدن لباس‌های نرم اجتناب می‌کردند و لباس‌های درشت پشمین می‌پوشیدند؛ اما اینکه از چه زمانی این گروه خود را «عارف» خوانده‌اند، اطلاع دقیقی در دست نیست.
از کلماتی که از سری سقطی [متوفای ۲۴۳ هجری] نقل شده است معلوم می‌شود که در قرن سوم هجری این اصطلاح شایع و رایج بوده است، به هر حال، در قرن اول هجری گروهی به نام صوفی وجود نداشته است. این نام در قرن دوم پیدا شده و ظاهراً در همین قرن، این جماعت به صورت یک «گروه» خاص درآمدند، نه در قرن سوم (چنان‌که عقیدۀ بعضی‌ها است).
هرچند که در قرن اول هجری گروه خاصی به نام عارف یا صوفی وجود نداشته است، ولی این دلیل نمی‌شود که خیار صحابه صرفاً مردمی زاهد و عابد بوده و در یک درجه‌ای از ایمان ساده می‌زیستند و فاقد حیات معنوی بوده‌اند (آن‌چنان‌که معمولاً غربیان و غرب‌زدگان ادعا می‌کنند).
شاید بعضی از نیکان صحابه جز زهد و عبادت چیزی نداشته‌اند، ولی گروهی از یک حیات معنوی نیرومند برخوردار بوده‌اند.
