Hz. Peygamber'in eğitim ve öğretim faaliyetleri İslam'ın ilk günlerinden itibaren başlamıştır. Mekke döneminde, İslam'ın ilk yıllarında ve Müslümanlar baskı altındayken, bu faaliyetler gizli yürütülmek durumundaydı. Bu dönemin en bilinen ve ilk eğitim merkezi olarak kabul edilen kurumu Dâru'l-Erkâm'dır (Erkâm'ın evi). Burası, Erkam bin Ebî'l-Erkâm isimli genç bir sahabeye ait olan ve Kâbe yakınlarındaki Safâ tepesinde bulunan bir evdi. Hz. Peygamber, burayı bir merkez olarak kullanarak ilk Müslümanlara gizlice Kur'an ayetlerini okumuş, onlara İslam'ın inanç ve ibadet esaslarını öğretmiş ve böylece ilk İslam topluluğunun eğitim temelini atmıştır.
Medine'ye hicret edildikten sonra ise eğitim ve öğretim faaliyetleri daha açık, yaygın ve kurumsal bir hâle gelmiştir. Medine'deki İslam medeniyetinin temelini oluşturan en önemli eğitim kurumu, Hicret'ten hemen sonra inşa edilen Mescid-i Nebevî'dir (Peygamber Mescidi). Mescid-i Nebevî, sadece bir ibadethane değil, aynı zamanda toplumun her türlü meselesinin konuşulduğu, idari işlerin yürütüldüğü ve en önemlisi bir eğitim merkezi (üniversite) işlevi görmüştür. Hz. Peygamber, burada oluşturduğu ders halkalarında sahabelere Kur'an'ı, dinî hükümleri ve güzel ahlakı öğretmiştir.
Mescid-i Nebevî'nin hemen bitişiğinde yer alan ve üstü hurma dallarıyla örtülü gölgelik şeklindeki özel bir bölüm daha vardı ki buraya Suffe denilmiştir. Suffe, İslam tarihinin ilk yatılı eğitim kurumu olarak kabul edilir. Burada kalan ve "Ashâb-ı Suffe" olarak bilinen sahabeler, genellikle Medine'de evi veya ailesi olmayan yoksul kimselerdi. Bu sahabeler, tüm vakitlerini Hz. Peygamber'i dinleyerek, ondan ilim öğrenerek geçirirlerdi. Hz. Peygamber tarafından bizzat eğitilen bu kimseler, Kur'an ve Sünnet konusunda uzmanlaşmış ve daha sonra yeni Müslüman olan kabilelere öğretmen olarak gönderilmişlerdir.