al-Ghazzali masuk ke Naisabur bersama rombongan kerana hendak berguru dengan Imam al-Haramain, Abu al-Ma‘ali al-Juwaini (أبو المعالي الجويني) yang ketika itu merupakan salah seorang tenaga pengajar di Madrasah al-Nizamiyyah. Al-Ghazzali menekuni Imam al-Haramain sehinggalah beliau meninggal dunia pada 11 Rabi’ al-Awwal 478H.
al-Ghazzali merupakan anak murid yang dipercayai oleh Imam al-Haramain di mana beliau banyak kali menggantikan kedudukan gurunya memberi pengajaran. Hal ini kuatkan lagi dengan adanya pujian dari Imam al-Haramain kepada beliau dengan katanya:
الغزالي بحر مُغدِق
maksudnya: “al-Ghazzali seorang yang umpama laut yang luas airnya.”