خرج الغزالي إلى « المعسكر » فقصد الوزير السلجوقي « نظام الملك » الذي كان معروفا بتقديره العلم ورعايته العلماء . واستطاع الغزالي أن يحقق شهرة واسعة بعد أن ناظر عددا من الأئمة والعلماء وأفحم الخصوم والمنافسين حتى اعترفوا له بالعلم والفضل ، فارتفع بذلك ذكره وذاع صيته ، وطار اسمه في الآفاق . واختاره نظام الملك للتدريس بالمدرسة النظامية في بغداد فقصدها في سنة ( 484 ه - 1091 م ) وكان قد بلغ الرابعة والثلاثين من عمره ، وقد استقبل فيها استقبالا حافلا ، وكانت له مهابة وجلال في نفوس العامة والخاصة ، حتى غلبت حشمته الأمراء والملوك والوزراء . وصرف الغزالي همته إلى عقد المناظرات ، ووجّه جهده إلى محاولة التماس الحقيقة التي اختلفت حولها الفرق الأربعة التي سيطرت على الحياة الفكرية في عصره وهي : « الفلاسفة » الذين يدّعون أنهم أهل النظر والمنطق والبرهان ، و « المتكلمون » الذين يرون أنهم أهل الرأي والنظر ، و « الباطنية » الذين يزعمون أنهم أصحاب التعليم والمخصوصون بالأخذ عن الإمام المعصوم ، و « الصوفية » الذين يقولون بأنهم خواص الحضرة الإلهية ، وأهل المشاهدة والمكاشفة . وسعى الغزالي جاهدا ليتقصى الحقيقة بين تلك الفرق الأربعة ؛ فدرسها بعمق شديد حتى ألم بها وتعرف عليها عن قرب ، واستطاع أن يستوعب كل آرائها ، وراح يرد عليها الواحدة تلو الأخرى . وقد سجل ذلك بشكل مفصل في كتابه القيم « المنقذ من الضلال » ، ولكنه خرج من تلك التجربة بجرعة كبيرة من الشك جعلته يشك في كل شيء حتى مهنة التدريس التي أعطاها حياته كلها ، وحقق من خلالها ما بلغه من المجد والشهرة والجاه ، فلم تعد لديه الرغبة في أي شيء من ذلك . وظل الغزالي على تلك الحال من التردد نحو ستة أشهر حتى قرر مغادرة بغداد ، وفرّق ما كان معه من مال ولم يدخر منه إلا قدر الكفاف وقوت الأبناء . واتجه إلى الشام حيث أقام بها نحو عامين ، فكان يقضي وقته معتكفا في مسجد دمشق ، لا شغل له إلا العزلة والخلوة والرياضة الروحية ومجاهدة النفس والاشتغال بتزكيتها وتهذيب الأخلاق ، وتصفية القلب لذكر اللّه تعالى . ثم انتقل من دمشق إلى بيت المقدس فكان يدخل مسجد الصخرة كل يوم ويغلق الباب على نفسه وينصرف إلى عزلته وخلوته .