Sarı-kırmızılı takımın başına ilk kez 1996-97 sezonunda yapan tecrübeli çalıştırıcı, ilk döneminde 4 yıl üst üste şampiyonluk yaşadı. Terim, Türkiye Spor Yazarları ve Derneği (TSYD) Kupası’nda da 1997-98, 1998-99 ve 1999-2000 sezonlarında kupaya ulaştı. Türkiye Kupası'nı 1998-1999, 1999-2000 ve 2018-2019 sezonlarında kazanan takımın başında bulunan Terim, 1996 ve 1997 yıllarında Galatasaray'a Cumhurbaşkanlığı Kupası'nı kazandırdı.