Setelah lima bulan menepi untuk memulihkan diri, dia kembali lagi ke Anfield. Dengan bantuan asisten Phil Thompson, mereka mengantarkan The Reds finis kedua pada Liga Inggris 2001/2002.
Houllier akhirnya meninggalkan Liverpool pada 2004. Posisinya kemudian digantikan oleh Rafael Benitez. Dia baru memutuskan untuk melatih lagi pada musim 2005/2006 dengan membesut Olympique Lyon.
Meninggalnya Houllier membuat orang-orang dekatnya merasa terpukul. Salah satunya adalah Michael Owen yang pernah dilatih Houllier saat dia menangani Liverpool. Houllier ini pula yang mengorbitkan Owen hingga akhirnya si pemain menyabet Ballon d’Or 2001.
“Dia manajer yang hebat dan pria yang benar-benar perhatian," ujar Owen mengenai sosok Houllier.