Nel 1988, un anno dopo l’uscita della versione originale del brano, Bob Dylan ne fornì un’interpretazione dal vivo durante un concerto al Montreal Forum.[26] La prima cover ad essere pubblicata fu invece registrata da John Cale, ex leader dei Velvet Underground, che realizzò un nuovo arrangiamento del brano. Quando chiese a Cohen il testo originale, ottenne 15 pagine di diverse strofe scritte originariamente per il brano, tra le quali Cale scelse di utilizzare solo quelle che riteneva fossero più pertinenti.[27] La sua cover fu inserita nella raccolta-tributo a Cohen intitolata I’m Your Fan [27] del 1991.
La versione interpretata da Cale fornì la base anche per la cover incisa nel 1994 dal cantautore americano Jeff Buckley,[28] che si ispirò molto all’arrangiamento della precedente cover.[27] La sua versione, inclusa nell’album Grace, è oggi considerata la più famosa tra le cover del brano.