LeftoverLocals: Security Schwachstelle in LLM und ML Grafikkarten
Table of Contents
“LeftoverLocals” bezieht sich auf eine Sicherheitsanfälligkeit, die es ermöglicht, Daten aus dem lokalen GPU-Speicher anderer Prozesse auf verschiedenen GPU-Plattformen wie Apple, Qualcomm, AMD und Imagination zu erholen. Diese Anfälligkeit hat besondere Bedeutung für LLMs (Large Language Models) und ML-Modelle, da durch sie lokale Speicherinhalte – eine optimierte GPU-Speicherregion – wiederhergestellt werden können. Ein Angreifer könnte diese Schwachstelle ausnutzen, um Einblick in die Interaktionen eines anderen Benutzers mit einem LLM zu erhalten, indem unbeabsichtigt im lokalen Speicher zurückgelassene Daten gelesen werden. Diese Schwachstelle, die von Tyler Sorensen im Rahmen seiner Arbeit im ML/AI Assurance-Team entdeckt wurde, ist unter CVE-2023-4969 registriert. Weitere Details finden Sie im Trail of Bits Blog.
Folgen der Sicherheitslücke
Da im besagten Beitrag explizit WebGL ausgeschlossen wurde, sind sehr wahrscheinlich nur Computer und Mobilgeräte betroffen, auf die Angreifer bereits Zugriff haben. Wenn dies aber bereits der Fall ist, kann die Schwachstelle genutzt werden, um moderne Sicherheitsmaßnahmen zu umgehen, um in Sekundenschnelle Daten aus dem Arbeitsspeicher der Grafikkarten zu extrahieren. Eine offizielle Risikobewertung bei CVE steht noch aus.