Studie beweist: ChatGPT4 ist bereits fähig autonom Webseiten zu hacken

Die Anfang Februar 2024 veröffentlichte Studie “LLM Agents can Autonomously Hack Websites” der Univerity of Illinois Urbana Champaign zeigt dass LLMs, insbesondere GPT-4, bereits fähig sind, autonom Websites zu hacken. Die Forscher stellten dabei eindrucksvoll auf, wie hoch die Erfolgsraten bei autonomen KI Hacking bei verschiedenen Arten von Sicherheitslücken sind und wie viele Aktionen von der KI für bestimmte Angriffe benötigt werden.

GPT-4 zeigt dabei hohe Erfolgsraten bei der Ausnutzung von Schwachstellen wie SQL-Injektionen und Cross-Site Request Forgery (CSRF), teilweise wegen der Häufigkeit dieser Themen in Trainingsdaten. Andere Modelle wie ChatGPT 3.5 oder Open Source Modelle blieben dagegen deutlich hinter den Erwartungen zurück.

Ferner zeigt die Studie auf, dass bestimmte Angriffe, wie der SQL Union-Angriff, erfordern eine beträchtliche Anzahl von Aktionen, inklusive Backtracking benötigen, um erfolgreich zu sein.