Die Anfang Februar 2024 veröffentlichte Studie „LLM Agents can Autonomously Hack Websites“ der Univerity of Illinois Urbana Champaign zeigt dass LLMs, insbesondere GPT-4, bereits fähig sind, autonom Websites zu hacken. Die Forscher stellten dabei eindrucksvoll auf, wie hoch die Erfolgsraten bei autonomen KI Hacking bei verschiedenen Arten von Sicherheitslücken sind und wie viele Aktionen von der KI für bestimmte Angriffe benötigt werden.
GPT-4 zeigt dabei hohe Erfolgsraten bei der Ausnutzung von Schwachstellen wie SQL-Injektionen und Cross-Site Request Forgery (CSRF), teilweise wegen der Häufigkeit dieser Themen in Trainingsdaten. Andere Modelle wie ChatGPT 3.5 oder Open Source Modelle blieben dagegen deutlich hinter den Erwartungen zurück.
Ferner zeigt die Studie auf, dass bestimmte Angriffe, wie der SQL Union-Angriff, erfordern eine beträchtliche Anzahl von Aktionen, inklusive Backtracking benötigen, um erfolgreich zu sein.
Professionelle Hilfe erwünscht?
Sentiguard ist spezialisiert auf Notfallhilfe nach Cyberattacken, IT Sicherheitsbeauftragte und IT Sicherheitskonzepte nach BSI Standard. Haben Sie Fragen und wünschen Sie unverbindliche Beratung, dann melden Sie sich gerne bei uns: