Am 8. August 2024 stellte der Sicherheitsexperte Michael Bargury auf der Black Hat USA in Las Vegas vor, wie Angreifer Microsofts Copilot für Cyberangriffe ausnutzen können. In seiner Präsentation demonstrierte Bargury, wie Angreifer durch „Prompt Injections“ die Sicherheitskontrollen von Copilot umgehen können, um beispielsweise Daten zu exfiltrieren oder Benutzer zu Phishing-Seiten zu leiten.
Bargury veröffentlichte das Tool „LOLCopilot“, das als Red-Team-Hacking-Werkzeug für Microsoft 365 entwickelt wurde. Damit können Angreifer die Verhaltensweise von Copilot-Chats verändern und Befehle manipulieren, ohne dass dies bemerkt wird. Diese Angriffe, die Bargury als „Remote Copilot Execution“ (RCE) bezeichnet, ähneln Remote-Code-Ausführungsangriffen und ermöglichen es Angreifern, die Kontrolle über die Aktionen von Copilot zu übernehmen.
Obwohl Microsoft bereits mehrere Sicherheitsmechanismen implementiert hat, um solche Angriffe zu verhindern, betonte Bargury die Notwendigkeit weiterer Tools zur Erkennung versteckter Anweisungen und unzuverlässiger Daten, auch bekannt als „Promptware“. Er rief die Sicherheitsgemeinschaft dazu auf, wachsam zu bleiben und weiterhin Maßnahmen zu entwickeln, um diese neuen Bedrohungen zu bekämpfen.
Diese Präsentation verdeutlicht die potenziellen Risiken der schnellen Einführung von AI-basierten Tools in Unternehmen und unterstreicht die Notwendigkeit robuster Sicherheitsmaßnahmen.
Ähnliche Beiträge:
Professionelle Hilfe erwünscht?
Sentiguard ist spezialisiert auf Notfallhilfe nach Cyberattacken, IT Sicherheitsbeauftragte und IT Sicherheitskonzepte nach BSI Standard. Haben Sie Fragen und wünschen Sie unverbindliche Beratung, dann melden Sie sich gerne bei uns: