OpenAI will kritische ChatGPT-Verläufe Behörden melden

Das KI-Unternehmen OpenAI plant, bei gefährlichen Inhalten in ChatGPT-Konversationen stärker einzugreifen. Wenn Nutzer anderen Menschen ernsthaft Schaden androhen, sollen entsprechende Verläufe von einem Team geprüft und – falls akute Gefahr besteht – an die Strafverfolgung weitergegeben werden.

Gespräche, in denen es um Selbstverletzung geht, bleiben dagegen intern und führen nicht zu einer Meldung. OpenAI räumt ein, dass die Schutzmechanismen von ChatGPT vor allem bei längeren Unterhaltungen weniger zuverlässig funktionieren. Deshalb arbeitet das Unternehmen an Verbesserungen, damit Warnhinweise auch über längere Dialoge hinweg konsistent bleiben.

Künftig denkt OpenAI zudem über zusätzliche Funktionen nach: Nutzer in psychischen Notsituationen sollen leichter professionelle Hilfe erreichen oder auf Wunsch ihre Angehörigen direkt kontaktieren können – in schweren Fällen könnte auch ChatGPT selbst den Kontakt herstellen. Bereits jetzt verweist der Dienst in den USA und Europa auf passende Hilfsangebote.

Tags :

Related Posts

Datenleck bei Pinterest betrifft 60 Mio Datensätze

Am 15. Juli 2024 berichtete cyberpress.org über ein mögliches Datenleck bei Pinterest, bei dem angeblich 60 Millionen Datensätze von Nutzern veröffentlicht wurden. Der Hacker “Tchao1337” behauptet, eine Datenbank mit E-Mail-Adressen, Benutzernamen, Benutzer-IDs und IP-Adressen auf einem Datenleck-Forum hochgeladen zu haben.

Read More

Chinesischen E-Autos: Mögliche Spionage durch Fahrzeugvernetzung​

Britische Rüstungsunternehmen haben ihre Mitarbeiter angewiesen, ihre Mobiltelefone nicht mit chinesischen Elektrofahrzeugen zu verbinden. Grund dafür sind Bedenken, dass durch die Verbindung sensible Daten von Peking abgegriffen werden könnten. Moderne E-Autos verfügen über zahlreiche Sensoren, Kameras und Internetverbindungen, die potenziell zur Datenübertragung genutzt werden könnten. Insbesondere Personen in sicherheitsrelevanten Positionen wird geraten, Vorsicht walten zu lassen. Obwohl es bisher keine öffentlichen Beweise für einen Missbrauch gibt, bleibt die Sorge vor möglichen Sicherheitsrisiken bestehen. Weitere Informationen finden Sie im Artikel des Guardian.

Read More

Studie aus 2025: AI-Plattformen im Datenschutzvergleich

Die Nutzung von generativer KI (Gen AI) und Large Language Models (LLMs) ist heute Alltag. Ob bei der Texterstellung, beim Programmieren oder im Kundenservice – diese Tools erleichtern vieles, doch oft auf Kosten des Datenschutzes. Die aktuelle Studie von Incogni, kombiniert mit der Privacy-Ranking-Grafik 2025, zeigt: Nicht alle Plattformen gehen gleich verantwortungsvoll mit Nutzerdaten um.

Read More