OpenAI will kritische ChatGPT-Verläufe Behörden melden

Das KI-Unternehmen OpenAI plant, bei gefährlichen Inhalten in ChatGPT-Konversationen stärker einzugreifen. Wenn Nutzer anderen Menschen ernsthaft Schaden androhen, sollen entsprechende Verläufe von einem Team geprüft und – falls akute Gefahr besteht – an die Strafverfolgung weitergegeben werden.

Gespräche, in denen es um Selbstverletzung geht, bleiben dagegen intern und führen nicht zu einer Meldung. OpenAI räumt ein, dass die Schutzmechanismen von ChatGPT vor allem bei längeren Unterhaltungen weniger zuverlässig funktionieren. Deshalb arbeitet das Unternehmen an Verbesserungen, damit Warnhinweise auch über längere Dialoge hinweg konsistent bleiben.

Künftig denkt OpenAI zudem über zusätzliche Funktionen nach: Nutzer in psychischen Notsituationen sollen leichter professionelle Hilfe erreichen oder auf Wunsch ihre Angehörigen direkt kontaktieren können – in schweren Fällen könnte auch ChatGPT selbst den Kontakt herstellen. Bereits jetzt verweist der Dienst in den USA und Europa auf passende Hilfsangebote.

Tags :

Related Posts

Datenschutzvorfall bei Online-Apotheke Volksversand.de

Die Online-Versandapotheke volksversand.de hat einen Datenschutzvorfall gemeldet. Unbekannte Angreifer verschafften sich unbefugten Zugriff auf das IT-System des Unternehmens und konnten dabei auf persönliche Kundendaten zugreifen. Betroffen sind unter anderem Namen, Adressen und E-Mail-Adressen – sensible Zahlungsdaten oder Passwörter seien laut dem Betreiber jedoch nicht kompromittiert worden.

Read More

Datenleck in Apples Wi-Fi Positionierungssystem gibt weltweit Gerätestandorte preis

Forscher der Uni Maryland haben in einem Paper aufgezeigt, dass das Wi-Fi-basierte Positionierungssystem (WPS) von Apple zu einer erheblichen globalen Datenschutzbedrohung führen kann. Diese Systeme, die moderne mobile Geräte zur Positionsbestimmung durch nahegelegene Wi-Fi-Zugangspunkte nutzen, können von Angreifern ausgenutzt werden, um eine weltweite Momentaufnahme der geolokalisierten Wi-Fi-BSSIDs (Basic Service Set Identifiers) zu erstellen.

Read More

Datenschutz-Problem: Smart-TVs tracken Userverhalten mit ACR im Opt-Out Verfahren

Im Oktober 2024 veröffentlichten Forscher der CalTec die Studie „Watching TV with the Second-Party“, die Automatic Content Recognition (ACR) in Smart-TVs untersucht. ACR ist eine Technologie, die automatisch Inhalte erkennt, die auf dem Fernseher abgespielt werden, und diese Informationen an Server übermittelt. Dabei werden regelmäßig Bild- oder Audioschnipsel erfasst, die dann mit einer zentralen Datenbank abgeglichen werden, um das genaue Programm oder den Film zu identifizieren, das/die ein Nutzer sieht.

Read More