Laut einem neuen Bericht des Wall Street Journal hat OpenAI die Veröffentlichung seines geplanten „Erwachsenenmodus“ für ChatGPT aufgrund interner Warnungen vor potenziellen Schäden und unzureichenden Sicherheitsvorkehrungen verzögert. Die Funktion, die Benutzern die Teilnahme an sexuell eindeutigen Gesprächen ermöglichen soll, wurde auf Eis gelegt, nachdem der Beirat für Wohlbefinden von OpenAI einhellige Bedenken geäußert hatte.
Die Risiken überwogen die Chancen
Psychologen und Kognitionswissenschaftler im Beirat warnten, dass die Funktion eine ungesunde emotionale Abhängigkeit unter Benutzern fördern könnte – ein Problem, das bereits bei Standard-ChatGPT-Interaktionen beobachtet wurde. Berichten zufolge warnte ein Experte davor, dass der Chatbot sogar zu einem Instrument zur Förderung von Selbstverletzung werden könnte, indem er als „sexy Suizid-Coach“ fungierte. Diese alarmierende Einschätzung spielte eine Schlüsselrolle bei der Entscheidung, die Entwicklung zu pausieren.
Fehler bei der Altersüberprüfung
Diese Bedenken wurden dadurch noch verstärkt, dass sich die Altersüberprüfungssysteme von OpenAI als unzuverlässig erwiesen. Erste Tests ergaben eine Fehlerquote von 12 % bei der korrekten Identifizierung minderjähriger Benutzer, was bedeutet, dass Millionen von Kindern möglicherweise unbemerkt auf unangemessene Inhalte zugreifen könnten. Dieser Misserfolg spiegelt vergangene Skandale bei Meta wider, das wegen laxer Sicherheitsrichtlinien in seinen eigenen KI-Chatbots kritisiert wurde. Meta hat seine Richtlinien inzwischen aktualisiert, erlaubt aber weiterhin „romantisches Rollenspiel“ zwischen Benutzern und KI-Avataren.
Explizite Inhalte mit Sicherheit in Einklang bringen
OpenAI behauptet, es beabsichtige, irgendwann den Erwachsenenmodus einzuführen, aber das Unternehmen ringt immer noch damit, explizite Inhaltsbeschränkungen aufzuheben und gleichzeitig schädliche Ergebnisse wie nicht einvernehmliche Handlungen oder Material über sexuellen Kindesmissbrauch zu verhindern. Ein Sprecher erklärte, die Funktion würde Gespräche auf „Schmuddelig-Niveau“ ermöglichen und keine reine Pornografie darstellen. Sie verteidigten außerdem die Fehlerquote bei der Altersüberprüfung als „Industriestandard“ und räumten ein, dass eine narrensichere Genauigkeit unmöglich sei.
Größerer Kontext: Die sich entwickelnden Prioritäten von OpenAI
Die Verzögerung kommt zu einem Zeitpunkt, an dem OpenAI seine Strategie angesichts von Rechtsstreitigkeiten, der Entwicklung von GPT-5.4 und zunehmenden Regierungsaufträgen neu ausrichtet. Die Prioritäten des Unternehmens haben sich verschoben und die Funktion „Erwachsenenmodus“ scheint zugunsten dringlicherer Anliegen außer Acht gelassen worden zu sein.
Dieser Schritt unterstreicht die wachsende Aufmerksamkeit der KI-Sicherheit und die ethischen Dilemmata, mit denen Entwickler konfrontiert sind, wenn sie die Grenzen der Chatbot-Funktionen erweitern. Der Vorfall verdeutlicht die schwierigen Kompromisse zwischen Innovation und verantwortungsvollem Einsatz, insbesondere im Umgang mit potenziell schädlichen Inhalten.
