Według nowego raportu The Wall Street Journal OpenAI opóźniło wydanie planowanego „trybu dla dorosłych” dla ChatGPT w związku z wewnętrznymi ostrzeżeniami dotyczącymi potencjalnych szkód i niewystarczających środków bezpieczeństwa. Funkcja, zaprojektowana tak, aby umożliwić użytkownikom prowadzenie rozmów o charakterze jednoznacznie seksualnym, została zawieszona po jednomyślnym wyrażeniu obaw przez radę doradczą OpenAI ds. dobrego samopoczucia.
Ryzyko przewyższa korzyści
Psycholodzy i naukowcy zajmujący się kognitywistyką w radzie doradczej ostrzegli, że ta funkcja może przyczynić się do rozwoju niezdrowej zależności emocjonalnej wśród użytkowników, co jest problemem już obserwowanym w przypadku standardowego korzystania z ChatGPT. Jeden z ekspertów podobno ostrzegł, że chatbot może nawet stać się narzędziem zachęcającym do samookaleczenia, pełniąc rolę „trenera samobójstw seksualnych”. Ta alarmująca ocena odegrała kluczową rolę w podjęciu decyzji o zawieszeniu rozwoju.
Problemy z systemem weryfikacji wieku
Na te obawy składa się fakt, że systemy weryfikacji wieku OpenAI okazały się zawodne. Wstępne testy wykazały 12% poziom błędów w prawidłowej identyfikacji nieletnich użytkowników, co oznacza, że miliony dzieci mogą potencjalnie uzyskać niezauważony dostęp do nieodpowiednich treści. Porażka przypomina wcześniejsze skandale w firmie Meta, która spotkała się z krytyką za luźną politykę bezpieczeństwa w chatbotach AI. Od tego czasu Meta zaktualizowała swoją politykę, ale nadal umożliwia „romantyczne odgrywanie ról” pomiędzy użytkownikami a awatarami AI.
Równowaga między treściami jawnymi a bezpieczeństwem
OpenAI twierdzi, że zamierza ostatecznie uruchomić tryb dla dorosłych, ale firma wciąż próbuje znaleźć sposób na poluzowanie ograniczeń dotyczących treści wulgarnych, jednocześnie zapobiegając szkodliwym skutkom, takim jak aktywność seksualna bez zgody lub materiały wykorzystujące dzieci. Rzecznik firmy powiedział, że ta funkcja umożliwi rozmowy na „poziomie pornograficznym”, ale nie będzie sięgać tak daleko, jak wyraźna pornografia. Bronili także marginesu błędu w weryfikacji wieku jako „standardu branżowego” i przyznawali, że absolutna dokładność jest niemożliwa.
Szerszy kontekst: zmieniające się priorytety OpenAI
Opóźnienie wynika z ponownego rozważenia przez OpenAI swojej strategii w obliczu postępowań sądowych, rozwoju GPT-5.4 i wzrostu liczby kontraktów rządowych. Priorytety firmy uległy zmianie i wydaje się, że funkcja trybu dla dorosłych została odłożona na półkę na rzecz pilniejszych problemów.
Posunięcie to podkreśla rosnącą kontrolę nad bezpieczeństwem sztucznej inteligencji i dylematy etyczne, przed którymi stają programiści, przesuwając granice możliwości chatbotów. Incydent pokazuje, jak trudny jest wybór między innowacją a odpowiedzialnym wdrażaniem, szczególnie w przypadku potencjalnie szkodliwych treści.
