OpenAI wprowadziło nową opcjonalną funkcję bezpieczeństwa w ChatGPT, która pozwala dorosłym użytkownikom wyznaczyć Zaufany kontakt – przyjaciela, członka rodziny lub opiekuna – którego system powiadomi, jeśli sztuczna inteligencja zidentyfikuje poważne problemy ze zdrowiem psychicznym lub bezpieczeństwem użytkownika. Inicjatywa ta ma na celu wypełnienie luki między zaangażowaniem cyfrowym a prawdziwym wsparciem ludzkim w krytycznych momentach.
Jak działa ta funkcja
Zaufany kontakt ma na celu ochronę prywatności użytkowników, zapewniając jednocześnie sieć bezpieczeństwa w postaci sieci wsparcia. Oto jak wygląda proces:
- Połączenie dobrowolne: Każdy dorosły użytkownik ChatGPT może aktywować tę funkcję w ustawieniach swojego konta, zapraszając innego dorosłego użytkownika (w większości krajów 18 lat, w Korei Południowej 19 lat), aby pełnił rolę kontaktu.
- Wymagane potwierdzenie: Zaproszony kontakt musi przyjąć zaproszenie w ciągu tygodnia, aby relacja mogła zostać aktywowana. Obie strony zachowują w każdej chwili możliwość usunięcia lub zmiany ustawień komunikacji.
- Silna kontrola prywatności: OpenAI podkreśla, że powiadomienia są „celowo ograniczone”. Zaufany kontakt nie będzie otrzymywać transkrypcji czatów, szczegółowych dzienników rozmów ani określonych treści wymienianych między użytkownikiem.
- Weryfikacja przez człowieka: Jeśli automatyczne systemy wykryją język wskazujący na samookaleczenie lub myśli samobójcze, ChatGPT najpierw poprosi użytkownika o skontaktowanie się z Zaufanym kontaktem. Następnie niewielka grupa specjalnie przeszkolonych specjalistów sprawdza kontekst. Krótkie powiadomienie (e-mailem, SMS-em lub w aplikacji) jest wysyłane do Zaufanego kontaktu tylko wtedy, gdy zespół ustali, że istnieje poważne ryzyko bezpieczeństwa.
Kontekst uruchomienia funkcji
Ta funkcja wpisuje się w szerszy trend branżowy mający na celu integrację bezpieczeństwa sztucznej inteligencji z nadzorem człowieka, szczególnie w odpowiedzi na rosnące obawy dotyczące zagrożeń dla zdrowia psychicznego związanych z korzystaniem z towarzyszy AI.
„Funkcja Zaufany kontakt opiera się na prostym, sprawdzonym pomyśle: kiedy dana osoba znajduje się w kryzysie, nawiązanie kontaktu z kimś, kogo zna i któremu ufa, może wszystko zmienić” – stwierdził OpenAI w swoim ogłoszeniu.
Uruchomienie tej funkcji następuje po tragicznym incydencie we wrześniu, kiedy 16-latek odebrał sobie życie po miesiącach poufnych rozmów z ChatGPT. W odpowiedzi OpenAI wprowadziło kontrolę rodzicielską wraz z możliwością kontaktu w sytuacjach awaryjnych. Nowa funkcja Zaufany kontakt rozszerza tę siatkę bezpieczeństwa dla dorosłych użytkowników, dodając kolejny poziom wsparcia do już istniejących lokalnych linii pomocy chatbota.
Szerszy trend branżowy
OpenAI nie jest osamotniony w rozwiązywaniu tych problemów. Meta niedawno wdrożyła podobny mechanizm bezpieczeństwa na Instagramie, który powiadamia rodziców, jeśli ich dzieci „wielokrotnie” szukają tematów związanych z samookaleczeniem. Zmiany te podkreślają rosnący konsensus wśród gigantów technologicznych: platformy sztucznej inteligencji mają obowiązek minimalizować szkody, zwłaszcza gdy użytkownicy mogą być bezbronni.
Wniosek
Wprowadzenie funkcji Zaufany kontakt to znaczący krok w kierunku równowagi pomiędzy prywatnością AI a bezpieczeństwem użytkowników. Zapewniając wrażliwe, skoncentrowane na osobie interwencje bez naruszania prywatności rozmów, OpenAI ma na celu zapewnienie, że interakcje cyfrowe mogą służyć jako pomost do wsparcia w świecie rzeczywistym, a nie pozostawać izolowanym doświadczeniem.
