OpenAI zavedlo novou volitelnou bezpečnostní funkci v ChatGPT, která umožňuje dospělým uživatelům určit Důvěryhodný kontakt – přítele, člena rodiny nebo opatrovníka – kterého systém upozorní, pokud AI u uživatele zjistí vážné problémy s duševním zdravím nebo bezpečností. Cílem této iniciativy je překlenout propast mezi digitálním zapojením a skutečnou lidskou podporou v kritických časech.
Jak funkce funguje
Trusted Contact je navržen tak, aby chránil soukromí uživatelů a zároveň poskytoval bezpečnostní síť podpůrné sítě. Proces vypadá takto:
- Dobrovolné připojení: Každý dospělý uživatel ChatGPT může aktivovat tuto funkci v nastavení svého účtu tím, že pozve jiného dospělého uživatele (18 let ve většině zemí, 19 let v Jižní Koreji), aby jednal jako kontakt.
- Vyžadováno potvrzení: Aby byl vztah aktivován, musí pozvaný kontakt pozvánku přijmout do jednoho týdne. Obě strany si ponechávají možnost kdykoli smazat nebo změnit nastavení komunikace.
- Přísné kontroly soukromí: OpenAI zdůrazňuje, že oznámení jsou „záměrně omezena“. Důvěryhodný kontakt nebude dostávat přepisy chatu, podrobné protokoly konverzací ani konkrétní obsah vyměňovaný mezi uživatelem.
- Ověření člověkem: Pokud automatické systémy detekují jazyk naznačující sebepoškozování nebo sebevražedné myšlenky, ChatGPT nejprve vyzve uživatele, aby kontaktoval svůj důvěryhodný kontakt. Malá skupina speciálně vyškolených odborníků pak ověřuje kontext. Krátké upozornění (e-mailem, SMS nebo v aplikaci) se odešle důvěryhodnému kontaktu pouze, pokud tým zjistí, že existují významná bezpečnostní rizika.
Kontext spuštění funkce
Tato funkce je součástí širšího průmyslového trendu směřujícího k integraci bezpečnosti AI s lidským dohledem, zejména v reakci na rostoucí obavy z rizik pro duševní zdraví spojených s používáním společníků AI.
„Funkce Trusted Contact je založena na jednoduché, mezi sebou ověřené myšlence: když je člověk v krizi, spojení s někým, koho zná a komu důvěřuje, může znamenat velký rozdíl,“ uvedl OpenAI ve svém oznámení.
Spuštění této funkce následuje po tragickém incidentu v září, kdy si 16letý mladík vzal život po měsících důvěrných rozhovorů s ChatGPT. V reakci na to OpenAI zavedlo rodičovskou kontrolu spolu s možnostmi nouzového kontaktu. Nová funkce Trusted Contact rozšiřuje tuto záchrannou síť pro dospělé uživatele přidáním další vrstvy podpory k již existujícím místním linkám pomoci chatbota.
Širší průmyslový trend
OpenAI není v řešení těchto problémů jediná. Meta nedávno na Instagramu zavedla podobný bezpečnostní mechanismus, který rodiče upozorní, pokud jejich děti „opakovaně“ vyhledávají témata související se sebepoškozováním. Tento vývoj poukazuje na rostoucí shodu mezi technologickými giganty: platformy umělé inteligence mají odpovědnost za minimalizaci škod, zejména pokud mohou být uživatelé zranitelní.
Závěr
Zavedení funkce Trusted Contact je významným krokem v rovnováze mezi soukromím umělé inteligence a bezpečností uživatelů. Poskytováním citlivých intervencí zaměřených na člověka bez narušení soukromí konverzací se OpenAI snaží zajistit, aby digitální interakce mohly sloužit spíše jako most k podpoře v reálném světě, než aby zůstaly izolovaným zážitkem.
