Podle nové zprávy The Wall Street Journal OpenAI odložila vydání plánovaného „režimu pro dospělé“ pro ChatGPT po interních varováních o možném poškození a nedostatečných bezpečnostních opatřeních. Tato funkce, navržená tak, aby umožnila uživatelům zapojit se do sexuálně explicitních konverzací, byla pozastavena poté, co poradní výbor OpenAI pro duševní pohodu jednomyslně vyjádřil obavy.
Rizika převažují nad výhodami
Psychologové a kognitivní vědci v poradním sboru varovali, že tato funkce by mohla přispět k rozvoji nezdravé emocionální závislosti mezi uživateli, což je problém, který je již vidět při standardním používání ChatGPT. Jeden odborník údajně varoval, že chatbot by se dokonce mohl stát nástrojem pro povzbuzování sebepoškozování, který by působil jako „kouč sexuálních sebevražd“. Toto alarmující hodnocení sehrálo klíčovou roli v rozhodnutí pozastavit vývoj.
Problémy se systémem ověřování věku
V kombinaci s těmito obavami bylo zjištěno, že systémy ověřování věku OpenAI jsou nespolehlivé. Počáteční testování ukázalo 12% chybovost při správné identifikaci nezletilých uživatelů, což znamená, že miliony dětí mohly potenciálně nepozorovaně přistupovat k nevhodnému obsahu. Selhání připomíná minulé skandály ve společnosti Meta, která čelila kritice za laxní bezpečnostní politiku svých chatbotů AI. Meta od té doby aktualizovala své zásady, ale stále umožňuje „romantické hraní rolí“ mezi uživateli a avatary AI.
Rovnováha mezi explicitním obsahem a bezpečností
OpenAI říká, že má v úmyslu nakonec spustit režim pro dospělé, ale společnost se stále snaží přijít na to, jak uvolnit omezení explicitního obsahu a zároveň zabránit škodlivým výsledkům, jako jsou nedobrovolné sexuální aktivity nebo materiály vykořisťující děti. Mluvčí společnosti řekl, že tato funkce umožní konverzace na „pornografické úrovni“, ale nezajde tak daleko jako explicitní pornografii. Obhájili také míru chyb při ověřování věku jako „průmyslový standard“ a uznali, že absolutní přesnost je nemožná.
Širší kontext: Měnící se priority OpenAI
Zpoždění přichází, když OpenAI přehodnocuje svou strategii uprostřed soudních sporů, vývoje GPT-5.4 a nárůstu vládních zakázek. Priority společnosti se změnily a zdá se, že funkce režimu pro dospělé byla odložena ve prospěch naléhavějších problémů.
Tento krok zdůrazňuje rostoucí kontrolu nad bezpečností AI a etická dilemata, s nimiž se vývojáři potýkají, když posouvají hranice toho, co chatboti dokážou. Incident ukazuje obtížnou volbu mezi inovací a odpovědnou implementací, zejména pokud jde o potenciálně škodlivý obsah.
