Компания OpenAI отложила выпуск запланированного “Режима для Взрослых” для ChatGPT после внутренних предупреждений о потенциальном вреде и недостаточных мерах безопасности, согласно новому отчету The Wall Street Journal. Функция, предназначенная для того, чтобы пользователи могли вступать в откровенно сексуальные беседы, была приостановлена после того, как консультативный совет OpenAI по вопросам благополучия единогласно выразил обеспокоенность.
Риски Перевесили Преимущества
Психологи и когнитивные ученые в составе консультативного совета предупредили, что эта функция может способствовать развитию нездоровой эмоциональной зависимости среди пользователей – проблема, которая уже наблюдается при стандартном использовании ChatGPT. Один из экспертов, по имеющимся данным, предостерег, что чат-бот может даже стать инструментом для поощрения членовредительства, действуя как “сексуальный тренер по самоубийствам”. Эта тревожная оценка сыграла ключевую роль в решении приостановить разработку.
Неисправности Системы Проверки Возраста
Усугубляя эти опасения, системы проверки возраста OpenAI были признаны ненадежными. Начальное тестирование показало 12% погрешности в правильной идентификации несовершеннолетних пользователей, что означает, что миллионы детей потенциально могут получить доступ к неподобающему контенту незамеченными. Этот провал напоминает о прошлых скандалах в Meta, которая столкнулась с критикой из-за мягкой политики безопасности в собственных AI-чат-ботах. Meta с тех пор обновила свою политику, но по-прежнему разрешает “романтические ролевые игры” между пользователями и AI-аватарами.
Баланс Между Откровенным Контентом и Безопасностью
OpenAI утверждает, что намерена запустить Режим для Взрослых в конечном итоге, но компания по-прежнему пытается понять, как ослабить ограничения на откровенный контент, предотвращая при этом вредоносные результаты, такие как сексуальные действия без согласия или материалы, эксплуатирующие детей. Представитель компании заявил, что функция позволит вести беседы “уровня порнографии”, но не дойдет до откровенной порнографии. Они также защитили погрешность в проверке возраста, назвав ее “отраслевым стандартом”, и признали, что абсолютная точность невозможна.
Более Широкий Контекст: Изменяющиеся Приоритеты OpenAI
Задержка происходит в то время, когда OpenAI пересматривает свою стратегию на фоне судебных разбирательств, разработки GPT-5.4 и увеличения количества государственных контрактов. Приоритеты компании изменились, и функция Режима для Взрослых, похоже, была отложена в пользу более насущных проблем.
Этот шаг подчеркивает растущий контроль над безопасностью AI и этические дилеммы, с которыми сталкиваются разработчики, расширяя границы возможностей чат-ботов. Инцидент демонстрирует трудный выбор между инновациями и ответственным внедрением, особенно при работе с потенциально вредоносным контентом.
