Компанія OpenAI відклала випуск запланованого “Режиму для Дорослих” для ChatGPT після внутрішніх попереджень про потенційну шкоду та недостатні заходи безпеки, згідно з новим звітом The Wall Street Journal. Функція, призначена для того, щоб користувачі могли вступати у відверто сексуальні бесіди, була припинена після того, як консультативна рада OpenAI з питань благополуччя одноголосно висловила занепокоєння.
Ризики Переважили Переваги
Психологи та когнітивні вчені у складі консультативної ради попередили, що ця функція може сприяти розвитку нездорової емоційної залежності серед користувачів – проблема, яка вже спостерігається при стандартному використанні ChatGPT. Один із експертів, за наявними даними, застеріг, що чат-бот може навіть стати інструментом для заохочення членошкідництва, діючи як “сексуальний тренер із самогубств”. Ця тривожна оцінка відіграла ключову роль вирішенні призупинити розробку.
Несправності Системи Перевірки Віку
Ускладнюючи ці побоювання, системи перевірки віку OpenAI були визнані ненадійними. Початкове тестування показало 12% похибки у правильній ідентифікації неповнолітніх користувачів, що означає, що мільйони дітей потенційно можуть отримати доступ до неналежного контенту непоміченими. Цей провал нагадує про минулі скандали в Meta, яка зіткнулася з критикою через м’яку безпекову політику у власних AI-чат-ботах. Meta з того часу оновила свою політику, але, як і раніше, дозволяє “романтичні рольові ігри” між користувачами та AI-аватарами.
Баланс Між Відвертим Контентом та Безпекою
OpenAI стверджує, що має намір запустити Режим для Дорослих зрештою, але компанія, як і раніше, намагається зрозуміти, як послабити обмеження на відвертий контент, запобігаючи при цьому шкідливим результатам, таким як сексуальні дії без згоди або матеріали, що експлуатують дітей. Представник компанії заявив, що функція дозволить вести бесіди “рівня порнографії”, але не дійде до відвертої порнографії. Вони також захистили похибку у перевірці віку, назвавши її “галузевим стандартом”, і визнали, що абсолютна точність неможлива.
Більш Широкий Контекст: Пріоритети OpenAI, що змінюються
Затримка відбувається у той час, коли OpenAI переглядає свою стратегію на тлі судових розглядів, розробки GPT-5.4 та збільшення кількості державних контрактів. Пріоритети компанії змінилися, і функція Режиму для Дорослих, схоже, була відкладена на користь нагальних проблем.
Цей крок підкреслює зростаючий контроль за безпекою AI та етичні дилеми, з якими стикаються розробники, розширюючи межі можливостей чат-ботів. Інцидент демонструє важкий вибір між інноваціями та відповідальним впровадженням, особливо під час роботи з потенційно шкідливим контентом.
