OpenAI внедрила новую опциональную функцию безопасности в ChatGPT, позволяющую взрослым пользователям назначать «Доверенный контакт» — друга, члена семьи или опекуна, — которого система уведомит, если ИИ выявит серьезные проблемы с психическим здоровьем или вопросы безопасности пользователя. Эта инициатива призвана преодолеть разрыв между цифровым взаимодействием и реальной человеческой поддержкой в критические моменты.
Как работает функция
Система «Доверенный контакт» разработана с учетом защиты конфиденциальности пользователей, одновременно обеспечивая страховку в виде сети поддержки. Вот как выглядит процесс:
- Добровольное подключение: Любой взрослый пользователь ChatGPT может активировать эту функцию в настройках своего аккаунта, пригласив другого совершеннолетнего пользователя (от 18 лет в большинстве стран мира, от 19 лет в Южной Корее) выступить в роли контакта.
- Необходимость подтверждения: Приглашенный контакт должен принять приглашение в течение одной недели, чтобы связь активировалась. Обе стороны сохраняют возможность удалить или изменить настройки связи в любое время.
- Строгий контроль конфиденциальности: OpenAI подчеркивает, что уведомления «намеренно ограничены». Доверенный контакт не получит транскриптов чата, детальных логов разговоров или конкретного содержимого, которым обменивался пользователь.
- Проверка человеком: Если автоматические системы обнаруживают язык, указывающий на самоповреждение или суицидальные мысли, ChatGPT в первую очередь предложит пользователю связаться с его Доверенным контактом. Затем небольшую группу специально обученных специалистов проверяет контекст. Краткое уведомление (по электронной почте, SMS или внутри приложения) отправляется Доверенному контакту только в том случае, если специалисты определят наличие серьезных рисков для безопасности.
Контекст запуска функции
Эта функция является частью более широкой индустриальной тенденции к интеграции безопасности ИИ с человеческим надзором, особенно в ответ на растущие опасения относительно рисков для психического здоровья, связанных с использованием ИИ-компаньонов.
«Функция «Доверенный контакт» основана на простой, проверенной экспертами идее: когда человек находится в кризисе, связь с тем, кого он знает и кому доверяет, может иметь решающее значение», — заявили в OpenAI в своем объявлении.
Запуск этой функции последовал за трагическим инцидентом в сентябре, когда 16-летний подросток покончил с собой после месяцев доверительных бесед с ChatGPT. В ответ OpenAI внедрила родительский контроль наряду с опциями экстренных контактов. Новая функция Доверенный контакт расширяет эту систему безопасности для взрослых пользователей, добавляя еще один уровень поддержки к уже имеющимся в чат-боте локальным линиям помощи.
Более широкая тенденция в индустрии
OpenAI не одинока в решении этих проблем. Недавно Meta внедрила аналогичный механизм безопасности в Instagram, который уведомляет родителей, если их дети «повторно» ищут темы, связанные с самоповреждением. Эти разработки подчеркивают растущий консенсус среди технологических гигантов: платформы ИИ несут ответственность за минимизацию вреда, особенно когда пользователи могут быть уязвимы.
Заключение
Введение функции «Доверенный контакт» становится значительным шагом в балансе между конфиденциальностью ИИ и безопасностью пользователя. Обеспечивая деликатные, ориентированные на человека вмешательства без нарушения конфиденциальности разговоров, OpenAI стремится гарантировать, что цифровое взаимодействие может служить мостом к реальной поддержке, а не оставаться изолированным опытом.
