OpenAI впровадила нову опціональну функцію безпеки в ChatGPT, що дозволяє дорослим користувачам призначати «Довірений контакт» — друга, члена сім’ї або опікуна, якого система повідомить, якщо ІІ виявить серйозні проблеми з психічним здоров’ям або питання безпеки користувача. Ця ініціатива покликана подолати розрив між цифровою взаємодією та реальною людською підтримкою у критичні моменти.
Як працює функція
Система «Довірений контакт» розроблена з урахуванням захисту конфіденційності користувачів, одночасно забезпечуючи страховку у вигляді мережі підтримки. Ось як виглядає процес:
- Добровільне підключення: Будь-який дорослий користувач ChatGPT може активувати цю функцію в налаштуваннях свого облікового запису, запросивши іншого повнолітнього користувача (від 18 років у більшості країн світу, від 19 років у Південній Кореї) виступити в ролі контакту.
- Необхідність підтвердження: Запрошений контакт повинен прийняти запрошення протягом одного тижня, щоб зв’язок активувався. Обидві сторони зберігають можливість видалити або змінити налаштування зв’язку у будь-який час.
- Суворий контроль конфіденційності: OpenAI підкреслює, що повідомлення «навмисно обмежені». Довірений контакт не отримає транскриптів чату, детальних балок розмов або конкретного вмісту, яким обмінювався користувач.
- Перевірка людиною: Якщо автоматичні системи виявляють мову, що вказує на самоушкодження або суїцидальні думки, ChatGPT в першу чергу запропонує користувачеві зв’язатися з його Довіреним контактом. Потім невелику групу спеціально навчених спеціалістів перевіряє контекст. Коротке повідомлення (електронною поштою, SMS або всередині програми) надсилається Довіреному контакту тільки у тому випадку, якщо фахівці визначать наявність серйозних ризиків для безпеки.
Контекст запуску функції
Ця функція є частиною ширшої індустріальної тенденції до інтеграції безпеки ІІ з людським наглядом, особливо у відповідь на побоювання щодо ризиків для психічного здоров’я, пов’язаних з використанням ІІ-компаньйонів.
«Функція “Довірений контакт” ґрунтується на простій, перевіреній експертами ідеї: коли людина перебуває в кризі, зв’язок з тим, кого вона знає і кому довіряє, може мати вирішальне значення», — заявили в OpenAI у своєму оголошенні.
Запуск цієї функції пішов за трагічним інцидентом у вересні, коли 16-річний підліток наклав на себе руки після місяців довірчих розмов з ChatGPT. У відповідь OpenAI запровадила батьківський контроль поряд із опціями екстрених контактів. Нова функція Довірений контакт розширює цю систему безпеки для дорослих користувачів, додаючи ще один рівень підтримки до локальних ліній допомоги, що вже є в чат-боті.
Більш широка тенденція в промисловості
OpenAI не самотня у вирішенні цих проблем. Нещодавно Meta впровадила аналогічний механізм безпеки в Instagram, який повідомляє батьків, якщо їхні діти “повторно” шукають теми, пов’язані з самоушкодженням. Ці розробки підкреслюють зростання консенсусу серед технологічних гігантів: платформи ІІ несуть відповідальність за мінімізацію шкоди, особливо коли користувачі можуть бути вразливі.
Висновок
Введення функції «Довірений контакт» стає значним кроком у балансі між конфіденційністю ІІ та безпекою користувача. Забезпечуючи делікатні, орієнтовані на людину втручання без порушення конфіденційності розмов, OpenAI прагне гарантувати, що цифрова взаємодія може бути мостом реальної підтримки, а чи не залишатися ізольованим досвідом.
