Character AI представляє «Історії», формат інтерактивної художньої літератури, у відповідь на зростаючі ризики для психічного здоров’я, пов’язані з його сервісом чат-бота з відкритим доступом. Компанія повністю заблокувала доступ до своїх чат-ботів для користувачів молодше 18 років, зміна, яка сталася після судових позовів про зв’язок між взаємодією з ШІ та самогубством.
Розквіт ШІ-чат-ботів і негативна реакція
Протягом останнього місяця Character AI поступово обмежує доступ неповнолітніх. До вівторка користувачі віком до 18 років більше не могли вільно спілкуватися з персонажами ШІ. Цей крок стався на тлі зростаючої критики цілодобових компаньйонів ШІ, які починають розмови, потенційно призводячи до залежності та психологічної шкоди.
Було подано кілька позовів проти таких компаній, як OpenAI і Character AI, підкреслюючи небезпеку неконтрольованого доступу до ШІ. Юридичний тиск і стурбованість громадськості змусили перейти до більш структурованого формату.
Що таке «Історії» і чому саме зараз?
Історії пропонують керований наративний досвід, дозволяючи користувачам взаємодіяти з персонажами в рамках попередньо визначених сценаріїв. Це різко контрастує з чат-ботами, які дозволяють відкриті, небажані взаємодії.
Штучний інтелект персонажів представив це як безпеку на першому місці: «Історії пропонують спрямований спосіб створювати та досліджувати фантастику замість відкритого чату». Час також збігається зі зростанням популярності інтерактивної фантастики, що робить її життєздатною альтернативою.
Реакція користувачів і регуляторний тиск
Реакція підлітків неоднозначна. Деякі визнають заборону необхідним кроком для приборкання залежності. Один користувач субредіту Character AI написав: «Я розлючений через заборону, але водночас щасливий, тому що тепер я можу робити інші речі, і, можливо, моя залежність нарешті закінчиться». Інші висловили розчарування, але визнали законність рішення.
Ця зміна сталася на тлі посилення законодавчого регулювання компаньйонів зі штучним інтелектом. Каліфорнія нещодавно стала першим штатом, який регулює ці інструменти, і на національному рівні розглядається законодавство, яке повністю заборонить компаньйонів із штучним інтелектом для неповнолітніх.
Необхідний поворот?
Перехід ШІ персонажів до Історій є відповіддю на передбачувану шкоду та посилення регулювання. Хоча новий формат може не повністю задовольнити користувачів, які звикли до необмеженого доступу до чат-ботів, він забезпечує більш контрольоване та менш психологічно ризиковане середовище. Це рішення підкреслює необхідність посилення нагляду у сфері взаємодії ШІ, що швидко розвивається.
