Character AI внедряет “Истории” – формат интерактивной художественной литературы – в ответ на растущие риски для психического здоровья, связанные с её сервисом чат-ботов с открытым доступом. Компания полностью заблокировала доступ к своим чат-ботам для пользователей младше 18 лет, изменение, последовавшее за судебными исками, утверждающими связь между взаимодействием с ИИ и самоубийствами.
Подъём Чат-Ботов с ИИ и Обратная Реакция
В течение последнего месяца Character AI постепенно ограничивала доступ для несовершеннолетних. К вторнику пользователи младше 18 лет больше не могли вести свободные беседы с персонажами ИИ. Этот шаг происходит на фоне растущей критики в адрес круглосуточных ИИ-компаньонов, которые инициируют разговоры, потенциально приводя к зависимости и психологическому вреду.
Несколько исков были поданы против компаний, таких как OpenAI и Character AI, подчеркивающих опасности бесконтрольного доступа к ИИ. Юридическое давление и общественное беспокойство вынудили переход к более структурированному формату.
Что Такое “Истории” и Почему Сейчас?
“Истории” предлагают направленный повествовательный опыт, позволяя пользователям взаимодействовать с персонажами в рамках предопределённых сценариев. Это резко отличается от чат-ботов, которые допускают открытые, незапрошенные взаимодействия.
Character AI представила это как подход, основанный на безопасности: “Истории предлагают направленный способ создания и исследования художественной литературы вместо открытого чата”. Время также совпадает с растущей популярностью интерактивной художественной литературы, что делает её жизнеспособной альтернативой.
Реакция Пользователей и Регуляторное Давление
Реакция подростков неоднозначна. Некоторые признают запрет необходимым шагом для обуздания зависимости. Один пользователь на сабреддите Character AI написал: «Я в ярости из-за запрета, но в то же время рад, потому что теперь я могу заниматься другими вещами, и, возможно, моя зависимость наконец-то закончится». Другие выразили разочарование, но при этом признали правомерность решения.
Это изменение происходит на фоне усиления юридического регулирования ИИ-компаньонов. Калифорния недавно стала первым штатом, регулирующим эти инструменты, а в национальном масштабе рассматривается законопроект, который полностью запретит ИИ-компаньонов для несовершеннолетних.
Необходимый Поворот?
Переход Character AI к “Историям” является ответом на ощутимый вред и растущее регулирование. Хотя новый формат может не полностью удовлетворить пользователей, привыкших к неограниченному доступу к чат-ботам, он представляет собой более контролируемую и менее рискованную с психологической точки зрения среду. Это решение подчёркивает необходимость усиления надзора в быстро развивающейся области взаимодействия с ИИ.
