Character AI představuje „Stories“, interaktivní fiktivní formát, v reakci na rostoucí rizika duševního zdraví spojená s její službou chatbot s otevřeným přístupem. Společnost zcela zablokovala přístup ke svým chatbotům uživatelům mladším 18 let, což je změna, která následuje po soudních sporech o spojení mezi interakcí s AI a sebevraždou.
Vzestup AI chatbotů a odpor
Během posledního měsíce znaková umělá inteligence postupně omezovala přístup nezletilým. V úterý už uživatelé mladší 18 let nemohli mít bezplatné konverzace s postavami AI. Tento krok přichází uprostřed rostoucí kritiky 24/7 společníků AI, kteří zahajují konverzace, což může vést k závislosti a psychické újmě.
Proti společnostem, jako je OpenAI a Character AI, bylo podáno několik žalob, které poukazují na nebezpečí nekontrolovaného přístupu k AI. Právní tlak a zájem veřejnosti si vynutily přechod na strukturovanější formát.
Co jsou to „příběhy“ a proč právě teď?
Příběhy nabízejí řízený vypravěčský zážitek, který uživatelům umožňuje komunikovat s postavami v rámci předem definovaných scénářů. To je v ostrém kontrastu s chatboty, které umožňují otevřené, nevyžádané interakce.
Umělá inteligence postav to prezentovala jako přístup na prvním místě: „Příběhy nabízejí řízený způsob, jak vytvořit a prozkoumat fikci místo otevřeného chatu.“ Načasování se také shoduje s rostoucí popularitou interaktivní fikce, což z ní činí životaschopnou alternativu.
Odezva uživatele a regulační tlak
Reakce teenagerů je nejednoznačná. Někteří uznávají zákaz jako nezbytný krok k omezení závislosti. Jeden uživatel na subredditu Character AI napsal: “Jsem z toho zákazu naštvaný, ale zároveň šťastný, protože teď můžu dělat jiné věci a možná moje závislost konečně skončí.” Jiní vyjádřili zklamání, ale uznali oprávněnost rozhodnutí.
Tato změna přichází v době zvýšené právní regulace AI společníků. Kalifornie se nedávno stala prvním státem, který tyto nástroje reguloval, a zvažuje se celostátní legislativa, která by AI společníky pro nezletilé úplně zakázala.
Nutné odbočení?
Přechod AI postav na Stories je reakcí na vnímané poškození a rostoucí regulaci. I když nový formát nemusí plně uspokojit uživatele zvyklé na neomezený přístup k chatbotům, poskytuje kontrolovanější a méně psychologicky rizikové prostředí. Rozhodnutí podtrhuje potřebu zvýšeného dohledu v rychle se vyvíjející oblasti interakcí AI.
