Character AI wprowadza „Historie” – interaktywny format fikcji w odpowiedzi na rosnące ryzyko dla zdrowia psychicznego związane z usługą chatbota o otwartym dostępie. Firma całkowicie zablokowała dostęp do swoich chatbotów użytkownikom poniżej 18 roku życia, co jest zmianą wynikającą z procesów sądowych zarzucających związek między interakcjami z sztuczną inteligencją a samobójstwem.
Pojawienie się chatbotów AI i reakcja
Przez ostatni miesiąc Character AI stopniowo ograniczało dostęp nieletnim. Od wtorku użytkownicy poniżej 18 roku życia nie będą mogli już prowadzić darmowych rozmów z postaciami AI. Posunięcie to wynika z rosnącej krytyki wobec całodobowych towarzyszy AI, którzy inicjują rozmowy, co może prowadzić do uzależnienia i szkód psychicznych.
Przeciwko firmom takim jak OpenAI i Character AI złożono kilka pozwów, podkreślając niebezpieczeństwa związane z niekontrolowanym dostępem do sztucznej inteligencji. Naciski prawne i obawy społeczne wymusiły przejście na bardziej ustrukturyzowany format.
Czym są „historie” i dlaczego teraz?
Historie oferują narrację z przewodnikiem, umożliwiającą użytkownikom interakcję z postaciami w ramach wcześniej zdefiniowanych scenariuszy. Stanowi to wyraźny kontrast w stosunku do chatbotów, które umożliwiają otwarte, niechciane interakcje.
Sztuczna inteligencja postaci przedstawiła to jako podejście skupiające się na bezpieczeństwie: „Historie oferują ukierunkowany sposób tworzenia i odkrywania fikcji zamiast otwartego czatu”. Moment ten zbiega się również z rosnącą popularnością fikcji interaktywnej, co czyni ją realną alternatywą.
Reakcja użytkownika i naciski regulacyjne
Reakcja nastolatków jest niejednoznaczna. Niektórzy uznają zakaz za niezbędny krok w kierunku ograniczenia uzależnienia. Jeden z użytkowników subreddita Character AI napisał: „Jestem wściekły z powodu zakazu, ale jednocześnie szczęśliwy, bo teraz mogę robić inne rzeczy i może wreszcie moje uzależnienie się skończy”. Inni wyrazili rozczarowanie, ale uznali słuszność decyzji.
Ta zmiana wynika z zaostrzonych przepisów prawnych dotyczących towarzyszy AI. Kalifornia stała się niedawno pierwszym stanem, który uregulował te narzędzia, a na szczeblu krajowym rozważa się wprowadzenie legislacji, która całkowicie zakazałaby stosowania towarzyszy AI dla nieletnich.
Konieczny obrót?
Przejście AI postaci na Stories jest odpowiedzią na postrzegane szkody i rosnące regulacje. Chociaż nowy format może nie w pełni zadowolić użytkowników przyzwyczajonych do nieograniczonego dostępu do chatbotów, zapewnia bardziej kontrolowane i mniej ryzykowne psychicznie środowisko. Decyzja podkreśla potrzebę zwiększonego nadzoru w szybko rozwijającej się dziedzinie interakcji AI.
