Character AI sta lanciando “Stories”, un formato di narrativa interattiva, in risposta ai crescenti rischi per la salute mentale legati al suo servizio di chatbot a tempo indeterminato. L’azienda ha completamente bloccato l’accesso ai suoi chatbot per gli utenti sotto i 18 anni, una modifica che segue le cause legali che accusano un collegamento tra le interazioni con l’intelligenza artificiale e i suicidi.
L’ascesa dei chatbot IA e il contraccolpo
Nell’ultimo mese, Character AI ha gradualmente limitato l’accesso ai minori. Da martedì, gli utenti minorenni non potevano più impegnarsi in chat in formato libero con personaggi IA. Questa mossa avviene nel contesto di un crescente controllo dei compagni di intelligenza artificiale 24 ore su 24, 7 giorni su 7, che avviano conversazioni, portando potenzialmente a dipendenza e danni psicologici.
Sono state intentate diverse cause legali contro aziende come OpenAI e Character AI, evidenziando i pericoli di un accesso illimitato all’IA. La pressione legale e la preoccupazione dell’opinione pubblica hanno costretto a passare a un formato più strutturato.
Cosa sono le “storie” e perché adesso?
Le “Storie” offrono un’esperienza narrativa guidata, consentendo agli utenti di interagire con i personaggi all’interno di scenari predefiniti. Ciò differisce nettamente dai chatbot, che consentono interazioni aperte e non richieste.
L’intelligenza artificiale dei personaggi ha inquadrato questo come un approccio incentrato sulla sicurezza: “Le storie offrono un modo guidato per creare ed esplorare la narrativa, al posto della chat a tempo indeterminato”. I tempi si allineano anche con la crescente popolarità della narrativa interattiva, rendendola una valida alternativa.
Reazioni degli utenti e pressione normativa
La risposta degli adolescenti è mista. Alcuni riconoscono il divieto come un passo necessario per frenare la dipendenza. Un utente sul subreddit di Character AI ha scritto: “Sono così arrabbiato per il divieto ma anche così felice perché ora posso fare altre cose e la mia dipendenza potrebbe finalmente finire”. Altri hanno espresso disappunto, pur riconoscendo la validità della decisione.
Il cambiamento avviene parallelamente alla crescente regolamentazione legale degli accompagnatori di intelligenza artificiale. La California è recentemente diventata il primo stato a regolamentare questi strumenti ed è allo studio un disegno di legge nazionale che vieterebbe del tutto gli accompagnatori di intelligenza artificiale per i minori.
Un perno necessario?
Il perno dell’IA dei personaggi verso le “Storie” è una risposta ai danni tangibili e alla crescente regolamentazione. Anche se il nuovo formato potrebbe non soddisfare pienamente gli utenti abituati all’accesso illimitato ai chatbot, rappresenta un ambiente più controllato e meno rischioso dal punto di vista psicologico. La decisione sottolinea la necessità di una maggiore supervisione nel campo in rapida evoluzione delle interazioni IA.
