Character AI introduceert ‘Stories’, een interactief fictieformaat, als reactie op de groeiende risico’s voor de geestelijke gezondheid die verband houden met de open chatbotservice. Het bedrijf heeft de toegang tot zijn chatbots volledig geblokkeerd voor gebruikers onder de 18 jaar, een verandering die volgt op rechtszaken waarin een verband wordt beweerd tussen AI-interacties en zelfmoorden.
De opkomst van AI-chatbots en de terugslag
De afgelopen maand heeft Character AI geleidelijk de toegang voor minderjarigen beperkt. Vanaf dinsdag konden minderjarige gebruikers niet langer vrij chatten met AI-personages. Deze stap komt te midden van een toenemend toezicht op 24/7 AI-metgezellen die gesprekken initiëren, wat mogelijk kan leiden tot afhankelijkheid en psychologische schade.
Er zijn verschillende rechtszaken aangespannen tegen bedrijven als OpenAI en Character AI, waarbij de gevaren van ongeremde toegang tot AI worden benadrukt. De juridische druk en de publieke bezorgdheid dwongen een verschuiving naar een meer gestructureerd format.
Wat zijn “verhalen” en waarom nu?
‘Verhalen’ bieden een begeleide verhalende ervaring, waardoor gebruikers met personages kunnen communiceren binnen vooraf gedefinieerde scenario’s. Dit verschilt sterk van de chatbots, die open, ongevraagde interacties mogelijk maken.
Character AI omschreef dit als een benadering waarbij veiligheid voorop staat: “Verhalen bieden een begeleide manier om fictie te creëren en te verkennen, in plaats van een open chat.” De timing sluit ook aan bij de stijgende populariteit van interactieve fictie, waardoor het een haalbaar alternatief wordt.
Gebruikersreacties en regeldruk
De reacties van tieners zijn gemengd. Sommigen erkennen het verbod als een noodzakelijke stap om verslaving te beteugelen. Eén gebruiker op de Character AI-subreddit schreef: “Ik ben zo boos over het verbod, maar ook zo blij omdat ik nu andere dingen kan doen en mijn verslaving misschien eindelijk voorbij is.” Anderen uitten hun teleurstelling, maar erkenden nog steeds de geldigheid van het besluit.
De verandering vindt plaats naast de toenemende wettelijke regulering van AI-metgezellen. Californië werd onlangs de eerste staat die deze hulpmiddelen reguleerde, en er wordt een nationaal wetsvoorstel overwogen dat AI-metgezellen voor minderjarigen geheel zou verbieden.
Een noodzakelijke draai?
De spil van Character AI naar ‘Stories’ is een reactie op tastbare schade en toenemende regelgeving. Hoewel het nieuwe formaat gebruikers die gewend zijn aan onbeperkte toegang tot chatbots misschien niet volledig tevreden stelt, vertegenwoordigt het een meer gecontroleerde en psychologisch minder risicovolle omgeving. Het besluit onderstreept de noodzaak van meer toezicht op het snel evoluerende veld van AI-interacties.
