Character AI está lanzando “Stories”, un formato de ficción interactivo, en respuesta a los crecientes riesgos para la salud mental vinculados a su servicio de chatbot abierto. La compañía ha bloqueado completamente el acceso a sus chatbots para usuarios menores de 18 años, un cambio que se produce tras demandas que alegan una conexión entre las interacciones de IA y los suicidios.
El auge de los chatbots de IA y la reacción violenta
Durante el último mes, Character AI ha restringido gradualmente el acceso a menores. El martes, los usuarios menores de edad ya no podían participar en chats libres con personajes de IA. Esta medida se produce en medio de un escrutinio cada vez mayor de los compañeros de IA que inician conversaciones las 24 horas del día, los 7 días de la semana, lo que podría generar dependencia y daño psicológico.
Se han presentado varias demandas contra empresas como OpenAI y Character AI, destacando los peligros del acceso ilimitado a la IA. La presión legal y la preocupación pública obligaron a cambiar hacia un formato más estructurado.
¿Qué son las “historias” y por qué ahora?
Las “Historias” ofrecen una experiencia narrativa guiada, que permite a los usuarios interactuar con personajes dentro de escenarios predefinidos. Esto difiere marcadamente de los chatbots, que permiten interacciones abiertas y no solicitadas.
Character AI enmarcó esto como un enfoque que prioriza la seguridad: “Las historias ofrecen una forma guiada de crear y explorar ficción, en lugar de un chat abierto”. El momento también coincide con la creciente popularidad de la ficción interactiva, lo que la convierte en una alternativa viable.
Reacciones de los usuarios y presión regulatoria
La respuesta de los adolescentes es mixta. Algunos reconocen que la prohibición es un paso necesario para frenar la adicción. Un usuario del subreddit Character AI escribió: “Estoy muy enojado por la prohibición, pero también muy feliz porque ahora puedo hacer otras cosas y mi adicción podría haber terminado finalmente”. Otros expresaron su decepción, aunque reconocieron la validez de la decisión.
El cambio se produce junto con una mayor regulación legal de los acompañantes de IA. California se convirtió recientemente en el primer estado en regular estas herramientas, y se está considerando un proyecto de ley nacional que prohibiría por completo los acompañantes de IA para los menores.
¿Un pivote necesario?
El giro de Character AI hacia las “Historias” es una respuesta al daño tangible y a la creciente regulación. Si bien es posible que el nuevo formato no satisfaga completamente a los usuarios acostumbrados al acceso sin restricciones al chatbot, representa un entorno más controlado y menos riesgoso psicológicamente. La decisión subraya la necesidad de una mayor supervisión en el campo en rápida evolución de las interacciones de la IA.
