OpenAI ha retrasado el lanzamiento de su planeado “Modo Adulto” para ChatGPT luego de advertencias internas sobre posibles daños y salvaguardias inadecuadas, según un nuevo informe del Wall Street Journal. La función, diseñada para permitir a los usuarios entablar conversaciones sexualmente explícitas, quedó en suspenso después de que el consejo asesor de bienestar de OpenAI expresara preocupaciones unánimes.
Los riesgos superaron las recompensas
Los psicólogos y científicos cognitivos del consejo asesor advirtieron que la función podría fomentar una dependencia emocional poco saludable entre los usuarios, un problema ya observado con las interacciones estándar de ChatGPT. Según se informa, un experto advirtió que el chatbot podría incluso convertirse en una herramienta para fomentar la autolesión, actuando como un “entrenador sexy para el suicidio”. Esta alarmante evaluación jugó un papel clave en la decisión de detener el desarrollo.
Fallos en la verificación de edad
Para agravar estas preocupaciones, se descubrió que los sistemas de verificación de edad de OpenAI no eran confiables. Las pruebas iniciales mostraron una tasa de error del 12% en la identificación correcta de usuarios menores, lo que significa que millones de niños podrían acceder a contenido inapropiado sin ser detectados. Este fracaso refleja escándalos pasados en Meta, que enfrentó críticas por políticas de seguridad laxas en sus propios chatbots de IA. Desde entonces, Meta ha actualizado sus políticas, pero aún permite “juegos de roles románticos” entre usuarios y avatares de IA.
Equilibrando el contenido explícito con la seguridad
OpenAI sostiene que tiene la intención de lanzar el Modo Adulto eventualmente, pero la compañía aún está lidiando con cómo levantar las restricciones de contenido explícito y al mismo tiempo prevenir resultados dañinos, como actos no consentidos o material de abuso sexual infantil. Un portavoz afirmó que la función permitiría conversaciones de “nivel obsceno”, sin llegar a ser pura pornografía. También defendieron la tasa de error en la verificación de la edad como “estándar de la industria” y reconocieron que una precisión infalible es imposible.
Contexto más amplio: las prioridades en evolución de OpenAI
El retraso se produce en un momento en que OpenAI está recalibrando su estrategia en medio de batallas legales, el desarrollo de GPT-5.4 y mayores contratos gubernamentales. Las prioridades de la compañía han cambiado y la función Modo Adulto parece haber sido dejada de lado en favor de preocupaciones más urgentes.
Esta medida subraya el creciente escrutinio de la seguridad de la IA y los dilemas éticos que enfrentan los desarrolladores cuando traspasan los límites de las capacidades de los chatbots. El incidente resalta las difíciles compensaciones entre innovación y implementación responsable, especialmente cuando se trata de contenido potencialmente dañino.
