A OpenAI adiou o lançamento de seu planejado “Modo Adulto” para ChatGPT após avisos internos sobre danos potenciais e salvaguardas inadequadas, de acordo com um novo relatório do Wall Street Journal. O recurso, projetado para permitir que os usuários se envolvam em conversas sexualmente explícitas, foi suspenso depois que o conselho consultivo de bem-estar da OpenAI levantou preocupações unânimes.
Os riscos superaram as recompensas
Psicólogos e cientistas cognitivos do conselho consultivo alertaram que o recurso poderia promover uma dependência emocional prejudicial entre os usuários – um problema já observado nas interações padrão do ChatGPT. Um especialista teria alertado que o chatbot poderia até se tornar uma ferramenta para encorajar a automutilação, agindo como um “treinador sexy de suicídio”. Esta avaliação alarmante desempenhou um papel fundamental na decisão de interromper o desenvolvimento.
Falhas na verificação de idade
Para agravar estas preocupações, os sistemas de verificação de idade da OpenAI não foram considerados confiáveis. Os testes iniciais mostraram uma taxa de erro de 12% na identificação correta de usuários menores, o que significa que milhões de crianças poderiam acessar conteúdo impróprio sem serem detectadas. Esta falha reflecte escândalos passados na Meta, que enfrentou críticas por políticas de segurança frouxas nos seus próprios chatbots de IA. Desde então, a Meta atualizou suas políticas, mas ainda permite “interpretações românticas” entre usuários e avatares de IA.
Equilibrando conteúdo explícito com segurança
A OpenAI afirma que pretende lançar o Modo Adulto eventualmente, mas a empresa ainda está lutando para suspender as restrições de conteúdo explícito e, ao mesmo tempo, evitar resultados prejudiciais, como atos não consensuais ou material de abuso sexual infantil. Um porta-voz afirmou que o recurso permitiria conversas de “nível obsceno”, ficando aquém da pornografia pura e simples. Eles também defenderam a taxa de erro na verificação de idade como “padrão da indústria” e reconheceram que uma precisão infalível é impossível.
Contexto mais amplo: prioridades em evolução da OpenAI
O atraso ocorre num momento em que a OpenAI está recalibrando sua estratégia em meio a batalhas legais, ao desenvolvimento do GPT-5.4 e ao aumento dos contratos governamentais. As prioridades da empresa mudaram e o recurso Modo Adulto parece ter sido deixado de lado em favor de preocupações mais urgentes.
Esta medida sublinha o crescente escrutínio da segurança da IA e os dilemas éticos enfrentados pelos desenvolvedores à medida que ultrapassam os limites das capacidades do chatbot. O incidente destaca os difíceis compromissos entre inovação e implantação responsável, especialmente quando se trata de conteúdos potencialmente nocivos.
