A OpenAI lançou um recurso de segurança opcional para ChatGPT que permite que usuários adultos designem um “Contato confiável” – um amigo, membro da família ou cuidador – que será notificado se a IA detectar problemas graves de saúde mental ou segurança. Esta iniciativa visa preencher a lacuna entre a interação digital e o apoio humano no mundo real durante momentos críticos.
Como funciona o recurso
O sistema Trusted Contact foi projetado para se preocupar com a privacidade e, ao mesmo tempo, fornecer uma rede de segurança. Veja como o processo se desenrola:
- Configuração de adesão: Qualquer usuário adulto do ChatGPT pode ativar o recurso nas configurações de sua conta, convidando outro adulto (18+ globalmente ou 19+ na Coreia do Sul) para servir como seu contato.
- Confirmação necessária: O contato designado deve aceitar o convite dentro de uma semana para que o link se torne ativo. Ambas as partes têm a capacidade de remover ou editar a conexão a qualquer momento.
- Controles rígidos de privacidade: OpenAI enfatiza que as notificações são “intencionalmente limitadas”. O contato confiável não receberá transcrições de bate-papo, registros detalhados de conversas ou conteúdo específico compartilhado pelo usuário.
- Revisão Human-in-the-Loop: Se sistemas automatizados detectarem linguagem que sugira automutilação ou suicídio, o ChatGPT primeiro incentivará o usuário a entrar em contato com seu contato de confiança. Uma pequena equipe de especialistas especialmente treinados analisa o contexto. Somente se eles determinarem que há sérias preocupações de segurança um breve alerta (por e-mail, texto ou notificação no aplicativo) será enviado ao Contato de Confiança.
O contexto por trás do lançamento
Este recurso faz parte de uma mudança mais ampla da indústria no sentido de integrar a segurança da IA com a supervisão humana, particularmente em resposta às preocupações crescentes sobre os riscos para a saúde mental associados aos companheiros de IA.
“O Trusted Contact foi projetado em torno de uma premissa simples e validada por especialistas: quando alguém pode estar em crise, conectar-se com alguém que conhece e em quem confia pode fazer uma diferença significativa”, afirmou a OpenAI em seu anúncio.
O lançamento segue-se a um trágico incidente em setembro, onde um jovem de 16 anos suicidou-se após meses de confidências no ChatGPT. Em resposta, a OpenAI introduziu controles parentais juntamente com opções de contato de emergência. O novo recurso Contato confiável expande essa estrutura de segurança para usuários adultos, oferecendo uma camada adicional de suporte junto com linhas de apoio localizadas já disponíveis no chatbot.
Uma tendência mais ampla do setor
A OpenAI não está sozinha na abordagem destes desafios. A Meta introduziu recentemente um mecanismo de segurança semelhante no Instagram que alerta os pais se seus filhos “repetidamente” pesquisarem tópicos de automutilação. Estes desenvolvimentos destacam um consenso crescente entre os gigantes da tecnologia de que as plataformas de IA têm a responsabilidade de mitigar os danos, especialmente quando os utilizadores podem estar vulneráveis.
Conclusão
A introdução do recurso Contato confiável marca um passo significativo no equilíbrio entre a privacidade da IA e a segurança do usuário. Ao permitir intervenções discretas e centradas no ser humano, sem comprometer a confidencialidade da conversação, a OpenAI visa garantir que as interações digitais possam servir como uma ponte para o suporte no mundo real, em vez de uma experiência isolada.
