Um polêmico aplicativo móvel, Neon, que paga aos usuários para gravar suas ligações para treinamento de IA, anunciou que será relançado apesar de uma recente grande violação de segurança. O fundador Alex Kiam enviou um e-mail aos usuários na terça-feira, garantindo-lhes que os ganhos acumulados seriam honrados – com um bônus adicional pela paciência – quando o serviço fosse retomado.
O modelo controverso do aplicativo: Neon ganhou popularidade ao oferecer incentivos financeiros para gravações de chamadas. Os usuários podem ganhar até US$ 30 por dia para ligações regulares ou 30 centavos por minuto ao ligar para outros usuários do Neon. O modelo de negócios do aplicativo depende da venda de dados de chamadas anonimizadas para empresas de IA ansiosas por amostras de fala do mundo real. Os dados coletados são usados para refinar assistentes de voz, capturando nuances (como tempo, palavras de preenchimento e emoções) que os dados de treinamento sintético muitas vezes deixam passar.
Violação de segurança e desligamento temporário: O aplicativo foi forçado a ficar off-line no final de setembro depois que o TechCrunch revelou uma falha que permitia acesso não autorizado a gravações, transcrições e metadados de chamadas de outros usuários. Kiam confirmou a vulnerabilidade e desativou temporariamente os servidores, prometendo implementar medidas de segurança adicionais. Os usuários ficaram temporariamente impossibilitados de sacar fundos, embora Kiam tenha garantido que os ganhos seriam preservados.
Preocupações legais e éticas: A Neon opera em uma área cinzenta da lei de privacidade. Os termos de serviço do aplicativo concedem amplos direitos para “vender, usar, hospedar, armazenar, transferir” e exibir publicamente gravações. Os especialistas alertam que a legalidade de tais gravações varia significativamente de acordo com a jurisdição. Alguns estados (incluindo Califórnia, Flórida e Maryland) exigem o consentimento de todas as partes em uma chamada, o que significa que os usuários do Neon podem enfrentar repercussões legais por gravações não conformes.
Privacidade de dados e treinamento em IA: mesmo se anonimizado, os especialistas observam que a IA poderia potencialmente reidentificar indivíduos nas gravações de chamadas. O especialista em governança de dados Valence Howden explica que os modelos de IA podem inferir detalhes pessoais, mesmo a partir de dados extraídos. Isto levanta preocupações sobre a conformidade do aplicativo com os regulamentos de privacidade, especialmente em jurisdições com leis de consentimento mais rígidas.
O risco para os usuários: O consultor jurídico David Hoppe alerta que os termos de serviço do Neon não isentam os usuários de responsabilidades. Gravar uma chamada em uma jurisdição que exija o consentimento de duas partes sem informar a outra parte pode levar a acusações criminais ou ações civis. A estrutura de incentivos do aplicativo (pagamento dos usuários pelas gravações) não mitiga o risco legal.
Neon continua disponível para iOS e Android, embora suas classificações tenham diminuído devido a relatos de usuários sobre problemas de saque e acusações de fraude. O relançamento iminente do aplicativo ressalta a tensão entre a monetização de dados e a privacidade, deixando os usuários pesando as recompensas financeiras contra possíveis consequências legais e éticas.
O futuro do Neon permanece incerto, mas uma coisa é certa: o modelo do aplicativo ultrapassa os limites da privacidade e do consentimento, forçando os usuários a navegar por um cenário jurídico complexo e, ao mesmo tempo, expondo-se potencialmente a riscos.
