Une application mobile controversée, Neon, qui rémunère les utilisateurs pour qu’ils enregistrent leurs appels téléphoniques pour une formation en IA, a annoncé qu’elle serait relancée malgré une récente faille de sécurité majeure. Le fondateur Alex Kiam a envoyé un e-mail aux utilisateurs mardi, les assurant que les revenus accumulés seraient honorés – avec un bonus supplémentaire pour la patience – lorsque le service reprendrait.
Le modèle controversé de l’application : Neon a gagné en popularité en offrant des incitations financières pour les enregistrements d’appels. Les utilisateurs peuvent gagner jusqu’à 30 $ par jour pour les appels réguliers ou 30 cents par minute lorsqu’ils appellent d’autres utilisateurs de Neon. Le modèle économique de l’application repose sur la vente de données d’appels anonymisées à des sociétés d’IA avides d’échantillons vocaux réels. Les données collectées sont utilisées pour affiner les assistants vocaux, en capturant les nuances (telles que le timing, les mots de remplissage et les émotions) que les données d’entraînement synthétiques manquent souvent.
Violation de sécurité et arrêt temporaire : L’application a été mise hors ligne fin septembre après que TechCrunch a révélé une faille permettant un accès non autorisé aux enregistrements d’appels, aux transcriptions et aux métadonnées d’autres utilisateurs. Kiam a confirmé la vulnérabilité et désactivé temporairement les serveurs, promettant de mettre en œuvre des mesures de sécurité supplémentaires. Les utilisateurs ont été temporairement incapables de retirer des fonds, même si Kiam leur a assuré que leurs gains seraient préservés.
Préoccupations juridiques et éthiques : Neon opère dans une zone grise du droit de la vie privée. Les conditions d’utilisation de l’application lui accordent des droits étendus pour « vendre, utiliser, héberger, stocker, transférer » et afficher publiquement les enregistrements. Les experts préviennent que la légalité de ces enregistrements varie considérablement selon les juridictions. Certains États (dont la Californie, la Floride et le Maryland) exigent le consentement de toutes les parties lors d’un appel, ce qui signifie que les utilisateurs de Neon pourraient faire face à des répercussions juridiques en cas d’enregistrements non conformes.
Confidentialité des données et formation sur l’IA : Même si elle est anonymisée, les experts notent que l’IA pourrait potentiellement réidentifier les individus dans les enregistrements d’appels. L’expert en gouvernance des données Valence Howden explique que les modèles d’IA peuvent déduire des détails personnels, même à partir de données supprimées. Cela soulève des inquiétudes quant à la conformité de l’application aux réglementations en matière de confidentialité, en particulier dans les juridictions dotées de lois sur le consentement plus strictes.
Le risque pour les utilisateurs : Le conseiller juridique David Hoppe prévient que les conditions d’utilisation de Neon ne protégeront pas les utilisateurs de toute responsabilité. L’enregistrement d’un appel dans une juridiction exigeant le consentement des deux parties sans en informer l’autre partie pourrait entraîner des accusations criminelles ou des poursuites civiles. La structure d’incitation de l’application (paiement des utilisateurs pour les enregistrements) n’atténue pas le risque juridique.
Neon reste disponible sur iOS et Android, bien que ses notes aient diminué en raison des rapports d’utilisateurs faisant état de problèmes de retrait d’argent et d’accusations d’escroquerie. La relance imminente de l’application souligne la tension entre la monétisation des données et la confidentialité, obligeant les utilisateurs à peser les récompenses financières par rapport aux conséquences juridiques et éthiques potentielles.
L’avenir de Neon reste incertain, mais une chose est claire : le modèle de l’application repousse les limites de la vie privée et du consentement, obligeant les utilisateurs à naviguer dans un paysage juridique complexe tout en s’exposant potentiellement à des risques.
