Una controversa app mobile, Neon, che paga gli utenti per registrare le loro telefonate per la formazione sull’intelligenza artificiale, ha annunciato che verrà rilanciata nonostante una recente grave violazione della sicurezza. Il fondatore Alex Kiam ha inviato un’e-mail agli utenti martedì, assicurando loro che i guadagni maturati sarebbero stati onorati, con un ulteriore bonus per la pazienza, quando il servizio riprenderà.
Il modello controverso dell’app: Neon ha guadagnato popolarità offrendo incentivi finanziari per le registrazioni delle chiamate. Gli utenti potrebbero guadagnare fino a $ 30 al giorno per le chiamate regolari o 30 centesimi al minuto quando chiamano altri utenti Neon. Il modello di business dell’app si basa sulla vendita di dati di chiamate anonime ad aziende di intelligenza artificiale desiderose di campioni vocali del mondo reale. I dati raccolti vengono utilizzati per perfezionare gli assistenti vocali, catturando sfumature (come tempistica, parole di riempimento ed emozioni) che spesso i dati sintetici di addestramento non riescono a cogliere.
Violazione della sicurezza e arresto temporaneo: l’app è stata forzata offline alla fine di settembre dopo che TechCrunch ha rivelato un difetto che consentiva l’accesso non autorizzato alle registrazioni delle chiamate, alle trascrizioni e ai metadati di altri utenti. Kiam ha confermato la vulnerabilità e ha disabilitato temporaneamente i server, promettendo di implementare ulteriori misure di sicurezza. Gli utenti non sono stati temporaneamente in grado di prelevare fondi, anche se Kiam ha assicurato loro che i guadagni sarebbero stati preservati.
Preoccupazioni legali ed etiche: Neon opera in un’area grigia della legge sulla privacy. I termini di servizio dell’app le garantiscono ampi diritti di “vendere, utilizzare, ospitare, archiviare, trasferire” e visualizzare pubblicamente le registrazioni. Gli esperti avvertono che la legalità di tali registrazioni varia in modo significativo a seconda della giurisdizione. Alcuni stati (tra cui California, Florida e Maryland) richiedono il consenso di tutte le parti coinvolte in una chiamata, il che significa che gli utenti Neon potrebbero dover affrontare ripercussioni legali per registrazioni non conformi.
Privacy dei dati e formazione sull’intelligenza artificiale: anche se resa anonima, gli esperti sottolineano che l’intelligenza artificiale potrebbe potenzialmente identificare nuovamente gli individui all’interno delle registrazioni delle chiamate. L’esperto di governance dei dati Valence Howden spiega che i modelli di intelligenza artificiale possono dedurre dettagli personali, anche da dati estratti. Ciò solleva preoccupazioni sulla conformità dell’app alle normative sulla privacy, in particolare nelle giurisdizioni con leggi sul consenso più severe.
Il rischio per gli utenti: Il consulente legale David Hoppe avverte che i termini di servizio di Neon non proteggeranno gli utenti dalla responsabilità. Registrare una chiamata in una giurisdizione che richiede il consenso di due parti senza informare l’altra parte potrebbe portare ad accuse penali o cause civili. La struttura di incentivi dell’app (pagare gli utenti per le registrazioni) non mitiga il rischio legale.
Neon rimane disponibile su iOS e Android, anche se le sue valutazioni sono diminuite a causa delle segnalazioni degli utenti di problemi di incasso e accuse di truffa. L’imminente rilancio dell’app sottolinea la tensione tra monetizzazione dei dati e privacy, lasciando agli utenti il compito di valutare le ricompense finanziarie rispetto alle potenziali conseguenze legali ed etiche.
Il futuro di Neon rimane incerto, ma una cosa è chiara: il modello dell’app spinge i confini della privacy e del consenso, costringendo gli utenti a navigare in un panorama legale complesso esponendosi potenzialmente a rischi.
