Een controversiële mobiele app, Neon, die gebruikers betaalt om hun telefoongesprekken op te nemen voor AI-training, heeft aangekondigd dat deze opnieuw zal worden gelanceerd ondanks een recente grote inbreuk op de beveiliging. Oprichter Alex Kiam heeft gebruikers dinsdag een e-mail gestuurd waarin hij hen verzekerde dat de opgebouwde inkomsten zouden worden gehonoreerd – met een extra bonus voor geduld – wanneer de service wordt hervat.
Het controversiële model van de app: Neon werd populair door financiële prikkels aan te bieden voor gespreksopnamen. Gebruikers kunnen dagelijks tot $ 30 verdienen voor reguliere gesprekken of 30 cent per minuut als ze andere Neon-gebruikers bellen. Het bedrijfsmodel van de app is gebaseerd op de verkoop van geanonimiseerde gespreksgegevens aan AI-bedrijven die graag spraakvoorbeelden uit de echte wereld willen. De verzamelde gegevens worden gebruikt om stemassistenten te verfijnen, waarbij nuances (zoals timing, vulwoorden en emoties) worden vastgelegd die synthetische trainingsgegevens vaak missen.
Beveiligingsinbreuk en tijdelijke afsluiting: De app werd eind september offline gehaald nadat TechCrunch een fout aan het licht bracht die ongeoorloofde toegang tot de gespreksopnamen, transcripties en metagegevens van andere gebruikers mogelijk maakte. Kiam bevestigde de kwetsbaarheid en schakelde de servers tijdelijk uit, waarbij hij beloofde aanvullende beveiligingsmaatregelen te implementeren. Gebruikers konden tijdelijk geen geld opnemen, hoewel Kiam hen verzekerde dat de inkomsten behouden zouden blijven.
Juridische en ethische zorgen: Neon opereert in een grijs gebied van de privacywetgeving. De servicevoorwaarden van de app verlenen hem ruime rechten op het “verkopen, gebruiken, hosten, opslaan, overdragen” en openbaar weergeven van opnamen. Deskundigen waarschuwen dat de wettigheid van dergelijke opnames aanzienlijk verschilt per rechtsgebied. Sommige staten (waaronder Californië, Florida en Maryland) vereisen toestemming van alle partijen tijdens een gesprek, wat betekent dat Neon-gebruikers te maken kunnen krijgen met juridische gevolgen voor opnamen die niet aan de regels voldoen.
Gegevensprivacy en AI-training: Zelfs als het geanonimiseerd is, merken experts op dat AI mogelijk personen opnieuw kan identificeren binnen gespreksopnamen. Data governance-expert Valence Howden legt uit dat AI-modellen persoonlijke details kunnen afleiden, zelfs uit gestripte gegevens. Dit roept zorgen op over de naleving van de privacyregelgeving door de app, vooral in rechtsgebieden met strengere toestemmingswetten.
Het risico voor gebruikers: Juridisch adviseur David Hoppe waarschuwt dat de servicevoorwaarden van Neon gebruikers niet zullen beschermen tegen aansprakelijkheid. Het opnemen van een gesprek in een rechtsgebied waar toestemming van twee partijen vereist is zonder de andere partij hiervan op de hoogte te stellen, kan leiden tot strafrechtelijke vervolging of civiele rechtszaken. De stimuleringsstructuur van de app (gebruikers betalen voor opnames) verkleint het juridische risico niet.
Neon blijft beschikbaar op iOS en Android, hoewel de beoordelingen zijn gedaald vanwege gebruikersrapporten over uitbetalingsproblemen en beschuldigingen van oplichting. De aanstaande herlancering van de app onderstreept de spanning tussen het genereren van data en privacy, waardoor gebruikers financiële beloningen moeten afwegen tegen mogelijke juridische en ethische gevolgen.
De toekomst van Neon blijft onzeker, maar één ding is duidelijk: het model van de app verlegt de grenzen van privacy en toestemming, waardoor gebruikers gedwongen worden door een complex juridisch landschap te navigeren terwijl ze zichzelf mogelijk blootstellen aan risico’s.
