Eine umstrittene mobile App, Neon, die Benutzer dafür bezahlt, ihre Telefongespräche für das KI-Training aufzuzeichnen, hat angekündigt, dass sie trotz einer kürzlich aufgetretenen großen Sicherheitsverletzung neu gestartet wird. Gründer Alex Kiam schickte den Nutzern am Dienstag eine E-Mail und versicherte ihnen, dass die aufgelaufenen Einnahmen – mit einem zusätzlichen Bonus für Geduld – honoriert würden, wenn der Dienst wieder aufgenommen wird.
Das umstrittene Modell der App: Neon erlangte Popularität, indem es finanzielle Anreize für Anrufaufzeichnungen bot. Benutzer können bis zu 30 US-Dollar täglich für regelmäßige Anrufe oder 30 Cent pro Minute verdienen, wenn sie andere Neon-Benutzer anrufen. Das Geschäftsmodell der App basiert auf dem Verkauf anonymisierter Anrufdaten an KI-Unternehmen, die auf der Suche nach Sprachproben aus der realen Welt sind. Die gesammelten Daten werden verwendet, um Sprachassistenten zu verfeinern und Nuancen (wie Timing, Füllwörter und Emotionen) zu erfassen, die synthetischen Trainingsdaten häufig entgehen.
Sicherheitsverletzung und vorübergehende Abschaltung: Die App wurde Ende September offline geschaltet, nachdem TechCrunch einen Fehler aufgedeckt hatte, der unbefugten Zugriff auf die Anrufaufzeichnungen, Transkripte und Metadaten anderer Benutzer ermöglichte. Kiam bestätigte die Sicherheitslücke, schaltete die Server vorübergehend ab und versprach, zusätzliche Sicherheitsmaßnahmen zu implementieren. Benutzer konnten vorübergehend kein Geld abheben, Kiam versicherte ihnen jedoch, dass die Einnahmen erhalten bleiben würden.
Rechtliche und ethische Bedenken: Neon bewegt sich in einer Grauzone des Datenschutzrechts. Die Nutzungsbedingungen der App gewähren ihr umfassende Rechte zum „Verkaufen, Verwenden, Hosten, Speichern, Übertragen“ und zum öffentlichen Anzeigen von Aufzeichnungen. Experten warnen, dass die Rechtmäßigkeit solcher Aufnahmen je nach Gerichtsbarkeit erheblich schwankt. Einige Bundesstaaten (einschließlich Kalifornien, Florida und Maryland) erfordern die Zustimmung aller Teilnehmer eines Anrufs, was bedeutet, dass Neon-Benutzer rechtliche Konsequenzen für nicht konforme Aufzeichnungen haben könnten.
Datenschutz und KI-Schulung: Auch wenn die Daten anonymisiert sind, weisen Experten darauf hin, dass KI möglicherweise Personen in Anrufaufzeichnungen erneut identifizieren könnte. Der Data-Governance-Experte Valence Howden erklärt, dass KI-Modelle selbst aus bereinigten Daten Rückschlüsse auf persönliche Daten ziehen können. Dies wirft Bedenken hinsichtlich der Einhaltung der Datenschutzbestimmungen durch die App auf, insbesondere in Gerichtsbarkeiten mit strengeren Einwilligungsgesetzen.
Das Risiko für Benutzer: Rechtsberater David Hoppe warnt davor, dass die Nutzungsbedingungen von Neon Benutzer nicht vor Haftung schützen. Das Aufzeichnen eines Anrufs in einem Rechtsgebiet, das die Zustimmung beider Parteien erfordert, ohne die andere Partei zu informieren, kann zu strafrechtlichen Anklagen oder Zivilklagen führen. Die Anreizstruktur der App (Benutzer für Aufnahmen zu bezahlen) mindert das rechtliche Risiko nicht.
Neon bleibt weiterhin für iOS und Android verfügbar, allerdings sind seine Bewertungen aufgrund von Nutzerberichten über Auszahlungsprobleme und Betrugsvorwürfe gesunken. Der bevorstehende Relaunch der App unterstreicht die Spannung zwischen Datenmonetarisierung und Datenschutz und überlässt es den Nutzern, finanzielle Vorteile gegen mögliche rechtliche und ethische Konsequenzen abzuwägen.
Die Zukunft von Neon bleibt ungewiss, aber eines ist klar: Das Modell der App verschiebt die Grenzen von Datenschutz und Einwilligung und zwingt Benutzer dazu, sich in einer komplexen Rechtslandschaft zurechtzufinden, während sie sich möglicherweise Risiken aussetzen.
