Kontroverzní mobilní aplikace Neon, která platí uživatelům za nahrávání jejich telefonických rozhovorů za účelem trénování umělé inteligence, oznámila své opětovné spuštění navzdory nedávnému velkému úniku dat. Zakladatel Alex Kiam v úterý zaslal uživatelům e-mail a ujistil je, že nashromážděné příjmy budou vyplaceny – s bonusem za trpělivost – jakmile bude služba obnovena.
Kontroverzní aplikační model: Neon získal popularitu díky finančním pobídkám pro nahrávání hovorů. Uživatelé si mohli vydělat až 30 $ za den za běžné hovory nebo 30 centů za minutu při volání ostatním uživatelům Neonu. Obchodní model aplikace je založen na prodeji anonymizovaných dat o hovorech společnostem s umělou inteligencí, které potřebují skutečné vzorky řeči. Shromážděná data se používají ke zlepšení hlasových asistentů zachycováním nuancí (jako je načasování, výplňová slova a emoce), které často chybí při používání syntetických dat pro trénink.
Únik dat a dočasné vypnutí: Aplikace byla nucena vypnout na konci září poté, co TechCrunch objevil zranitelnost, která umožňovala neoprávněný přístup k záznamům hovorů, přepisům a metadatům jiných uživatelů. Kiam potvrdil zranitelnost a dočasně odstavil servery a slíbil, že zavede další bezpečnostní opatření. Uživatelé dočasně nemohli vybírat prostředky, i když je Kiam ujistil, že jejich výdělky budou uloženy.
Právní a etické otázky: Neon působí v šedé zóně zákonů na ochranu soukromí. Smluvní podmínky aplikace jí dávají široká práva „prodávat, používat, hostovat, ukládat, převádět“ a veřejně zobrazovat nahrávky. Odborníci upozorňují, že zákonnost takových nahrávek se značně liší podle jurisdikce. Některé státy (včetně Kalifornie, Floridy a Marylandu) vyžadují během hovoru souhlas všech stran, což znamená, že uživatelé Neonu mohou čelit právním důsledkům za nedodržení podmínek.
Ochrana osobních údajů a školení AI: I po anonymizaci odborníci poznamenávají, že AI může potenciálně znovu identifikovat lidi v nahrávkách hovorů. Expert na správu dat Valence Howden vysvětluje, že modely umělé inteligence mohou odvodit osobní informace i z anonymizovaných dat. To vyvolává obavy ohledně souladu aplikace s ochranou osobních údajů, zejména v jurisdikcích s přísnějšími zákony o souhlasu.
Riziko pro uživatele: Právník David Hoppe varuje, že podmínky služby Neon nechrání uživatele před odpovědností. Nahrávání hovoru v jurisdikci, která vyžaduje souhlas obou stran bez upozornění druhé strany, může mít za následek trestní obvinění nebo občanskoprávní nároky. Motivační struktura aplikace (platí uživatelům za příspěvky) nesnižuje právní riziko.
Neon je stále dostupný pro iOS a Android, i když jeho hodnocení kleslo kvůli uživatelským zprávám o problémech s výběrem a obviněním z podvodu. Blížící se opětovné spuštění aplikace zdůrazňuje napětí mezi zpeněžením dat a soukromím a nutí uživatele zvažovat finanční odměny s potenciálními právními a etickými důsledky.
Budoucnost Neonu zůstává nejistá, ale jedna věc je jasná: model aplikace posouvá hranice soukromí a souhlasu a nutí uživatele procházet složitým právním prostředím a zároveň se vystavovat riziku.
