Суперечливий мобільний додаток Neon, який платить користувачам за запис їхніх телефонних розмов для навчання штучного інтелекту, оголосив про свій перезапуск, незважаючи на недавній серйозний витік даних. Засновник Алекс Кіам надіслав електронного листа користувачам у вівторок, запевнивши їх, що накопичені прибутки будуть виплачені – з додатковим бонусом за терпіння – після відновлення служби.
Суперечлива модель застосування: Neon набув популярності завдяки фінансовим стимулам для запису дзвінків. Користувачі могли заробляти до 30 доларів на день за звичайні дзвінки або 30 центів за хвилину, коли телефонували іншим користувачам Neon. Бізнес-модель програми базується на продажу анонімних даних про дзвінки компаніям зі штучним інтелектом, яким потрібні зразки реального мовлення. Зібрані дані використовуються для покращення голосових помічників шляхом фіксації нюансів (таких як час, слова-заповнювачі та емоції), які часто пропускаються під час використання синтетичних даних для навчання.
Витік даних і тимчасове завершення роботи: Додаток був змушений припинити роботу наприкінці вересня після того, як TechCrunch виявив уразливість, яка дозволяла несанкціонований доступ до записів дзвінків, стенограм і метаданих інших користувачів. Кіам підтвердив уразливість і тимчасово вимкнув сервери, пообіцявши вжити додаткових заходів безпеки. Користувачі тимчасово не змогли вивести кошти, хоча Кіам запевнив їх, що їхні доходи будуть збережені.
Юридичні та етичні проблеми: Neon працює в сірій зоні законів про конфіденційність. Умови використання програми надають їй широкі права «продавати, використовувати, розміщувати, зберігати, передавати» та публічно демонструвати записи. Експерти попереджають, що законність таких записів сильно відрізняється залежно від юрисдикції. Деякі штати (зокрема, Каліфорнія, Флорида та Меріленд) вимагають згоди всіх сторін під час розмови, тобто користувачі Neon можуть зазнати юридичних наслідків за недотримання.
Навчання конфіденційності даних і ШІ. Експерти відзначають, що навіть за умови анонімізації ШІ потенційно може повторно ідентифікувати людей у записах дзвінків. Експерт з управління даними Валенс Хоуден пояснює, що моделі штучного інтелекту можуть отримувати особисту інформацію навіть із анонімних даних. Це викликає занепокоєння щодо відповідності програми конфіденційності, особливо в юрисдикціях із суворішими законами про згоду.
Ризик для користувачів: Юрист Девід Хоппе попереджає, що умови обслуговування Neon не захищають користувачів від відповідальності. Запис розмови в юрисдикції, де потрібна згода обох сторін без повідомлення іншої сторони, може призвести до кримінальних або цивільних позовів. Структура заохочень програми (оплата користувачам за публікації) не зменшує юридичний ризик.
Neon все ще доступний на iOS і Android, хоча його рейтинги впали через повідомлення користувачів про проблеми з виведенням коштів і звинуваченнями в шахрайстві. Майбутній перезапуск програми підкреслює суперечність між монетизацією даних і конфіденційністю, змушуючи користувачів зважувати фінансові винагороди з потенційними правовими та етичними наслідками.
Майбутнє Neon залишається невизначеним, але ясно одне: модель програми розширює межі конфіденційності та згоди, змушуючи користувачів орієнтуватися в складному правовому ландшафті, піддаючи себе ризику.
