Sebuah aplikasi seluler kontroversial, Neon, yang membayar pengguna untuk merekam panggilan telepon mereka untuk pelatihan AI, telah mengumumkan akan diluncurkan kembali meskipun ada pelanggaran keamanan besar baru-baru ini. Pendirinya, Alex Kiam, mengirim email kepada pengguna pada hari Selasa, meyakinkan mereka bahwa pendapatan yang diperoleh akan tetap diterima—dengan bonus tambahan atas kesabaran—saat layanan dilanjutkan.
Model Kontroversial Aplikasi: Neon mendapatkan popularitas dengan menawarkan insentif finansial untuk rekaman panggilan. Pengguna dapat memperoleh hingga $30 setiap hari untuk panggilan reguler atau 30 sen per menit saat menelepon pengguna Neon lainnya. Model bisnis aplikasi ini bergantung pada penjualan data panggilan anonim ke perusahaan AI yang menginginkan sampel ucapan di dunia nyata. Data yang dikumpulkan digunakan untuk menyempurnakan asisten suara, menangkap nuansa (seperti waktu, kata-kata pengisi, dan emosi) yang sering terlewatkan oleh data pelatihan sintetis.
Pelanggaran Keamanan dan Penutupan Sementara: Aplikasi ini terpaksa offline pada akhir September setelah TechCrunch mengungkapkan kelemahan yang memungkinkan akses tidak sah ke rekaman panggilan, transkrip, dan metadata pengguna lain. Kiam mengkonfirmasi kerentanan tersebut dan menonaktifkan sementara server, berjanji untuk menerapkan langkah-langkah keamanan tambahan. Pengguna untuk sementara tidak dapat menarik dana, meskipun Kiam meyakinkan mereka bahwa pendapatan akan dipertahankan.
Masalah Hukum dan Etika: Neon beroperasi di wilayah abu-abu hukum privasi. Persyaratan layanan aplikasi memberikan hak luas untuk “menjual, menggunakan, menghosting, menyimpan, mentransfer,” dan menampilkan rekaman secara publik. Para ahli memperingatkan bahwa legalitas rekaman tersebut sangat bervariasi berdasarkan yurisdiksi. Beberapa negara bagian (termasuk California, Florida, dan Maryland) memerlukan izin dari semua pihak dalam melakukan panggilan, yang berarti pengguna Neon dapat menghadapi dampak hukum atas rekaman yang tidak patuh.
Privasi Data dan Pelatihan AI: Sekalipun dianonimkan, para ahli mencatat bahwa AI berpotensi mengidentifikasi ulang individu dalam rekaman panggilan. Pakar tata kelola data Valence Howden menjelaskan bahwa model AI dapat menyimpulkan detail pribadi, bahkan dari data yang diambil. Hal ini menimbulkan kekhawatiran mengenai kepatuhan aplikasi terhadap peraturan privasi, khususnya di yurisdiksi dengan undang-undang izin yang lebih ketat.
Risiko bagi Pengguna: Penasihat hukum David Hoppe memperingatkan bahwa persyaratan layanan Neon tidak akan melindungi pengguna dari tanggung jawab. Merekam panggilan di yurisdiksi yang memerlukan persetujuan dua pihak tanpa memberi tahu pihak lain dapat mengakibatkan tuntutan pidana atau tuntutan perdata. Struktur insentif aplikasi (membayar pengguna untuk rekaman) tidak memitigasi risiko hukum.
Neon tetap tersedia di iOS dan Android, meskipun peringkatnya menurun karena laporan pengguna tentang masalah pembayaran tunai dan tuduhan penipuan. Peluncuran kembali aplikasi ini menggarisbawahi ketegangan antara monetisasi data dan privasi, sehingga pengguna harus mempertimbangkan imbalan finansial dibandingkan potensi konsekuensi hukum dan etika.
Masa depan Neon masih belum pasti, namun satu hal yang jelas: model aplikasi ini mendorong batas-batas privasi dan persetujuan, memaksa pengguna untuk menavigasi lanskap hukum yang kompleks sekaligus berpotensi mengekspos diri mereka pada risiko.
