Character AI meluncurkan “Stories,” sebuah format fiksi interaktif, sebagai respons terhadap meningkatnya risiko kesehatan mental terkait dengan layanan chatbot terbuka. Perusahaan telah sepenuhnya memblokir akses ke chatbotsnya untuk pengguna di bawah 18 tahun, sebuah perubahan yang terjadi setelah tuntutan hukum yang menuduh adanya hubungan antara interaksi AI dan bunuh diri.
Bangkitnya AI Chatbots dan Serangan Baliknya
Selama sebulan terakhir, Character AI secara bertahap membatasi akses untuk anak di bawah umur. Pada hari Selasa, pengguna di bawah umur tidak dapat lagi terlibat dalam obrolan bentuk bebas dengan karakter AI. Langkah ini dilakukan di tengah meningkatnya pengawasan terhadap mitra AI 24/7 yang memulai percakapan, yang berpotensi menyebabkan ketergantungan dan kerugian psikologis.
Beberapa tuntutan hukum telah diajukan terhadap perusahaan seperti OpenAI dan Character AI, yang menyoroti bahaya dari akses AI yang tidak terkendali. Tekanan hukum dan kekhawatiran masyarakat memaksa peralihan ke format yang lebih terstruktur.
Apa Itu “Cerita” dan Mengapa Sekarang?
“Cerita” menawarkan pengalaman naratif terpandu, memungkinkan pengguna berinteraksi dengan karakter dalam skenario yang telah ditentukan sebelumnya. Hal ini sangat berbeda dengan chatbots, yang mengizinkan interaksi terbuka dan tidak diminta.
Character AI membingkai hal ini sebagai pendekatan yang mengutamakan keselamatan: “Cerita menawarkan cara terpandu untuk membuat dan mengeksplorasi fiksi, sebagai pengganti obrolan terbuka.” Waktunya juga sejalan dengan meningkatnya popularitas fiksi interaktif, menjadikannya alternatif yang layak.
Reaksi Pengguna dan Tekanan Peraturan
Tanggapan dari para remaja beragam. Beberapa orang mengakui larangan tersebut sebagai langkah penting untuk mengekang kecanduan. Salah satu pengguna di subreddit Character AI menulis, “Saya sangat marah dengan larangan tersebut tetapi juga sangat senang karena sekarang saya dapat melakukan hal lain dan kecanduan saya mungkin akhirnya akan berakhir.” Yang lain menyatakan kekecewaannya, namun tetap mengakui keabsahan keputusan tersebut.
Perubahan ini terjadi bersamaan dengan meningkatnya peraturan hukum mengenai pendamping AI. California baru-baru ini menjadi negara bagian pertama yang mengatur alat-alat ini, dan undang-undang nasional sedang dipertimbangkan yang akan melarang penggunaan pendamping AI untuk anak di bawah umur.
Pivot yang Diperlukan?
Peralihan karakter AI ke “Stories” adalah respons terhadap kerugian nyata dan regulasi yang terus berkembang. Meskipun format baru ini mungkin tidak sepenuhnya memuaskan pengguna yang terbiasa dengan akses chatbot tidak terbatas, format ini mewakili lingkungan yang lebih terkontrol dan tidak terlalu berisiko secara psikologis. Keputusan ini menggarisbawahi perlunya pengawasan yang lebih besar dalam bidang interaksi AI yang berkembang pesat.
