OpenAI telah menunda peluncuran “Mode Dewasa” yang direncanakan untuk ChatGPT menyusul peringatan internal tentang potensi bahaya dan perlindungan yang tidak memadai, menurut laporan baru dari Wall Street Journal. Fitur tersebut, yang dirancang untuk memungkinkan pengguna terlibat dalam percakapan seksual eksplisit, ditunda setelah dewan penasihat kesejahteraan OpenAI menyampaikan kekhawatiran dengan suara bulat.
Risikonya Lebih Besar daripada Imbalannya
Psikolog dan ilmuwan kognitif dalam dewan penasihat memperingatkan bahwa fitur ini dapat mendorong ketergantungan emosional yang tidak sehat di antara pengguna—sebuah masalah yang telah diamati pada interaksi ChatGPT standar. Seorang pakar dilaporkan memperingatkan bahwa chatbot bahkan bisa menjadi alat untuk mendorong tindakan menyakiti diri sendiri, dan bertindak sebagai “pelatih bunuh diri yang seksi”. Penilaian yang mengkhawatirkan ini memainkan peran penting dalam keputusan untuk menghentikan sementara pembangunan.
Kegagalan Verifikasi Usia
Yang memperparah kekhawatiran ini adalah sistem verifikasi usia OpenAI yang ditemukan tidak dapat diandalkan. Pengujian awal menunjukkan tingkat kesalahan sebesar 12% dalam mengidentifikasi pengguna di bawah umur dengan benar, yang berarti jutaan anak berpotensi mengakses konten yang tidak pantas tanpa terdeteksi. Kegagalan ini mencerminkan skandal Meta di masa lalu, yang mendapat kritik karena lemahnya kebijakan keselamatan di chatbot AI miliknya. Meta telah memperbarui kebijakannya tetapi masih mengizinkan “permainan peran romantis” antara pengguna dan avatar AI.
Menyeimbangkan Konten Eksplisit dengan Keamanan
OpenAI menyatakan bahwa mereka bermaksud untuk meluncurkan Mode Dewasa pada akhirnya, namun perusahaan tersebut masih bergulat dengan cara mencabut pembatasan konten eksplisit sambil mencegah keluaran yang berbahaya, seperti tindakan non-konsensual atau materi pelecehan seksual terhadap anak-anak. Seorang juru bicara menyatakan bahwa fitur tersebut akan memungkinkan percakapan “tingkat cabul”, tidak termasuk pornografi. Mereka juga membela tingkat kesalahan verifikasi usia sebagai “standar industri” dan mengakui bahwa akurasi yang sangat mudah adalah hal yang mustahil.
Konteks Lebih Besar: Prioritas OpenAI yang Berkembang
Penundaan ini terjadi pada saat OpenAI sedang mengkalibrasi ulang strateginya di tengah perselisihan hukum, pengembangan GPT-5.4, dan peningkatan kontrak pemerintah. Prioritas perusahaan telah bergeser, dan fitur Mode Dewasa tampaknya dikesampingkan demi masalah yang lebih mendesak.
Langkah ini menggarisbawahi meningkatnya pengawasan terhadap keamanan AI dan dilema etika yang dihadapi oleh pengembang saat mereka mendorong batas-batas kemampuan chatbot. Insiden ini menyoroti sulitnya trade-off antara inovasi dan penerapan yang bertanggung jawab, terutama ketika berhadapan dengan konten yang berpotensi membahayakan.
