OpenAI telah meluncurkan fitur keamanan opsional untuk ChatGPT yang memungkinkan pengguna dewasa menunjuk “Kontak Tepercaya” —teman, anggota keluarga, atau pengasuh—yang akan diberi tahu jika AI mendeteksi masalah kesehatan mental atau keselamatan yang serius. Inisiatif ini bertujuan untuk menjembatani kesenjangan antara interaksi digital dan dukungan manusia di dunia nyata pada saat-saat kritis.
Cara Kerja Fitur
Sistem Kontak Tepercaya dirancang untuk menjaga privasi sekaligus menyediakan jaring pengaman. Beginilah prosesnya:
- Penyiapan Keikutsertaan: Setiap pengguna ChatGPT dewasa dapat mengaktifkan fitur ini di pengaturan akun mereka dengan mengundang orang dewasa lain (18+ secara global, atau 19+ di Korea Selatan) untuk menjadi kontak mereka.
- Konfirmasi Diperlukan: Kontak yang ditunjuk harus menerima undangan dalam waktu satu minggu agar tautan menjadi aktif. Kedua belah pihak tetap memiliki kemampuan untuk menghapus atau mengedit koneksi kapan saja.
- Kontrol Privasi Ketat: OpenAI menekankan bahwa notifikasi “sengaja dibatasi.” Kontak Tepercaya tidak akan menerima transkrip obrolan, log percakapan mendetail, atau konten spesifik yang dibagikan oleh pengguna.
- Ulasan Human-in-the-Loop: Jika sistem otomatis mendeteksi bahasa yang menyarankan tindakan menyakiti diri sendiri atau bunuh diri, ChatGPT akan mendorong pengguna terlebih dahulu untuk menghubungi Kontak Tepercaya mereka. Sebuah tim kecil yang terdiri dari spesialis terlatih khusus kemudian meninjau konteksnya. Hanya jika mereka menentukan adanya masalah keamanan yang serius, peringatan singkat (melalui email, teks, atau pemberitahuan dalam aplikasi) akan dikirim ke Kontak Tepercaya.
Konteks di Balik Peluncuran
Fitur ini merupakan bagian dari pergeseran industri yang lebih luas menuju integrasi keselamatan AI dengan pengawasan manusia, khususnya sebagai respons terhadap meningkatnya kekhawatiran mengenai risiko kesehatan mental yang terkait dengan pendamping AI.
“Kontak Tepercaya dirancang berdasarkan premis sederhana yang telah divalidasi oleh para ahli: ketika seseorang berada dalam krisis, terhubung dengan seseorang yang mereka kenal dan percayai dapat membuat perbedaan yang berarti,” OpenAI menyatakan dalam pengumumannya.
Peluncuran ini menyusul insiden tragis pada bulan September di mana seorang anak berusia 16 tahun bunuh diri setelah berbulan-bulan curhat di ChatGPT. Sebagai tanggapan, OpenAI memperkenalkan kontrol orang tua di samping opsi kontak darurat. Fitur Kontak Tepercaya yang baru memperluas kerangka keamanan ini untuk pengguna dewasa, menawarkan lapisan dukungan tambahan di samping saluran bantuan lokal yang sudah tersedia dalam chatbot.
Tren Industri yang Lebih Luas
OpenAI tidak sendirian dalam mengatasi tantangan ini. Meta baru-baru ini memperkenalkan mekanisme keamanan serupa di Instagram yang memperingatkan orang tua jika anak mereka “berulang kali” menelusuri topik yang menyakiti diri sendiri. Perkembangan ini menyoroti konsensus yang berkembang di antara raksasa teknologi bahwa platform AI mempunyai tanggung jawab untuk memitigasi dampak buruk, terutama ketika pengguna berada dalam kondisi rentan.
Kesimpulan
Pengenalan fitur Kontak Tepercaya menandai langkah signifikan dalam menyeimbangkan privasi AI dengan keselamatan pengguna. Dengan memungkinkan intervensi yang bijaksana dan berpusat pada manusia tanpa mengorbankan kerahasiaan percakapan, OpenAI bertujuan untuk memastikan bahwa interaksi digital dapat berfungsi sebagai jembatan menuju dukungan dunia nyata, bukan hanya sekedar pengalaman terisolasi.
