Upaya tanpa henti untuk menciptakan kecerdasan umum buatan (AGI) – AI yang menyaingi atau melampaui kemampuan kognitif manusia – kini menghadapi sorotan yang semakin besar dari para peneliti terkemuka, pembuat kebijakan, dan tokoh masyarakat. Lebih dari 700 tokoh terkemuka telah menandatangani pernyataan yang menyerukan penghentian sementara pengembangan superintelligence AI sampai langkah-langkah keamanan yang dapat diverifikasi dan konsensus masyarakat luas tercapai.
Meningkatnya Alarm Terkait Pertumbuhan AI yang Tidak Terkendali
Kekhawatiran utamanya bukanlah pada potensi manfaat AI; ini tentang kecepatan dan kurangnya pengawasan dalam perkembangannya. Kemajuan pesat menuju AGI menimbulkan risiko mulai dari gangguan ekonomi dan erosi kebebasan individu hingga ancaman eksistensial. Hal ini tidak bersifat hipotetis. Bahkan beberapa pionir dalam penelitian AI, seperti Yoshua Bengio dan Geoffrey Hinton (dijuluki sebagai “bapak baptis AI”), kini menyatakan keberatan yang serius.
Pernyataan yang diterbitkan pada hari Kamis ini menyoroti bahayanya menciptakan sistem AI yang dapat melampaui kecerdasan manusia tanpa perlindungan yang memadai. Elon Musk, seorang kritikus vokal terhadap pengembangan AI yang tidak terkendali, sebelumnya telah memperingatkan bahwa bidang ini “memanggil setan.” Dia dan para pemimpin teknologi lainnya mengeluarkan seruan serupa untuk jeda pada tahun 2023.
Opini Publik Mencerminkan Skeptisisme yang Mendalam
Perdebatan ini tidak terbatas pada kalangan teknologi saja. Jajak pendapat nasional baru-baru ini yang dilakukan oleh Future of Life Institute mengungkapkan bahwa hanya 5% masyarakat Amerika mendukung jalur menuju superintelligence yang ada saat ini, cepat, dan tidak diatur. Sebagian besar – 64% – percaya bahwa pembangunan harus dihentikan sampai keamanan dan pengendalian terbukti terbukti, sementara 73% mendukung peraturan yang lebih ketat terhadap sistem AI yang canggih.
Apa Selanjutnya?
Pernyataan tersebut masih terbuka untuk ditandatangani (saat ini berjumlah lebih dari 27.700), yang menunjukkan adanya gerakan yang menuntut kehati-hatian. Pertanyaannya sekarang adalah apakah pengembang akan mengindahkan peringatan ini atau terus melakukan percepatan menuju masa depan di mana potensi risiko AI mungkin lebih besar daripada manfaatnya. Perdebatan ini bukan hanya mengenai teknologi; ini tentang masa depan agensi manusia dan keamanan.
