Industri AI sedang ramai saat ini. Kebanyakan tentang keselamatan. Kebanyakan tentang kontrol. Secara khusus, ada desas-desus mengenai apakah raksasa teknologi Amerika ingin pemerintah AS melarang model open-weight dari Tiongkok atau model open-weight secara umum.
Dario Amodei, pendiri dan CEO Anthropic, akhirnya mengatakan apa yang jelas bagi siapa pun yang membaca postingan blognya.
Dia tidak menginginkan larangan. Dia hanya tidak menyukai ke mana arah teknologi selanjutnya.
“Siapa pun yang telah membaca tulisan saya sebelumnya harus melihat bahwa saya tidak menganggap larangan tersebut [pada beban terbuka] sebagai tindakan yang berguna… Anthropic tidak pernah menganjurkan larangan tersebut.”
Klarifikasi ini datang pada Senin sore. Itu adalah tanggapan langsung terhadap surat terbuka yang diposting di X (sebelumnya Twitter) oleh Jensen Huang. Huang, pendiri Nvidia, membagikan surat itu untuk pertama kalinya.
Surat itu ditandatangani oleh banyak perusahaan: Hugging Face, Meta, Microsoft. Mistral. Nvidia sendiri. Mereka menentang “pembatasan prematur” pada model bobot terbuka.
Subteksnya tidak kentara. Industri ini mengkhawatirkan laboratorium Tiongkok. Mereka pikir laboratorium-laboratorium itu mengejar ketertinggalan dengan cepat. Atau mencuri.
Distilasi adalah salah satu metode. Satu AI mengebom AI lainnya dengan perintah. Ia mempelajari cara kerja yang pertama. AS bahkan mengancam akan memberikan sanksi atas pencurian kekayaan intelektual yang melibatkan model AS.
Namun Amodei melihat dunia secara berbeda.
Ketakutan spesifik di balik dorongan keselamatan Anthropic
Amodei menggambar garis keras di pasir. Model berbobot terbuka tanpa kemampuan berbahaya adalah barang publik. Harganya murah. Pengembang menggunakannya. Bisnis menggunakannya. Bagian itu baik-baik saja.
Masalahnya bukan pada kodenya. Itu tujuannya.
Dia khawatir mengenai pemerintahan otoriter yang akan membangun model yang lebih kuat dari apa pun yang bisa dibuat oleh AS. Superioritas militer permanen. Atau kendali penuh atas rakyatnya sendiri.
Dia menyebutkan nama-nama. Partai Komunis Tiongkok bukanlah satu-satunya. Itu hanya yang “paling mampu”.
Dia juga mengemukakan skenario yang lebih gelap. Serangan biologis.
Dalam pandangannya, model berbobot terbuka membuat hal ini lebih mudah. Anda tidak dapat memasang pagar pembatas pada sesuatu yang sudah ada di luar sana. Anda tidak dapat memantaunya. Laporan Institut Keamanan AI Inggris menegaskan hal ini: setelah bobot terbuka dirilis, Anda tidak dapat menariknya kembali.
Para pendukung open source berpendapat sebaliknya. Mereka mengatakan akses membantu para pembela HAM. Mereka mengatakan Anda perlu mengetahui alat musuh untuk melawan mereka. Amodei tidak yakin.
Apa yang sebenarnya diinginkan Anthropic dilakukan
Amodei tidak hanya mengeluh. Dia membuat daftar tindakan. Yang asli.
Pertama, tetap batasi akses ke chip yang kuat. AS telah melakukan hal ini selama beberapa waktu. Itu masuk akal.
Kedua, menindak penyulingan. Tindakan keras formal. Hentikan penyedotan kekayaan intelektual.
Namun ide besarnya adalah pengujian global.
Amodei mendukung organisasi pengujian keamanan model. Dia menginginkannya secara global. Termasuk Tiongkok. Walaupun itu terdengar mustahil.
Dia mengutip langkah terbaru pemerintahan Trump ke arah ini. Dia juga menyebutkan proposal industri yang menerapkan pengujian pada model yang paling mampu. Terbuka atau tertutup. Tidak ada pengecualian.
Model yang kurang mumpuni? Startup? Akademisi? Hal-hal tersebut dikecualikan sepenuhnya.
“Saya pikir gagasan ini sebenarnya mendekati… konsensus… kerja sama terbatas dalam mencegah senjata biologis AI mungkin merupakan kepentingan Tiongkok.”
Itu kalimat yang aneh. “Kerja sama terbatas” dengan PKC dalam bidang senjata biologis. Tapi menurutnya itu mungkin. Mengapa? Karena rezim otoriter pun ingin bertahan. Dan model berbobot terbuka membuat mereka lebih sulit bertahan hidup jika semua orang memiliki perisai yang lebih baik.
Nuansa yang dirindukan kebanyakan orang
Narasinya saat ini sederhana. Lembah Silikon vs. Tiongkok. Kontrol perusahaan vs. akses terbuka.
Posisi Amodei lebih berantakan.
Dia bukan anti-openweight. Dia memiliki kemampuan berbahaya yang anti-tidak terkendali.
Jika modelnya bodoh, biarkan saja terbang. Biarkan semua orang menggunakannya. Biarkan pengembang mengembangkannya. Itu adalah barang publik.
Namun jika model tersebut cukup pintar untuk membantu merancang patogen baru atau mengatasi manuver pertahanan militer, maka peraturannya akan berubah. Maka Anda memerlukan standar global. Anda membutuhkan semua orang untuk ikut serta.
Apakah dia percaya Tiongkok akan bersikap adil? Tidak. Tapi dia lebih percaya pada kepentingan pribadi mereka.
Mereka tidak ingin populasi mereka dirusak oleh AI jahat. Mereka tidak ingin jaringan listrik mereka diambil alih oleh negara saingannya.
Jadi, mungkin mereka akan mengikuti pengujian. Mungkin mereka akan melakukannya.
Ini adalah harapan yang rapuh. Tapi itu lebih baik daripada melarang semuanya dan berharap yang terbaik.
Perdebatan berlanjut. Modelnya menjadi lebih besar. Pertanyaannya semakin sulit. Dan batas antara kepentingan publik dan bahaya publik semakin kabur.
