Kontroversi baru muncul dalam upaya mengidentifikasi konten yang dihasilkan AI. Seorang pengembang perangkat lunak mengklaim telah merekayasa balik SynthID, sistem penandaan air canggih Google DeepMind yang dirancang untuk menandai media yang dihasilkan AI. Meskipun pengembang telah merilis temuan mereka secara terbuka, Google menyatakan bahwa sistemnya tetap kuat dan efektif.
Terobosan: Bagaimana “Aloshdenny” Memecahkan Kode
Pengembang yang menggunakan nama samaran Aloshdenny telah mendokumentasikan metode di GitHub dan Medium untuk mengidentifikasi dan memanipulasi tanda air Google yang tidak terlihat. Tidak seperti eksploitasi tingkat tinggi lainnya, pendekatan ini tidak memerlukan daya komputasi yang besar atau akses ke kode kepemilikan Google. Sebaliknya, ia mengandalkan pemrosesan sinyal yang cerdas dan kumpulan data besar gambar yang dihasilkan Gemini.
Menurut pengembang, prosesnya meliputi:
– Menganalisis Gambar “Kosong”: Dengan menghasilkan ratusan gambar “hitam murni” atau “putih murni” melalui Gemini, pengembang menemukan bahwa tanda air masih ada dalam data piksel.
– Ekstraksi Sinyal: Dengan meningkatkan kontras dan menghilangkan noise pada gambar ini, pola tanda air menjadi terlihat sebagai sinyal matematika.
– Pemetaan Frekuensi: Pengembang menghitung rata-rata pola ini untuk mengidentifikasi “besar dan fase” spesifik tanda air di berbagai frekuensi.
– Interferensi: Setelah sinyal dipahami, pengembang dapat mencari frekuensi spesifik tersebut di gambar lain untuk mengganggu sebagian frekuensi tersebut.
Apa itu SynthID dan Mengapa Itu Penting?
Untuk memahami taruhannya, seseorang harus memahami teknologinya. SynthID adalah alat watermarking yang “hampir tidak terlihat”. Daripada menambahkan logo yang terlihat, ia menyematkan tanda tangan digital langsung ke dalam piksel gambar pada saat pembuatan.
Teknologi ini sangat penting karena beberapa alasan:
– Memerangi Deepfakes: Memberikan cara untuk membedakan antara fotografi asli dan gambar yang dihasilkan AI.
– Asal Konten: Membantu platform seperti YouTube melacak klon pembuat konten yang dihasilkan AI dan media sintetis lainnya.
– Akuntabilitas: Memungkinkan pengembang untuk mempertahankan jejak digital dari apa yang dihasilkan model mereka.
Tujuan dari sistem seperti ini jarang sekali menciptakan perisai yang “tidak bisa dipecahkan”, melainkan untuk meningkatkan “biaya penyalahgunaan”. Jika menghapus tanda air memerlukan pengetahuan matematika tingkat lanjut dan upaya yang signifikan, sebagian besar pengguna biasa akan enggan untuk mencoba melewatinya.
Putusan: Cacat dalam Sistem atau Kemenangan Teknik?
Hasil eksperimen ini berbeda-beda. Aloshdenny mengaku belum bisa “menghapus” watermark tersebut seluruhnya. Sebaliknya, metode ini berhasil membingungkan decoder —alat yang digunakan untuk membaca tanda air—menyebabkan mereka gagal atau menyerah saat memindai gambar.
Google dengan cepat menolak klaim tersebut. Dalam sebuah pernyataan kepada The Verge, juru bicara Myriam Khan menegaskan:
“Tidak benar jika dikatakan bahwa alat ini dapat menghapus tanda air SynthID secara sistematis. SynthID adalah alat tanda air yang kuat dan efektif untuk konten yang dihasilkan AI.”
Konteks yang Lebih Luas
Perkembangan ini menyoroti “perlombaan senjata” yang sedang berlangsung antara pengembang AI dan pihak-pihak yang berupaya melewati batasan keselamatan. Ketika model AI menjadi lebih mampu menghasilkan konten yang sangat realistis, metode yang digunakan untuk memberi label pada konten tersebut harus terus berkembang.
Meskipun metode Aloshdenny belum menjadi alat “sekali klik” untuk masyarakat umum, metode ini menunjukkan bahwa tanda air yang tertanam secara matematis dan tidak terlihat pun rentan terhadap analisis sinyal khusus.
Kesimpulan
Meskipun Google bersikeras bahwa SynthID-nya tetap aman, kemampuan untuk mengganggu mekanisme pendeteksiannya membuktikan bahwa tidak ada tanda air digital yang benar-benar tidak terkalahkan. Insiden ini menggarisbawahi sulitnya mempertahankan sumber yang permanen dan dapat diandalkan di era media sintetik yang berkembang pesat.
