Meta secara dramatis meningkatkan penggunaan kecerdasan buatan untuk penegakan konten di Facebook dan Instagram, sekaligus mengurangi ketergantungannya pada vendor pihak ketiga. Perubahan ini memengaruhi cara perusahaan menangani konten sensitif seperti terorisme, eksploitasi anak, penjualan narkoba, penipuan, dan penipuan.
AI Memimpin Penegakan Hukum
Raksasa teknologi ini mengklaim bahwa sistem AI barunya sudah mampu mengungguli tim peninjau manusia dalam mendeteksi pelanggaran. Secara khusus, pengujian menunjukkan algoritme ini mengidentifikasi dua kali lebih banyak konten ajakan seksual dewasa, sekaligus mengurangi tingkat kesalahan manusia hingga lebih dari 60%. Selain terdeteksi, AI juga terbukti efektif dalam mencegah penipuan (sekitar 5.000 setiap hari) dan mengidentifikasi upaya peniruan identitas, termasuk pengambilalihan akun yang diindikasikan oleh aktivitas masuk yang mencurigakan atau perubahan profil.
Mengapa Ini Penting
Pergeseran ini bukan hanya soal efisiensi. Meta telah menghadapi kritik yang semakin besar atas kebijakan moderasi kontennya, termasuk tuntutan hukum yang menuduh pengguna muda dirugikan. Peralihan ke AI memungkinkan Meta untuk meningkatkan penegakan hukum tanpa meningkatkan biaya personel, yang merupakan hal yang penting mengingat banyaknya volume konten yang diposting setiap hari. Hal ini juga mengurangi risiko moderator manusia terpapar materi yang mengganggu. Perusahaan mencatat bahwa peninjau manusia masih akan menangani keputusan berisiko tinggi (seperti pengajuan banding atas penonaktifan akun) dan laporan kepada penegak hukum.
Kurangnya Ketergantungan pada Pengalihdayaan
Meta bermaksud untuk mengurangi ketergantungannya pada vendor eksternal untuk tugas moderasi konten, yang menunjukkan keinginan untuk memiliki kontrol yang lebih besar atas proses penegakan hukumnya. Perusahaan percaya bahwa AI lebih cocok untuk pekerjaan yang berulang (seperti meninjau konten grafis) dan beradaptasi dengan taktik yang terus berkembang yang digunakan oleh pelaku kejahatan (seperti penjualan obat-obatan terlarang).
Asisten Dukungan AI baru
Bersamaan dengan perubahan penegakan hukum, Meta meluncurkan asisten dukungan AI 24/7 untuk pengguna Facebook dan Instagram, yang dapat diakses di perangkat seluler dan desktop. Hal ini selanjutnya dapat mengurangi kebutuhan akan layanan pelanggan manusia.
Kesimpulan: Pergerakan Meta menuju penegakan konten berbasis AI mewakili evolusi signifikan dalam cara platform media sosial melakukan pendekatan moderasi. Meskipun tujuannya adalah meningkatkan akurasi dan efisiensi, dampak jangka panjang terhadap pengalaman pengguna dan potensi bias dalam sistem AI masih harus dilihat.
