Meta steigert den Einsatz von künstlicher Intelligenz zur Inhaltsdurchsetzung auf Facebook und Instagram dramatisch und verringert gleichzeitig seine Abhängigkeit von Drittanbietern. Die Änderung wirkt sich darauf aus, wie das Unternehmen mit sensiblen Inhalten wie Terrorismus, Ausbeutung von Kindern, Drogenverkäufen, Betrug und Betrügereien umgeht.
KI übernimmt die Führung bei der Durchsetzung
Der Technologieriese behauptet, dass seine neuen KI-Systeme bereits menschliche Prüfteams bei der Erkennung von Verstößen übertreffen können. Tests zeigen insbesondere, dass diese Algorithmen doppelt so viele Inhalte mit sexueller Werbung für Erwachsene erkennen und gleichzeitig die Fehlerquote menschlicher Fehler um über 60 % reduzieren. Über die Erkennung hinaus erweist sich die KI auch als wirksam bei der Verhinderung von Betrügereien (ungefähr 5.000 täglich) und der Identifizierung von Identitätsdiebstahlversuchen, einschließlich Kontoübernahmen, die durch verdächtige Anmeldeaktivitäten oder Profiländerungen angezeigt werden.
Warum das wichtig ist
Bei diesem Wandel geht es nicht nur um Effizienz. Meta sieht sich zunehmender Kritik an seinen Richtlinien zur Inhaltsmoderation ausgesetzt, einschließlich Klagen wegen angeblicher Schädigung junger Nutzer. Der Wechsel zu KI ermöglicht es Meta, die Durchsetzung zu skalieren, ohne die Personalkosten zu erhöhen, was angesichts der schieren Menge an täglich veröffentlichten Inhalten von entscheidender Bedeutung ist. Es verringert auch das Risiko, dass menschliche Moderatoren störendem Material ausgesetzt werden. Das Unternehmen weist darauf hin, dass menschliche Prüfer weiterhin risikoreiche Entscheidungen (z. B. Einsprüche gegen Kontosperrung) und Meldungen an die Strafverfolgungsbehörden bearbeiten.
Weniger Abhängigkeit vom Outsourcing
Meta beabsichtigt, seine Abhängigkeit von externen Anbietern für Aufgaben der Inhaltsmoderation zu verringern, was auf den Wunsch nach mehr Kontrolle über seine Durchsetzungsprozesse schließen lässt. Das Unternehmen ist davon überzeugt, dass KI besser für sich wiederholende Arbeiten geeignet ist (z. B. die Überprüfung grafischer Inhalte) und sich an die sich entwickelnden Taktiken von Kriminellen anpasst (z. B. illegale Drogenverkäufe).
Neuer KI-Support-Assistent
Neben den Durchsetzungsänderungen hat Meta einen rund um die Uhr verfügbaren KI-Support-Assistenten für Facebook- und Instagram-Nutzer eingeführt, der auf Mobilgeräten und Desktops zugänglich ist. Dies könnte den Bedarf an menschlichem Kundenservice weiter reduzieren.
Fazit: Metas Schritt hin zur KI-gesteuerten Durchsetzung von Inhalten stellt eine bedeutende Weiterentwicklung in der Herangehensweise von Social-Media-Plattformen an die Moderation dar. Während das Ziel eine höhere Genauigkeit und Effizienz ist, bleiben die langfristigen Auswirkungen auf die Benutzererfahrung und mögliche Verzerrungen innerhalb von KI-Systemen abzuwarten.
