Meta znacznie zwiększa wykorzystanie sztucznej inteligencji w celu egzekwowania zasad dotyczących treści na Facebooku i Instagramie, jednocześnie zmniejszając zależność od zewnętrznych wykonawców. Ta zmiana wpływa na sposób, w jaki firma radzi sobie z treściami wrażliwymi, takimi jak terroryzm, wykorzystywanie dzieci, sprzedaż narkotyków, oszustwa i oszustwa.
Sztuczna inteligencja przejmuje główne zadanie polegające na egzekwowaniu prawa
Gigant technologiczny twierdzi, że jego nowe systemy AI już przewyższają zespoły zajmujące się ręcznymi przeglądami w wykrywaniu nieprawidłowości. W szczególności testy pokazują, że algorytmy te identyfikują dwa razy więcej treści o charakterze jednoznacznie seksualnym przeznaczonych dla dorosłych, redukując jednocześnie błędy ludzkie o ponad 60%. Oprócz wykrywania sztuczna inteligencja okazała się również skuteczna w zapobieganiu oszustwom (około 5000 przypadków dziennie) i wykrywaniu prób podszywania się pod tożsamość, w tym włamań na konta, na co wskazuje podejrzana aktywność logowania lub zmiany profilu.
Dlaczego to jest ważne
Ta zmiana nie dotyczy tylko wydajności. Meta spotyka się z rosnącą krytyką dotyczącą zasad moderowania treści, w tym z procesami sądowymi zarzucającymi, że szkodzą one młodym użytkownikom. Przejście na sztuczną inteligencję pozwala firmie Meta skalować zgodność bez zwiększania kosztów personelu, co ma kluczowe znaczenie, biorąc pod uwagę ogromną ilość treści publikowanych codziennie. Zmniejsza to również ryzyko narażenia moderatorów treści na szokujący materiał. Firma zauważa, że ludzie nadal będą rozważać decyzje obarczone wysokim ryzykiem (takie jak odwołania dotyczące dezaktywacji konta) i udostępniać informacje organom ścigania.
Mniejsza zależność od outsourcingu
Meta zamierza zmniejszyć swoją zależność od zewnętrznych dostawców usług moderowania treści, sygnalizując dążenie do większej kontroli nad procesami egzekwowania zasad. Firma uważa, że sztuczna inteligencja lepiej nadaje się do powtarzalnych prac (takich jak przeglądanie treści graficznych) i dostosowywania się do zmieniających się taktyk stosowanych przez atakujących (takich jak nielegalna sprzedaż narkotyków).
Nowy asystent AI do obsługi użytkowników
Wraz ze zmianami w egzekwowaniu prawa Meta uruchomiła całodobowego asystenta AI wspierającego użytkowników Facebooka i Instagrama, dostępnego na urządzeniach mobilnych i komputerach stacjonarnych. Może to jeszcze bardziej zmniejszyć potrzebę obsługi klientów przez człowieka.
Wniosek: przejście Meta na egzekwowanie treści oparte na sztucznej inteligencji stanowi znaczącą ewolucję w podejściu platform mediów społecznościowych do moderacji. Chociaż celem jest poprawa dokładności i wydajności, nie wiadomo jeszcze, jaki będzie długoterminowy wpływ na doświadczenie użytkownika i potencjalne błędy w systemach AI.
