Meta výrazně zvyšuje využívání umělé inteligence k prosazování pravidel obsahu na Facebooku a Instagramu a zároveň snižuje závislost na dodavatelích třetích stran. Tato změna ovlivňuje způsob, jakým společnost nakládá s citlivým obsahem, jako je terorismus, zneužívání dětí, prodej drog, podvody a podvodná schémata.
AI přebírá hlavní úkol prosazování
Technologický gigant tvrdí, že jeho nové systémy umělé inteligence již překonávají týmy manuální kontroly v odhalování nesrovnalostí. Testy konkrétně ukazují, že tyto algoritmy identifikují dvakrát více sexuálně explicitního obsahu určeného pro dospělé a zároveň omezují lidské chyby o více než 60 %. Kromě detekce se umělá inteligence osvědčila také při prevenci podvodů (asi 5 000 případů za den) a odhalování pokusů o předstírání identity, včetně hacknutí účtů indikovaných podezřelou aktivitou přihlášení nebo změnami profilu.
Proč je to důležité
Tento posun není jen o efektivitě. Meta čelí rostoucí kritice kvůli svým zásadám moderování obsahu, včetně soudních sporů, které tvrdí, že poškozují mladé uživatele. Přechod na umělou inteligenci umožňuje Meta škálovat dodržování bez zvýšení nákladů na zaměstnance, což je kritické vzhledem k obrovskému objemu denně publikovaného obsahu. To také snižuje riziko vystavení moderátorů obsahu šokujícím materiálům. Společnost poznamenává, že lidé budou stále zvažovat vysoce riziková rozhodnutí (jako jsou odvolání proti deaktivaci účtu) a sdílet informace s orgány činnými v trestním řízení.
Menší závislost na outsourcingu
Meta je nastavena tak, že sníží svou závislost na externích poskytovatelích služeb moderování obsahu, což signalizuje tlak na větší kontrolu nad procesy prosazování pravidel. Společnost se domnívá, že umělá inteligence je vhodnější pro opakovanou práci (jako je prohlížení grafického obsahu) a přizpůsobení se měnící se taktice útočníků (jako je nelegální prodej drog).
Nový asistent AI pro uživatelskou podporu
Spolu se změnami v prosazování spustila Meta 24/7 AI asistenta pro podporu uživatelů Facebooku a Instagramu, dostupného na mobilu a počítači. To může dále snížit potřebu lidské obsluhy zákazníkům.
Závěr: Přechod společnosti Meta na prosazování obsahu založeného na umělé inteligenci představuje významný vývoj v tom, jak platformy sociálních médií přistupují k moderování. Zatímco cílem je zlepšit přesnost a efektivitu, dlouhodobý dopad na uživatelskou zkušenost a potenciální předsudky v systémech AI se teprve uvidí.
