Meta sta aumentando notevolmente l’uso dell’intelligenza artificiale per l’applicazione dei contenuti su Facebook e Instagram, diminuendo contemporaneamente la sua dipendenza da fornitori di terze parti. Il cambiamento influisce sul modo in cui l’azienda gestisce contenuti sensibili come terrorismo, sfruttamento minorile, vendita di droga, frode e truffe.
L’intelligenza artificiale assume un ruolo guida nell’applicazione delle norme
Il colosso della tecnologia afferma che i suoi nuovi sistemi di intelligenza artificiale possono già superare i team di revisione umani nel rilevamento delle violazioni. Nello specifico, i test mostrano che questi algoritmi identificano il doppio dei contenuti di adescamento sessuale per adulti, riducendo al contempo i tassi di errore umano di oltre il 60%. Oltre al rilevamento, l’intelligenza artificiale si sta dimostrando efficace anche nel prevenire le truffe (circa 5.000 al giorno) e nell’identificare i tentativi di impersonificazione, compresi i furti di account indicati da attività di accesso sospette o modifiche del profilo.
Perché è importante
Questo cambiamento non riguarda solo l’efficienza. Meta ha dovuto affrontare crescenti critiche per le sue politiche di moderazione dei contenuti, comprese azioni legali per presunti danni ai giovani utenti. Il passaggio all’intelligenza artificiale consente a Meta di ampliare l’applicazione senza aumentare i costi del personale, il che è fondamentale dato l’enorme volume di contenuti pubblicati quotidianamente. Riduce inoltre il rischio che i moderatori umani siano esposti a materiale disturbante. L’azienda rileva che i revisori umani continueranno a gestire le decisioni ad alto rischio (come i ricorsi sulla disattivazione dell’account) e le segnalazioni alle forze dell’ordine.
Meno dipendenza dall’outsourcing
Meta intende ridurre la propria dipendenza da fornitori esterni per le attività di moderazione dei contenuti, suggerendo il desiderio di un maggiore controllo sui propri processi di applicazione. L’azienda ritiene che l’intelligenza artificiale sia più adatta per lavori ripetitivi (come la revisione di contenuti grafici) e per adattarsi alle tattiche in evoluzione utilizzate da soggetti malintenzionati (come la vendita di farmaci illeciti).
Nuovo assistente di supporto AI
Oltre alle modifiche applicative, Meta ha lanciato un assistente di supporto AI 24 ore su 24, 7 giorni su 7 per gli utenti di Facebook e Instagram, accessibile su dispositivi mobili e desktop. Ciò potrebbe ridurre ulteriormente la necessità di un servizio clienti umano.
Conclusione: il passaggio di Meta verso l’applicazione dei contenuti basata sull’intelligenza artificiale rappresenta un’evoluzione significativa nel modo in cui le piattaforme di social media si avvicinano alla moderazione. Sebbene l’obiettivo sia una maggiore precisione ed efficienza, resta da vedere l’impatto a lungo termine sull’esperienza dell’utente e i potenziali pregiudizi all’interno dei sistemi di intelligenza artificiale.
