Meta breidt het gebruik van kunstmatige intelligentie voor het afdwingen van inhoud op Facebook en Instagram dramatisch uit, terwijl het tegelijkertijd de afhankelijkheid van externe leveranciers verkleint. De verandering heeft invloed op de manier waarop het bedrijf omgaat met gevoelige inhoud, zoals terrorisme, uitbuiting van kinderen, de verkoop van medicijnen, fraude en oplichting.
AI neemt het voortouw bij de handhaving
De technologiegigant beweert dat zijn nieuwe AI-systemen nu al beter kunnen presteren dan menselijke beoordelingsteams bij het opsporen van overtredingen. Tests tonen met name aan dat deze algoritmen tweemaal zoveel inhoud voor seksuele verzoeken voor volwassenen identificeren, terwijl de menselijke foutenpercentages met meer dan 60% worden verminderd. Naast detectie blijkt de AI ook effectief in het voorkomen van oplichting (ongeveer 5.000 per dag) en het identificeren van pogingen tot nabootsing van identiteit, inclusief accountovernames die worden aangegeven door verdachte inlogactiviteiten of profielwijzigingen.
Waarom dit belangrijk is
Deze verschuiving gaat niet alleen over efficiëntie. Meta heeft te maken gekregen met toenemende kritiek op haar inhoudsmoderatiebeleid, waaronder rechtszaken waarin wordt beweerd dat jonge gebruikers schade hebben geleden. Door de overstap naar AI kan Meta de handhaving opschalen zonder de personeelskosten te verhogen, wat cruciaal is gezien de enorme hoeveelheid inhoud die dagelijks wordt gepost. Het verkleint ook het risico dat menselijke moderators worden blootgesteld aan verontrustend materiaal. Het bedrijf merkt op dat menselijke beoordelaars nog steeds beslissingen met een hoog risico zullen afhandelen (zoals beroepen tegen het uitschakelen van accounts) en rapporteren aan de wetshandhavingsinstanties.
Minder afhankelijkheid van outsourcing
Meta is van plan haar afhankelijkheid van externe leveranciers voor inhoudsmoderatietaken te verminderen, wat duidt op een verlangen naar meer controle over haar handhavingsprocessen. Het bedrijf is van mening dat AI beter geschikt is voor repetitief werk (zoals het beoordelen van grafische inhoud) en voor aanpassing aan zich ontwikkelende tactieken die door slechte actoren worden gebruikt (zoals de verkoop van illegale drugs).
Nieuwe AI-ondersteuningsassistent
Naast de handhavingswijzigingen lanceerde Meta een 24/7 AI-ondersteuningsassistent voor Facebook- en Instagram-gebruikers, toegankelijk op mobiel en desktop. Dit zou de behoefte aan menselijke klantenservice verder kunnen verminderen.
Conclusie: De beweging van Meta richting AI-gestuurde handhaving van inhoud vertegenwoordigt een significante evolutie in de manier waarop sociale-mediaplatforms moderatie benaderen. Hoewel het doel een grotere nauwkeurigheid en efficiëntie is, valt de langetermijnimpact op de gebruikerservaring en mogelijke vooroordelen binnen AI-systemen nog te bezien.
