Meta augmente considérablement son utilisation de l’intelligence artificielle pour l’application du contenu sur Facebook et Instagram, tout en réduisant simultanément sa dépendance à l’égard de fournisseurs tiers. Le changement affecte la façon dont l’entreprise gère les contenus sensibles tels que le terrorisme, l’exploitation des enfants, la vente de drogue, la fraude et les escroqueries.
L’IA prend les devants en matière d’application
Le géant de la technologie affirme que ses nouveaux systèmes d’IA peuvent déjà surpasser les équipes d’examen humain en matière de détection des violations. Plus précisément, des tests montrent que ces algorithmes identifient deux fois plus de contenu de sollicitation sexuelle pour adultes, tout en réduisant les taux d’erreur humaine de plus de 60 %. Au-delà de la détection, l’IA s’avère également efficace pour prévenir les escroqueries (environ 5 000 par jour) et identifier les tentatives d’usurpation d’identité, y compris les piratages de compte indiqués par une activité de connexion suspecte ou des changements de profil.
Pourquoi c’est important
Ce changement n’est pas seulement une question d’efficacité. Meta a fait face à des critiques croissantes concernant ses politiques de modération de contenu, notamment des poursuites judiciaires alléguant un préjudice causé aux jeunes utilisateurs. Le passage à l’IA permet à Meta d’étendre l’application sans augmenter les coûts de personnel, ce qui est crucial compte tenu du volume considérable de contenu publié quotidiennement. Cela réduit également le risque que les modérateurs humains soient exposés à du matériel dérangeant. La société note que les évaluateurs humains traiteront toujours les décisions à haut risque (telles que les appels pour désactivation de compte) et les rapports aux forces de l’ordre.
Moins de recours à l’externalisation
Meta a l’intention de réduire sa dépendance à l’égard de fournisseurs externes pour les tâches de modération de contenu, ce qui suggère un désir d’exercer un plus grand contrôle sur ses processus d’application. L’entreprise estime que l’IA est mieux adaptée au travail répétitif (comme la révision de contenu graphique) et à l’adaptation aux tactiques évolutives utilisées par les mauvais acteurs (comme la vente de drogues illicites).
Nouvel assistant de support IA
Parallèlement aux changements d’application, Meta a lancé un assistant d’assistance IA 24h/24 et 7j/7 pour les utilisateurs de Facebook et d’Instagram, accessible sur mobile et ordinateur de bureau. Cela pourrait réduire encore davantage le besoin d’un service client humain.
Conclusion : L’évolution de Meta vers une application du contenu basée sur l’IA représente une évolution significative dans la façon dont les plateformes de médias sociaux abordent la modération. Bien que l’objectif soit d’accroître la précision et l’efficacité, l’impact à long terme sur l’expérience utilisateur et les biais potentiels au sein des systèmes d’IA restent à voir.
