A Meta está aumentando drasticamente o uso de inteligência artificial para aplicação de conteúdo no Facebook e Instagram, ao mesmo tempo que diminui sua dependência de fornecedores terceirizados. A mudança afeta a forma como a empresa lida com conteúdos confidenciais, como terrorismo, exploração infantil, venda de drogas, fraudes e golpes.
AI assume a liderança na aplicação
A gigante da tecnologia afirma que seus novos sistemas de IA já podem superar as equipes de revisão humana na detecção de violações. Especificamente, os testes mostram que esses algoritmos identificam duas vezes mais conteúdo de solicitação sexual adulta, ao mesmo tempo que reduzem as taxas de erro humano em mais de 60%. Além da detecção, a IA também está se mostrando eficaz na prevenção de fraudes (cerca de 5.000 por dia) e na identificação de tentativas de falsificação de identidade, incluindo invasões de contas indicadas por atividades de login suspeitas ou alterações de perfil.
Por que isso é importante
Essa mudança não se trata apenas de eficiência. A Meta tem enfrentado críticas crescentes sobre suas políticas de moderação de conteúdo, incluindo ações judiciais alegando danos a usuários jovens. A mudança para IA permite que a Meta dimensione a fiscalização sem aumentar os custos de pessoal, o que é crucial dado o grande volume de conteúdo postado diariamente. Também reduz o risco de moderadores humanos serem expostos a material perturbador. A empresa observa que os revisores humanos ainda lidarão com decisões de alto risco (como recursos de desativação de contas) e relatórios às autoridades.
Menos dependência da terceirização
A Meta pretende reduzir a sua dependência de fornecedores externos para tarefas de moderação de conteúdo, sugerindo um desejo de maior controle sobre seus processos de aplicação. A empresa acredita que a IA é mais adequada para trabalhos repetitivos (como revisão de conteúdo gráfico) e para adaptação às táticas em evolução usadas por malfeitores (como vendas de drogas ilícitas).
Novo assistente de suporte de IA
Juntamente com as mudanças de aplicação, a Meta lançou um assistente de suporte de IA 24 horas por dia, 7 dias por semana para usuários do Facebook e Instagram, acessível em dispositivos móveis e desktops. Isso poderia reduzir ainda mais a necessidade de atendimento humano ao cliente.
Conclusão: A mudança da Meta em direção à aplicação de conteúdo orientada por IA representa uma evolução significativa na forma como as plataformas de mídia social abordam a moderação. Embora o objetivo seja aumentar a precisão e a eficiência, o impacto a longo prazo na experiência do utilizador e os potenciais preconceitos nos sistemas de IA ainda não foram observados.
