Meta está aumentando drásticamente su uso de inteligencia artificial para controlar el contenido en Facebook e Instagram, al mismo tiempo que disminuye su dependencia de proveedores externos. El cambio afecta la forma en que la empresa maneja contenido sensible como terrorismo, explotación infantil, venta de drogas, fraude y estafas.
La IA toma la iniciativa en la aplicación de la ley
El gigante tecnológico afirma que sus nuevos sistemas de inteligencia artificial ya pueden superar a los equipos de revisión humanos en la detección de infracciones. Específicamente, las pruebas muestran que estos algoritmos identifican el doble de contenido de solicitación sexual para adultos, al tiempo que reducen las tasas de error humano en más del 60%. Más allá de la detección, la IA también está demostrando ser eficaz para prevenir estafas (aproximadamente 5.000 por día) e identificar intentos de suplantación de identidad, incluidas las apropiaciones de cuentas indicadas por actividades de inicio de sesión sospechosas o cambios de perfil.
Por qué esto es importante
Este cambio no se trata sólo de eficiencia. Meta ha enfrentado crecientes críticas por sus políticas de moderación de contenido, incluidas demandas que alegan daño a los usuarios jóvenes. El cambio a la IA permite a Meta escalar la aplicación de la ley sin aumentar los costos de personal, lo cual es crucial dado el gran volumen de contenido que se publica diariamente. También reduce el riesgo de que los moderadores humanos queden expuestos a material perturbador. La compañía señala que los revisores humanos seguirán manejando decisiones de alto riesgo (como apelaciones de inhabilitación de cuentas) e informes a las autoridades.
Menos dependencia de la subcontratación
Meta tiene la intención de reducir su dependencia de proveedores externos para las tareas de moderación de contenido, lo que sugiere un deseo de un mayor control sobre sus procesos de cumplimiento. La compañía cree que la IA es más adecuada para trabajos repetitivos (como revisar contenido gráfico) y adaptarse a las tácticas en evolución utilizadas por malos actores (como la venta de drogas ilícitas).
Nuevo asistente de soporte de IA
Además de los cambios de aplicación, Meta lanzó un asistente de soporte de IA 24 horas al día, 7 días a la semana para usuarios de Facebook e Instagram, accesible desde dispositivos móviles y de escritorio. Esto podría reducir aún más la necesidad de un servicio humano al cliente.
Conclusión: El movimiento de Meta hacia la aplicación de contenido impulsado por IA representa una evolución significativa en la forma en que las plataformas de redes sociales abordan la moderación. Si bien el objetivo es aumentar la precisión y la eficiencia, aún está por verse el impacto a largo plazo en la experiencia del usuario y los posibles sesgos dentro de los sistemas de IA.
