Meta значительно увеличивает использование искусственного интеллекта для обеспечения соблюдения правил контента на Facebook и Instagram, одновременно снижая зависимость от сторонних подрядчиков. Это изменение затрагивает способы, которыми компания обрабатывает чувствительный контент, такой как терроризм, детская эксплуатация, продажа наркотиков, мошенничество и схемы обмана.
ИИ Берет на Себя Основную Работу по Обеспечению Соблюдения Правил
Технологический гигант утверждает, что его новые системы ИИ уже превосходят группы ручного просмотра в обнаружении нарушений. В частности, тесты показывают, что эти алгоритмы выявляют в два раза больше контента сексуального характера, предназначенного для взрослых, при этом снижая количество ошибок, допущенных людьми, более чем на 60%. Помимо обнаружения, ИИ также доказал свою эффективность в предотвращении мошенничества (около 5000 случаев в день) и выявлении попыток подмены личности, включая взломы аккаунтов, о которых свидетельствует подозрительная активность при входе в систему или изменения в профиле.
Почему Это Важно
Этот сдвиг касается не только эффективности. Meta столкнулась с растущей критикой в отношении своей политики модерации контента, включая судебные иски, утверждающие, что она причиняет вред молодым пользователям. Переход к ИИ позволяет Meta масштабировать обеспечение соблюдения правил без увеличения затрат на персонал, что крайне важно, учитывая огромный объем публикуемого контента ежедневно. Это также снижает риск того, что модераторы, работающие с контентом, будут подвергаться воздействию шокирующих материалов. Компания отмечает, что люди по-прежнему будут рассматривать решения с высоким уровнем риска (например, апелляции на отключение учетных записей) и передавать информацию правоохранительным органам.
Меньше Зависимости от Аутсорсинга
Meta намерена сократить свою зависимость от внешних поставщиков услуг модерации контента, что свидетельствует о стремлении к большему контролю над своими процессами обеспечения соблюдения правил. Компания считает, что ИИ лучше подходит для повторяющейся работы (например, просмотра графического контента) и адаптации к меняющимся тактикам, используемым злоумышленниками (например, незаконной продаже наркотиков).
Новый Помощник ИИ для Поддержки Пользователей
Наряду с изменениями в обеспечении соблюдения правил Meta запустила круглосуточного помощника ИИ для поддержки пользователей Facebook и Instagram, доступного на мобильных устройствах и настольных компьютерах. Это может еще больше сократить потребность в обслуживании клиентов людьми.
Заключение: Переход Meta к обеспечению соблюдения правил контента с использованием ИИ представляет собой значительную эволюцию в том, как платформы социальных сетей подходят к модерации. Хотя цель состоит в повышении точности и эффективности, долгосрочное влияние на пользовательский опыт и потенциальные предубеждения в системах ИИ еще предстоит увидеть.
