Meta значно збільшує використання штучного інтелекту для забезпечення дотримання правил контенту на Facebook та Instagram, одночасно знижуючи залежність від сторонніх підрядників. Ця зміна торкається способів, якими компанія обробляє чутливий контент, такий як тероризм, дитяча експлуатація, продаж наркотиків, шахрайство та схеми обману.
ІІ Бере на Себе Основну Роботу з Забезпечення Дотримання Правил
Технологічний гігант стверджує, що нові системи ІІ вже перевершують групи ручного перегляду у виявленні порушень. Зокрема, тести показують, що ці алгоритми виявляють у два рази більше контенту сексуального характеру, призначеного для дорослих, при цьому знижуючи кількість помилок, допущених людьми, більш ніж на 60%. Крім виявлення, ІІ також довів свою ефективність у запобіганні шахрайству (близько 5000 випадків на день) та виявленні спроб підміни особистості, включаючи зломи акаунтів, про які свідчить підозріла активність при вході в систему або зміни у профілі.
Чому це важливо
Це зрушення стосується як ефективності. Meta зіткнулася з зростаючою критикою щодо своєї політики модерації контенту, включаючи судові позови, які стверджують, що вона завдає шкоди молодим користувачам. Перехід до ІІ дозволяє Meta масштабувати забезпечення дотримання правил без збільшення витрат на персонал, що вкрай важливо, враховуючи величезний обсяг контенту, що публікується щодня. Це також знижує ризик того, що модератори, які працюють з контентом, будуть піддаватися впливу шокуючих матеріалів. Компанія зазначає, що люди, як і раніше, будуть розглядати рішення з високим рівнем ризику (наприклад, апеляції на відключення облікових записів) та передавати інформацію правоохоронним органам.
Менше Залежно від Аутсорсингу
Meta має намір скоротити свою залежність від зовнішніх постачальників послуг модерації контенту, що свідчить про прагнення більшого контролю за своїми процесами забезпечення дотримання правил. Компанія вважає, що ІІ краще підходить для роботи, що повторюється (наприклад, перегляду графічного контенту) і адаптації до мінливих тактик, використовуваних зловмисниками (наприклад, незаконного продажу наркотиків).
Новий Помічник ІІ для Підтримки Користувачів
Поряд із змінами у забезпеченні дотримання правил Meta запустила цілодобового помічника ІІ для підтримки користувачів Facebook та Instagram, доступного на мобільних пристроях та настільних комп’ютерах. Це може ще більше зменшити потребу в обслуговуванні клієнтів людьми.
Висновок: Перехід Meta до забезпечення дотримання правил контенту з використанням ІІ є значною еволюцією в тому, як платформи соціальних мереж підходять до модерації. Хоча мета полягає в підвищенні точності та ефективності, довгостроковий вплив на користувальницький досвід і потенційні упередження в системах ІІ ще доведеться побачити.
