Штучний інтелект неспроможний на самостійне мислення. Принаймні Meta хоче, щоб ми в це вірили.
Колишні співробітники компанії подали до суду на технологічного гіганта, стверджуючи протилежне: приховані алгоритми безжально відсіювали найуразливіших працівників із числа 8000 осіб, звільнених у травні.
Тут не просто йдеться про поганий менеджмент. У позові малюється картина держави загального спостереження, де бали продуктивності, логи використання токенів та внутрішній чат-бот Meta під назвою Metamate виконували брудну роботу відділів кадрів. Згідно з позовною заявою, ІІ не просто схибив у питаннях справедливості — він систематично карав людей за те, що вони були людьми з фізичним тілом.
Який результат? Дискримінація вагітних співробітників, людей на лікарняному та осіб з обмеженими можливостями.
Обґрунтування алгоритмічних звинувачень
У центрі цього судового розгляду перебувають 26 колишніх працівників. Вони стверджують, що Meta використовувала недостатньо протестовані системи ІІ для визначення того, хто залишається, а хто йде.
Ці рейтинги базувалися не лише на якості роботи чи важливості проекту. Натомість вони спиралися на метрики, що ігнорують контекст. Перепустка робочих днів через декретну відпустку? Алгоритм зараховував це проти вас. Відпустка через відоме захворювання? Ще один мінус. Скорочення робочого часу через адаптацію робочого місця для людей з інвалідністю? Низький бал за продуктивність.
«Це відверта брехня. Крапка. Управління персоналом та організаційні рішення приймалися людьми, а не ІІ».
Позивачі стверджують, що ці інструменти не пройшли необхідних перевірок на упередженість, необхідних законами штату Каліфорнія та міста Нью-Йорк. Вони заявляють, що система порушила федеральні закони боротьби з дискримінацією, і навіть місцеві нормативні акти, регулюючі використання технологій з метою оцінки придатності до працевлаштування.
Заперечення з боку Meta та захист «людського фактора»
Звичайно, Meta активно пручається.
Енді Стоун, представник компанії Meta, виступив у соціальній мережі X (раніше Twitter), спростовуючи ці звинувачення. Позиція компанії зрозуміла: ІІ не звільняв людей.
Кадрові рішення і були, і залишаються людським вибором. Такою є офіційна версія. Але для 26 позивачів ця відмінність видається лише лінгвістичною хитрощами, коли алгоритм виконував основну роботу з виявлення «несумлінних співробітників» на основі спотворених даних.
Вони argue, що розрив між людською відповідальністю та автоматизованою упередженістю занадто великий, щоб його ігнорувати.
Чому рейтинги ІІ favor «ідеального» співробітника
Щоб зрозуміти, як це відбувається, побачимо, що саме вимірював алгоритм. Він відстежував такі показники, як бали продуктивності і використання ІІ-токенів. Швидше за все, він корелював записи про відвідуваність із метриками продуктивності, не враховуючи тимчасових труднощів.
Модель Capability Initiative (MCI) є ще одним елементом цього пазла. Цей внутрішній інструмент призначений для навчання моделей ШІ шляхом збору даних про діяльність співробітників. Співробітники зауважили, що інструмент збирає значно більше даних, ніж було спочатку заявлено.
Це викликає серйозні побоювання щодо конфіденційності, особливо у світлі європейських законів про захист даних, за порушення яких Meta вже піддається перевіркам в інших контекстах. Якщо внутрішній трекер формує профілі здоров’я співробітників, звичок перерв та варіативності вихідних даних, він створює групу ризику. І коли приходять скорочення, система позначає ці високоризикові змінні — хворобу, догляд за членами сім’ї, інвалідність як дефіцит продуктивності.
Це петля зворотний зв’язок, призначена для максимізації ефективності з допомогою справедливості.
Гонка з часом
Позов спрямований не лише на одержання компенсації збитків. Негайна мета — зупинити майбутнє звільнення цих 26 співробітників, яке заплановано на 22 липня.
Позивачі просять федеральний суд Каліфорнії про винесення попередньої судової заборони. Вони хочуть, щоби час зупинився. Замість негайних звільнень вони хочуть спочатку розглянути їхню справу у приватному арбітражі. Це тактичний хід, який, можливо, визнає дисбаланс сил, але також дає час і ресурси.
Людська ціна автоматизованих кадрових служб
Meta оголосила про скорочення на тлі масштабних інвестицій у ІІ. Посилання було очевидним: нам потрібні ваші мізки, але ми робимо ставку на машинний інтелект.
Тепер ці звільнені працівники кажуть, що самі машини були використані для того, щоб визнати їх застарілими ще до того, як будь-яка людина-менеджер сідала за важку розмову.
Справа заснована на конкретному юридичному та технічному питанні: якою мірою Meta несе відповідальність за результати роботи
