Искусственный интеллект не способен на самостоятельное мышление. По крайней мере, Meta хочет, чтобы мы в это верили.
Бывшие сотрудники компании подали в суд на технологического гиганта, утверждая обратное: скрытые алгоритмы безжалостно отсеивали самых уязвимых работников из числа 8000 человек, уволенных в этом мае.
Здесь не просто идет речь о плохом менеджменте. В иске рисуется картина государства всеобщего наблюдения, где баллы производительности, логи использования токенов и внутренний чат-бот Meta под названием Metamate выполняли грязную работу отделов кадров. Согласно исковому заявлению, ИИ не просто промахнулся в вопросах справедливости — он систематически наказывал людей за то, что они были людьми с физическим телом.
Каков же результат? Дискриминация беременных сотрудников, людей на больничном и лиц с ограниченными возможностями.
Обоснование алгоритмических обвинений
В центре этого судебного разбирательства находятся 26 бывших сотрудников. Они утверждают, что Meta использовала недостаточно протестированные системы ИИ для определения того, кто остается, а кто уходит.
Эти рейтинги базировались не только на качестве работы или важности проекта. Вместо этого они опирались на метрики, игнорирующие контекст. Пропуск рабочих дней из-за декретного отпуска? Алгоритм засчитывал это против вас. Отпуск по болезни из-за известного заболевания? Еще один минус. Сокращение рабочего времени из-за адаптации рабочего места для людей с инвалидностью? Низкий балл за производительность.
«Это откровенная ложь. Точка. Управление персоналом и организационные решения принимались людьми, а не ИИ».
Истцы утверждают, что эти инструменты не прошли необходимые проверки на предвзятость, требуемые законами штата Калифорния и города Нью-Йорк. Они заявляют, что система нарушила федеральные законы о борьбе с дискриминацией, а также местные нормативные акты, регулирующие использование технологий для оценки пригодности к трудоустройству.
Отрицание со стороны Meta и защита «человеческого фактора»
Естественно, Meta активно сопротивляется.
Энди Стоун, представитель компании Meta, выступил в социальной сети X (ранее Twitter), опровергая эти обвинения. Позиция компании ясна: ИИ не увольнял людей.
Кадровые решения — и были, и остаются — человеческим выбором. Такова официальная версия. Но для 26 истцов это различие кажется лишь лингвистической уловкой, когда алгоритм выполнял основную работу по выявлению «недобросовестных сотрудников» на основе искаженных данных.
Они argue, что разрыв между человеческой ответственностью и автоматизированной предвзятостью слишком велик, чтобы его игнорировать.
Почему рейтинги ИИ favor «идеального» сотрудника
Чтобы понять, как это происходит, посмотрим, что именно измерял алгоритм. Он отслеживал такие показатели, как баллы производительности и использование ИИ-токенов. Скорее всего, он коррелировал записи о посещаемости с метриками производительности, не учитывая временные трудности.
Модель Capability Initiative (MCI) — еще один элемент этого пазла. Этот внутренний инструмент предназначен для обучения моделей ИИ путем сбора данных о деятельности сотрудников. Сотрудники заметили, что инструмент собирает значительно больше данных, чем было первоначально заявлено.
Это вызывает серьезные опасения по поводу конфиденциальности, особенно в свете европейских законов о защите данных, за нарушение которых Meta уже подвергается проверкам в иных контекстах. Если внутренний трекер формирует профили здоровья сотрудников, привычек перерывов и вариативности выходных данных, он создает группу риска. И когда приходят сокращения, система помечает эти высокорисковые переменные — болезнь, уход за членами семьи, инвалидность — как дефицит производительности.
Это петля обратной связи, предназначенная для максимизации эффективности за счет справедливости.
Гонка со временем
Иск направлен не только на получение компенсации ущерба. Немедленная цель — остановить предстоящее увольнение этих 26 сотрудников, которое запланировано на 22 июля.
Истцы просят федеральный суд Калифорнии о вынесении предварительного судебного запрета. Они хотят, чтобы время остановилось. Вместо немедленных увольнений они хотят сначала рассмотреть их дело в частном арбитраже. Это тактический ход, возможно, признающий дисбаланс сил, но также дающий время и ресурсы.
Человеческая цена автоматизированных кадровых служб
Meta объявила о сокращениях на фоне масштабных инвестиций в ИИ. Посыл был очевиден: нам нужны ваши мозги, но мы делаем ставку на машинный интеллект.
Теперь эти уволенные работники говорят, что сами машины были использованы для того, чтобы признать их устаревшими еще до того, как какой-либо человек-менеджер садился за тяжелый разговор.
Дело основано на конкретном юридическом и техническом вопросе: в какой степени Meta несет ответственность за результаты работы
