Sztuczna inteligencja nie jest zdolna do samodzielnego myślenia. Przynajmniej tak Meta chce, żebyśmy w to wierzyli.
Byli pracownicy firmy pozwali technologicznego giganta, zarzucając coś przeciwnego: ukryte algorytmy bezlitośnie wyeliminowały najbardziej bezbronnych pracowników spośród 8 tys. zwolnionych w maju tego roku.
Tu nie chodzi tylko o złe zarządzanie. Pozew przedstawia obraz stanu nadzoru, w którym wyniki wydajności, dzienniki użycia tokenów i wewnętrzny chatbot Meta o nazwie Metamate wykonywały brudną robotę działów HR. Zgodnie z pozwem sztuczna inteligencja zawiodła nie tylko w kwestiach uczciwości; systematycznie karał ludzi za bycie istotami ludzkimi posiadającymi ciała fizyczne.
Jaki jest wynik? Dyskryminacja pracownic w ciąży, osób na zwolnieniach lekarskich i osób niepełnosprawnych.
Uzasadnienie oskarżeń algorytmicznych
W centrum tego pozwu znajduje się 26 byłych pracowników. Twierdzą, że Meta użyła niedostatecznie przetestowanych systemów sztucznej inteligencji, aby określić, kto zostaje, a kto odchodzi.
Oceny te nie opierały się wyłącznie na jakości pracy czy znaczeniu projektu. Zamiast tego polegali na wskaźnikach, które ignorowały kontekst. Brakuje dni roboczych z powodu urlopu macierzyńskiego? Algorytm potraktował to na Twoją niekorzyść. Zwolnienie lekarskie z powodu znanej choroby? Kolejny minus. Skrócenie czasu pracy w związku z przystosowaniem stanowiska pracy dla osób niepełnosprawnych? Niska ocena za wydajność.
“To jawne kłamstwo. Dot. Decyzje dotyczące zarządzania ludźmi i organizacji były podejmowane przez ludzi, a nie sztuczną inteligencję. “
Powodowie twierdzą, że narzędzia nie przeszły niezbędnych testów stronniczości wymaganych przez prawo stanu Kalifornia i Nowy Jork. Twierdzą, że system naruszył federalne przepisy antydyskryminacyjne, a także lokalne przepisy regulujące wykorzystanie technologii do oceny szans na zatrudnienie.
Zaprzeczenie Meta i obrona „czynnika ludzkiego”
Naturalnie Meta aktywnie się opiera.
Andy Stone, rzecznik Meta, w serwisie społecznościowym X (dawniej Twitter) zaprzeczył zarzutom. Stanowisko firmy jest jasne: AI nie zwalniała ludzi.
Decyzje personalne były i pozostają wyborem człowieka. To jest oficjalna wersja. Jednak 26 powodom to rozróżnienie wydaje się jedynie chwytem językowym, podczas gdy algorytm wykonywał większość pracy polegającej na identyfikowaniu „nieuczciwych pracowników” na podstawie wypaczonych danych.
Twierdzą, że przepaść między ludzką odpowiedzialnością a zautomatyzowanym uprzedzeniem jest zbyt duża, aby ją zignorować.
Dlaczego oceny AI faworyzują „idealnego” pracownika
Aby zrozumieć, jak to się dzieje, przyjrzyjmy się, co dokładnie zmierzył algorytm. Śledziło takie wskaźniki, jak wyniki wydajności i wykorzystanie tokena AI. Najprawdopodobniej powiązał zapisy frekwencji ze wskaźnikami wydajności, nie biorąc pod uwagę ograniczeń czasowych.
Model Capability Initiative (MCI) to kolejny element tej układanki. To wewnętrzne narzędzie służy do uczenia modeli AI poprzez zbieranie danych o aktywności pracowników. Pracownicy zauważyli, że narzędzie zbierało znacznie więcej danych, niż pierwotnie podano.
Rodzi to poważne obawy dotyczące prywatności, szczególnie w świetle europejskich przepisów o ochronie danych, w odniesieniu do których Meta jest już przedmiotem kontroli w innych kontekstach. Jeśli wewnętrzny moduł śledzący profiluje zdrowie pracowników, przełamuje nawyki i zmienność wyników, tworzy grupę ryzyka. A gdy nadejdą zwolnienia, system oznacza zmienne wysokiego ryzyka – chorobę, opiekę nad członkami rodziny, niepełnosprawność – jako spadek produktywności.
Jest to pętla informacji zwrotnej zaprojektowana w celu maksymalizacji wydajności kosztem uczciwości.
Wyścig z czasem
Celem pozwu jest nie tylko naprawienie szkody. Bezpośrednim celem jest powstrzymanie zbliżających się zwolnień tych 26 pracowników, które zaplanowano na 22 lipca.
Powodowie zwracają się do sądu federalnego Kalifornii o wydanie nakazu wstępnego. Chcą, aby czas się zatrzymał. Zamiast natychmiastowych zwolnień chcą, aby ich sprawa została najpierw rozpatrzona w prywatnym arbitrażu. Jest to posunięcie taktyczne, być może potwierdzające brak równowagi sił, ale także zapewniające czas i zasoby.
Koszt ludzki zautomatyzowanych usług HR
Meta ogłosiła cięcia w związku z ogromnymi inwestycjami w sztuczną inteligencję. Przesłanie było oczywiste: potrzebujemy Waszych mózgów, ale polegamy na inteligencji maszyn.
Teraz zwolnieni pracownicy twierdzą, że same maszyny sprawiły, że stały się przestarzałe, zanim jakikolwiek menadżer usiadł do ciężkiej rozmowy.
Sprawa opiera się na konkretnym zagadnieniu prawno-technicznym: w jakim stopniu Meta jest odpowiedzialna za efekty pracy
