Rekrutacja z AI: skalowanie zatrudnienia bez skalowania uprzedzeń

Rekruter, który po cichu odrzucałby każdego czarnego kandydata, skończyłby w sądzie. Model, który robi dokładnie to samo, wytrenowany na dekadzie decyzji takiego rekrutera, bywa przedstawiany jako wzrost efektywności.

Na tym właśnie polega kłopot z AI w przesiewaniu talentów. Technologia działa dokładnie tak, jak ją zaprojektowano. Wychwytuje wzorce z historycznych danych rekrutacyjnych i odtwarza je na masową skalę, dla każdego kandydata, natychmiast. Jeśli te wzorce były sprawiedliwe, skaluje sprawiedliwość. Jeśli nie były, skaluje uprzedzenia i nadaje im autorytet systemu.

Argument efektywnościowy jest prawdziwy i wcale nie jest najtrudniejszy

Z eksperymentu AI stała się rozwiązaniem domyślnym. To, co w przesiewaniu wychodzi jej naprawdę dobrze, jest niezaprzeczalne: analiza CV, dopasowywanie kompetencji do wymagań, spójna ocena ustrukturyzowanych testów oraz przerabianie tej lawiny aplikacji, która zasypuje rekruterów w pierwszych 48 godzinach od publikacji ogłoszenia.

Nikt tego nie kwestionuje. Trudność tkwi w tym, czego model nauczył się, zyskując szybkość.

Uprzedzenia się nie uśredniają, one się kumulują

Obiecywano, że maszyny będą bardziej neutralne niż ludzie. Dowody mówią coś wręcz przeciwnego, gdy w danych treningowych zapisana jest ludzka historia. W badaniu, w którym ponad 550 CV przepuszczono przez setki opisów stanowisk za pomocą trzech produkcyjnych modeli przesiewających, rozbieżności nie były subtelne ani nie znosiły się wzajemnie.

Model nie wymyślił tego uprzedzenia. Odziedziczył je, a potem zastosował wobec każdego kandydata, bez zmęczenia i bez cienia wątpliwości.

Jeszcze bardziej wymowny okazał się wynik w ujęciu intersekcjonalnym. CV z imionami czarnych mężczyzn nie zostały wybrane nad CV białych mężczyzn ani razu, w żadnym z porównań. Wzorzec o takim natężeniu nigdy nie przetrwałby ludzkiego audytu. Wbudowany w model i uruchamiany po cichu na tysiącach aplikacji, może utrzymywać się latami, bo skoro nikt go świadomie nie ustanowił, nikt też za niego nie odpowiada.

Ryzyko prawne jest identyczne jak przy stronniczym procesie prowadzonym przez człowieka. Sięgnięcie po AI nie zdejmuje z pracodawcy obowiązku, by nie dyskryminować. Sprawia jedynie, że dyskryminację trudniej dostrzec, a łatwiej powielić.

Kandydaci to wyczuwają i odchodzą

Przesiewanie to pierwsze realne zetknięcie kandydata z marką pracodawcy. Powierzenie go nieprzejrzystemu modelowi jest decyzją o doświadczeniu klienta, zanim jeszcze stanie się decyzją rekrutacyjną, a ludzie po drugiej stronie wcale nie są tym zachwyceni.

Niechęć jest głęboka. W ogólnokrajowym badaniu 66% dorosłych Amerykanów stwierdziło, że nie chciałoby aplikować do pracodawcy, który wykorzystuje AI przy decyzjach o zatrudnieniu, a 71% sprzeciwiło się temu, by to AI podejmowała ostateczną decyzję. Narzędzie, które po cichu odsiewa najlepszych kandydatów, zanim zobaczy ich człowiek, nie jest wzrostem produktywności. To wyciek na samym szczycie lejka, którego nie pokaże żaden dashboard.

Model przesiewania, który skaluje sprawiedliwość, a nie ryzyko

Chodzi o to, by zachować szybkość, nie dziedzicząc uprzedzeń i nie szkodząc marce. Programy, którym się to udaje, odróżnia od tych, które kończą w sądzie, pięć zasad.

1. Zdefiniuj, co znaczy „dobry kandydat”, zanim to zautomatyzujesz. Oprzyj przesiewanie na kryteriach istotnych dla stanowiska, zweryfikowanych względem rzeczywistych wyników pracy, a nie tego, kogo zatrudniono ostatnim razem. Dotychczasowe zatrudnienia to ślad dawnych uprzedzeń, a nie definicja zasług.
2. Usuń wskaźniki zastępcze. Wyeliminuj imiona, zdjęcia, kody pocztowe i sygnały prestiżu uczelni, które podstawiają się pod cechy chronione, a nie prognozują wyników pracy. Jeśli dana cecha koreluje z rasą lub płcią bardziej niż ze stanowiskiem, jest obciążeniem, a nie sygnałem.
3. Audytuj nieproporcjonalny wpływ, zanim i po wdrożeniu. Regularnie mierz odsetek kandydatów przechodzących dalej w rozbiciu na grupy dla każdego modelu i traktuj różnicę jak wadę do usunięcia, a nie wynik do wytłumaczenia.
4. Ostatnie słowo zostaw człowiekowi. Używaj AI do rankingowania i wyławiania kandydatów, a nie do automatycznego odrzucania. Ostateczne „tak” lub „nie”, razem z odpowiedzialnością za nie, należy do człowieka.
5. Bądź transparentny wobec kandydatów. Mów ludziom, co podlega ocenie, i daj im możliwość weryfikacji przez człowieka. Ujawnienie informacji kosztuje mniej niż ciche tracenie kandydatów, na których zależało ci najbardziej.

Organizacje, którym to wychodzi, traktują przesiewanie jako część szerszego doświadczenia pracownika, w którym pierwsza interakcja nadaje ton wszystkiemu, co nastąpi później. Zarządzają modelem tak samo, jak każdą inną decyzją przesądzającą o tym, kto zostaje przyjęty.

AI będzie przesiewać coraz szybciej. To, czy zacznie robić to sprawiedliwiej, jest kwestią projektu i ładu korporacyjnego, a nie cechą samej technologii. Stosowana z dyscypliną, skaluje zatrudnianie bez skalowania uprzedzeń. Stosowana bezmyślnie, automatyzuje dokładnie ten problem, który miała rozwiązać. Jeśli chcesz zobaczyć, jak budujemy i nadzorujemy te procesy u klientów, poznaj naszą działalność doradczą i praktykę doświadczenia pracownika albo przejrzyj studia przypadków.