Jak możemy wyeliminować stronniczość z platform rekrutacyjnych za pomocą AI?

Zdjęcie pochodzące z mediów społecznościowych

Sunnyvale w Kalifornii. — W tym tygodniu zgromadzi się tutaj grupa ekspertów akademickich i branżowych pod przewodnictwem Uniwersytetu Harvarda, aby rozpocząć nową inicjatywę badawczą, której celem jest promowanie większej uczciwości na platformach zatrudniania.

Badania branżowe pokazują, że 70% firm korzysta obecnie z automatycznych systemów śledzenia kandydatów, aby znajdować i zatrudniać utalentowane jednostki. Okazuje się jednak, że algorytmy są stronnicze i kiedy rekruterzy wykorzystują je do zarządzania procesem rekrutacji, odtwarzają i wzmacniają te same uprzedzenia i błędy ludzkie, które należy wyeliminować. 

Hire Avisions Institute to nowe przedsięwzięcie gromadzące kilkunastu liderów w dziedzinie uczciwości algorytmicznej, prywatności, sztucznej inteligencji, prawa, krytycznej teorii rasy, zachowań organizacyjnych, ekonomii i sieci społecznościowych. Jest to grupa naukowców z Uniwersytetu Harwarda, Uniwersytetu Cornella, Uniwersytetu Princeton, Uniwersytetu w Chicago, Uniwersytetu Bostońskiego, Instytutu Technologicznego Massachusetts (MIT), Instytutu Naukowego Weizmanna, Uniwersytetu Northeastern, Uniwersytetu Rudgersa, Microsoft Research i Apple. Organizacją kieruje Cynthia Dwork, profesor informatyki, przy wsparciu funduszu Gordona McKaya w School of Engineering and Applied Sciences (SEAS) Johna A. Paulsona na Uniwersytecie Harvarda.

„Zatrudnienie to złożona próba, w której siły preferencji, przywilejów, uprzedzeń oraz prawa, a obecnie także algorytmy i dane, współdziałają, aby kształtować przyszłość jednostki” – mówi Dwork. Jej pionierski wkład w analizę prywatnych danych, kryptografię, przetwarzanie rozproszone i teorię uczciwości algorytmicznej jest niezaprzeczalny. „Skoncentrujemy się na ścieżkach minimalizacji przenoszenia trwałych wzorców uprzedzeń i dyskryminacji w obszarze zatrudnienia na platformach elektronicznych, począwszy od analizy danych i algorytmów, aż po strategie naprawcze i działania prawne.” – kontynuuje. 

Badania profesor Dwork wykazały, że systemy złożone z elementów indywidualnie „uczciwymi” niekoniecznie są uczciwe jako całość. Interdyscyplinarne zespoły Hire Aspires Institute podejmą kompleksowe programy badawcze w celu znalezienia konkretnych rozwiązań rzeczywistych problemów w kilku obszarach zainteresowań:

• Niewłaściwie sformułowane opisy stanowisk mogą prowadzić do wykluczenia wykwalifikowanych kandydatów, a język używany przez kandydatów może zawierać uprzedzenia kulturowe. W ramach tej inicjatywy zostanie zbadana sztuczna inteligencja i inne technologie, które mogą być wykorzystane przez platformy rekrutacyjne, aby umożliwić uczciwe porównania między kandydatami.
• Algorytmy wykorzystywane przez platformy rekrutacyjne do oceny i rankingu kandydatów często pogłębiają istniejące nierówności. Naukowcy stosują podejścia algorytmiczne w celu przeciwdziałania temu zjawisku i poprawy ogólnej efektywności procesu rekrutacji.
• Algorytmy predykcyjne przypisują oceny, które mają na celu oszacowanie szans kandydata na sukces na określonym stanowisku, w przypadku jego zatrudnienia. Opierając się na teorii pseudolosowej, zespół analizuje różne podejścia, mające na celu zapewnienie największej dokładności modeli predykcyjnych.
• Sukces w miejscu pracy jest wynikiem wielu czynników, w tym rodzaju miejsca pracy oraz ludzi, którzy w nim pracują. Nasza grupa badawcza bada metody tworzenia bardziej uczciwego środowiska pracy, opierając się na dostępnych dowodach naukowych.
• Sieci osobiste i cyfrowe, oraz polecenia, odgrywają ogromną rolę w procesie zdobywania pracy. Jednakże te nieformalne struktury często pogłębiają istniejące nierówności. W związku z tym, badacze planują przetestować pomysły dotyczące tego, w jaki sposób platformy rekrutacyjne mogą przyczynić się do wyrównania szans w zakresie budowania sieci kontaktów (ang. networking).
• Instytut opracuje ramy prawne, które w połączeniu z pracami technicznymi mają na celu zwiększenie uczciwości platform zatrudniania.
• W celu rozpoczęcia prac nad tym przedsięwzięciem, badacze spotkają się w biurach LinkedIn. LinkedIn, z 930 milionami członków na całym świecie, jest najczęściej używaną platformą rekrutacyjną i siecią profesjonalną na świecie. Ich wizja „tworzenia możliwości ekonomicznych dla wszystkich pracowników na świecie” oraz ich ciągłe wysiłki zmierzające do przeciwdziałania nierównościom, tworzą warunki dla owocnej wymiany pomysłów i spostrzeżeń.

Instytut Hire Aspirations otrzymuje wsparcie z grantów przyznanych przez Fundację Sloana, Fundację Simonsa oraz Uniwersytet Harvarda. LinkedIn udostępni dane w celu wsparcia badań.