Umělá inteligence diskriminuje při najímání snadněji než lidé

Výzkumníci varují, že umělá inteligence při posuzování kandidátů na pracovní pozice snáze vytváří zaujatost než lidské najímající manažery. AI algoritmy si nejen přebírají lidské předsudky z trénovacích dat, ale mohou si vytvářet i vlastní diskriminační chování.

Umělá inteligence se stává stále běžnější součástí procesů náboru zaměstnanců. Firmy po celém světě nasazují jazykové modely a algoritmy k předsevzetí životopisů ještě dříve, než je jakýkoli člověk přečte. Zdánlivě to zní logicky – automatizace, efektivita, redukce subjektivních rozhodnutí. Realita je však složitější a potenciálně nebezpečnější.

Nejnovější výzkum ukazuje alarmující zjištění: AI modely mají tendenci být při hodnocení kandidátů ještě zaujatější než lidé. Vědecké týmy zjistily, že velkých jazykových modelů si nejen podrobují předsudky obsažené v jejich trénovacích datech, ale navíc si vyvíjejí zcela nové formy diskriminace. To znamená, že i když bychom očistili trénovací data od všech problematických vzorců, AI by si mohla vytvářet vlastní zaujatost během svého fungování.

Problém začíná již v samotných datech, kterými se modely učí. Pokud jsou trénovací data pocházející z historických dokumentů nebo databází obsahující diskriminační rozhodnutí, AI si tyto vzorce osvojí a bude je aplikovat na nové situace. Navíc – a to je nejzávažnější – AI může při interakci s novými informacemi vytvářet vlastní systémy předsudků, které nikdo v datech explicitně neměl.

V kontextu náboru to znamená, že kandidát s určitou kombinací jména, vzdělání či pracovní historie může být automaticky penalizován algoritmem, aniž by na něj cílená diskriminace byla záměrná. Práce z domova, gapy v CV nebo absolvování méně známé univerzity – všechny tyto faktory mohou být AI podvědomě penalizovány, často bez patřičné příčiny.

Pro uchazeče o práci má toto zjištění vážné důsledky. Nelze jednoduše spoléhat na to, že automatizace učiní proces spravedlivějším. Firmy, které nasazují AI v náboru, by měly provádět pravidelné audity a testy, zda jejich algoritmy neskrývají skryté diskriminační chování. Přestože je lákavé delegovat rozhodování na technologii, odpovědnost za férovost procesu zůstává na lidech.

Budoucnost spravedlivého náboru bude pravděpodobně záviset na kombinaci: AI jako pomocný nástroj pro filtrování obrovského objemu kandidatur, ale s důrazem na průhlednost, pravidelné kontroly a lidské rozhodnutí v kritických fázích výběru. Jen tak se vyhneme situaci, kdy nás nechtěně diskriminační algoritmy zablokují cesty k novým příležitostem.

Zdroj: MIT Technology Review

Rubrika: AI & Technologie