Umělá inteligence při náboru lidí: větší riziko předsudků než u lidí

Automatizované náborové systémy používající umělou inteligenci mohou diskriminovat uchazeče více než tradičních personalisté. Výzkumy ukazují, že algoritmy při výběru kandidátů často propadají stereotypům a upřednostňují určité skupiny uchazečů.

V nejbližší budoucnosti se bude vaše životopis zřejmě poprvé ocitovat na stole u algoritmu, ne u člověka. Zatímco se mnoho společností obává, že umělá inteligence v náboru usnadní rozhodování, vyvstávají znepokojivé důkazy o tom, že AI systémy mohou být při výběru kandidátů ještě straší než jejich lidští kolegové.

Jak algoritmy zkreslují výběr zaměstnanců

Nedávné studie naznačují, že systémy AI používané k třídění CV a hodnocení kandidátů odrážejí a často i zesílují předsudky, které jsou již přítomny v historických datech tréninku. Pokud byl algoritmus trénován na základě rozhodnutí, která v minulosti činili lidé (kterých se běžně účastňovaly skrytá genderová či rasová zkreslení), AI tato zkreslení nejen převezme, ale může je ještě umocnit. Velké technologické firmy a konzultantské společnosti si již začaly uvědomovat nebezpečí, když jejich AI nábory diskriminovaly ženy a menšiny.

Transparentnost je stále nedostatečná

Problém spočívá také v tom, že mnoho firem používá proprietární algoritmy, které nejsou veřejně dostupné k ověření. Uchazeči o práci tak často ani neví, podle jakých kritérií jsou jejich profily vyhodnocovány. To vytváří situaci, kdy se kandidáti nemůžou efektivně bránit proti потenciálnímu zkreslení. Bez jasné transparentnosti a regulace tak hrozí, že se automatizované nábory stanou silnějším faktorem nerovnosti na trhu práce.

Co s tím dělat?

Odborníci doporučují, aby firmy pravidelně auditovaly své AI nábory, aby identifikovaly možné zkreslení. Stejně důležité je poskytovat kandidátům informace o tom, jak jsou jejich profily hodnoceny, a umožnit jim případné odvolání. Regulátoři v Evropě i USA postupně zavádějí přísnější pravidla pro používání AI v náboru, ale řada firem dosud přetrvává v přesvědčení, že algoritmy jsou objektivnější než lidé. Realita je však složitější.

Zdroj: MIT Technology Review

Rubrika: AI & Technologie