Кандидатка за работа с близо 20 години опит твърди, че е била системно отхвърляна от работодатели, използващи софтуер с изкуствен интелект за подбор на персонал. След като не е получила нито една покана за интервю при кандидатстване за хиляди позиции, тя завела колективен иск срещу разработчика на системата.
Случаят, разглеждан от съд в Калифорния, е срещу базираната в Силициевата долина компания Eightfold AI, съобщи Гардиън. Ищцата Ерин Кистлър е продуктов мениджър с близо 20 години професионален опит. Според иска, през последните четири години тя е кандидатствала за хиляди позиции в компании като PayPal, Microsoft и Netflix, но не е получила нито една покана за интервю.
Стотици компании използват софтуера на Eightfold AI, включително някои от работодателите, при които Кистлър е кандидатствала. В иска се твърди, че автоматизираната система може да отхвърля кандидати, без те да получават възможност да видят резултатите от оценката си или да ги оспорят.
От Eightfold AI отхвърлят обвиненията. „Вярваме, че твърденията са неоснователни и възнамеряваме енергично да се защитим“, заявяват от компанията пред Гардиън.
Как AI оценява кандидатите
Eightfold използва изкуствен интелект за оценка на кандидатите по скала от 0 до 5 и прогнозира доколко те биха се представили успешно на конкретна позиция.
Според адвоката на ищците Рейчъл Демпси, основният проблем е липсата на прозрачност. Кандидатите не знаят какво съдържат оценките и докладите за тях и съответно не могат да проверят дали има неточности или фактори, които несправедливо намаляват шансовете им за назначаване.
Това повдига и въпроса дали автоматизираните системи не могат да превърнат едно отрицателно решение в траен модел. Според професора от Юридическия факултет на университета „Емори“ Ифеома Аджунва, ако един и същ алгоритъм се използва от различни компании, предишно решение за даден кандидат може да бъде отчетено при следваща оценка. Така, според нея, се създава ефект, сходен с този на „черен списък“.
AI може да възпроизвежда човешките пристрастия
Случаят поставя по-широк въпрос за използването на изкуствен интелект при наемането на служители. Според доклад на Световния икономически форум до 2025 г., 90% от работодателите е трябвало да използват някаква форма на автоматизация при подбора – от първоначален скрининг на кандидатите до оценка на уменията и провеждане на първоначални интервюта.
Компаниите разчитат на тези системи с надеждата да ускорят подбора и да го направят по-обективен. Изследванията обаче показват, че алгоритмите могат да възпроизвеждат съществуващи пристрастия.
Аджунва посочва, например, случаи, при които AI системи са се справяли по-зле с кандидати с южняшки акцент заради трудности при разпознаването на речта по време на интервюта.
Подобен проблем беше установен и при експериментален инструмент на Amazon, който понижавал оценките на автобиографиите на жени, тъй като системата била обучена върху данни, в които най-добре представящите се кандидати били предимно мъже. Amazon впоследствие прекрати използването на инструмента.
Алгоритмите създават стереотипи
Сюечунзи Бай от Чикагския университет, който изследва пристрастията при подбора на служители, е съавтор на проучване, разглеждащо поведението на AI модели при решения за наемане.
Изследователите използвали измислени кандидати от фиктивни демографски групи. След няколко кръга на подбор моделите започнали да свързват определени групи с конкретни професии, въпреки че принадлежността към групата не е била свързана с квалификацията на кандидатите.
Така например, ако кандидат от групата „Туфа“ бил представен като добър лекар, системата ставала по-склонна да избира други представители на същата група за лекарски позиции. Кандидатите от друга група, „Клепачи“, били по-често избирани за позиции, свързани с почистване.
Според изследването, решенията за наемане, взети от AI моделите, са били по-пристрастни от тези, взети от хора.
Случаят срещу Eightfold AI е сред ранните съдебни спорове, които могат да окажат влияние върху бъдещото използване на автоматизирани системи при наемане. Както отбелязва Гардиън, в САЩ няма федерален закон, който изрично да изисква кандидатите да бъдат уведомявани, че са оценявани от AI система, или да им бъде разкривано как тя е стигнала до дадено решение.
