Изкуственият интелект вече взима решения, които променят живота на хората на работното им място
(снимка: CC0 Public Domain)
Британският Конгрес на профсъюзите (TUC) предупреди за явление, което той определя като „огромни пропуски” в трудовото законодателство на Обединеното кралство относно използването на изкуствен интелект по време на работа. TUC заяви, че са необходими изцяло нови правни защити във времената, когато работниците могат да бъдат „наемани и уволнявани от алгоритми”.
Подобна мярка е необходима навсякъде, където автоматизацията помага в управлението на персонала. Сред промените, към които британската организация призовава, е законното право всяко „високорисково” решение да бъде ревизирано от човек.
Генералният секретар на TUC Франсис О’Грейди казва, цитиран от BBC, че използването на AI по време на работа е голям кръстопът. „Изкуственият интелект на работното място може да се използва за подобряване на производителността и трудовия живот. Но той вече се използва и за вземане на решения, които променят живота на хората на работното им място – решения като кой да бъде нает и кой – уволнен”, предупреждава О’Грейди.
По неговите думи, „без справедливи правила използването на изкуствен интелект по време на работа може да доведе до широкоразпространена дискриминация и несправедливо отношение”.
Много фирми вече използват автоматизирани системи за вземане на решения за прости работни задачи. Например, Uber възлага на шофьорите си задачи за шофиране автоматично, чрез компютър, а за Amazon е известно, че използва системи за наблюдение чрез AI, за да следи дейността на персонала си в складовете си. Това са само най-известните примери, но има и други.
Освен това много бизнеси вече използват автоматизирана система без какъвто и да било човешки надзор на първия етап от процеса на наемане, за да „пресеят” и стеснят набора от кандидати.
Но тъй като AI става все по-усъвършенстван, нараства и опасението, че скоро ще му бъдат поверявани и далеч по-сериозни, високорискови решения, като например анализ на показателите за ефективност, определянето на това кои служители заслужават повишение и кои работници е по-добре да бъдат освободени.
Това може да се случи дори ако системата с изкуствен разум е под известен човешки надзор, предупреждава доклад на TUC – благодарение на автоматизираното вземане на решения.
„Човек може да се заеме с някаква формална задача, като например да прегледа документ, но човешката намеса в решението е минимална в този случай”, пишат авторите. „Понякога вземането на решения от човека е до голяма степен илюзорно, например когато човек в крайна сметка само формално потвърждава… предложението, генерирано от машината”.
Докладът на TUC, изготвен с помощта на адвокати по трудовите права и компанията AI Law Consultancy, твърди, че законодателството трябва да влезе в крак с бързия напредък в изкуствения интелект през последните години. Съюзният орган призовава за:
- задължение на работодателите да се консултират със синдикатите относно използването на „високорисков” или „натрапчив” AI в работния процес;
- законно право за човешки контрол над решенията;
- промени в законодателството за защита срещу дискриминация чрез алгоритми.
Дискриминацията чрез алгоритми е добре документирана през последните години, често като неволен страничен ефект от използването на системи, които не отчитат расовите пристрастия. Един от най-известните примери е в технологията за разпознаване на лица, която в миналото е била обучена да разпознава белите лица по-лесно от тези от други раси.
Подобни проблеми неотдавна накараха IBM да изостави някои от проектите си по отношение на технологията за разпознаване на лица, определяйки я като „пристрастна”.
TUC посочва също някои скорошни съобщения от шофьори на доставки за Uber Eats, които твърдят, че са били уволнени, след като софтуерът за разпознаване на лица не е успял да ги разпознае. Това доведе дотам, че водачи със 100% рейтинг и хиляди изрядно изпълнени доставки бяха уволнени, защото не са разпознати по лице. Uber отрича това, казвайки, че в процеса винаги е включен човешки преглед, преди дадени водачи да бъдат премахнати от платформата.
Авторите на доклада за TUC, Робин Алън и Дий Мастърс от адвокатска кантора Cloisters, заявиха, че докато AI безспорно може да бъде от полза, то „използван по грешен начин, може да бъде изключително опасен”.
„Вече е факт, че важни решения се взимат от машини”, заявиха Алън и Мастърс в съвместно изявление. „Отчетността, прозрачността и точността трябва да бъдат гарантирани от правната система чрез внимателно изработените правни реформи. Има ясни граници, които не трябва да се пресичат, за да не се обезчовечи работата”.