Повечето компании у нас са предубедени за данните на изкуствения интелект

В следващите няколко години изкуственият интелект ще се използва все повече в процесите на компаниите за вземане на решения (снимка: CC0 Public Domain)

Над три четвърти (79%) от големите компании в България имат предубеждения за данните на изкуствения интелект. Те осъзнават нуждата да адресират проблема, но срещат трудности в ефективното справяне с него, сочат резултатите от глобално проучване на Progress, озаглавено „Предубежденията в данните: Скритият риск на изкуствения интелект” и проведено от британската агенция Insight Avenue.

Предубежденията често идват от културните и лични преживявания на хората. Когато данните се събират и използват за обучение на модели за машинно самообучение, тези модели наследяват предубежденията на хората, които ги създават. Това води до неочаквани и ощетяващи резултати, отбелязват авторите на проучването, в което са участвали над 640 бизнес и ИТ лидери от компании с над 500 служители от целия свят, вкл. България.

Въпреки потенциалните проблеми от финансов, етичен и правен характер, липсва разбиране за необходимите обучения, процеси и технологии, с които успешно да се адресира проблемът, подчертават от Progress.

Проучването показва, че 95% от ИТ и бизнес лидерите в България смятат, че ще разчитат повече на изкуствен интелект в процесите на компаниите си за вземане на решения в следващите няколко години, но само 13% имат установени процеси и политики за справяне с наличието на предубеждения в данните.

Сред ключовите причини за това са липсата на разбиране на възможните предубеждения в данните (39%) и на добри практики за установяването на подобни нередности (37%).

Резултатите от проучването в България сочат още, че:

• 82% от бизнес и ИТ лидерите смятат, че предубежденията в данните ще се превърнат в по-сериозен проблем с все по-широкото ползване на изкуствен интелект и машинно обучение;
• 79% посочват, че към момента в компаниите им съществуват предубеждения в данните;
• 76% смятат, че трябва да работят повече в посока справяне с този проблем;
• 95% считат, че въвеждането на процеси за елиминиране на предубежденията в данните ще повиши доверието в използването на изкуствен интелект в компаниите им;
• 84% твърдят, че разбирането и адресирането на предубежденията в данните е обществен дълг на компаниите, въпреки това само 58% споделят, че лидерите на техните организации са активно ангажирани с решаването на проблема.

„Загуба на клиентско доверие, регулаторни проблеми и рискове за сигурността на бизнеса са само част от последствията на наличието на предубеденост в данните и алгоритмите”, коментира Симеон Стойчев, вицепрезидент „ИТ инфраструктура и операции” в Progress.

По неговите думи, предотвратяването на предубежденията в данните на ранен етап включва комбинация от технологии, обучения и процеси, а отговорността се носи от всички, които ги използват. „Само така можем да сме сигурни, че изкуственият интелект ще работи в полза на хората и бизнеса”, заключи Стойчев.