Изкуственият интелект може да донесе 15 пъти по-добра възвръщаемост, ако му имаме доверие, показва международно проучване. Служителите пренебрегват решенията на AI, когато не ги разбират, и това затруднява организациите в постигането на възвръщаемост от инвестициите в изкуствен интелект.
Прилагането на надеждни практики за изкуствен интелект стои зад успеха на организациите, които извличат най-голяма печалба от инвестициите си в AI, сочи нов доклад на американската компания SAS, базиран на изследователски анализ на IDC. Организациите, които прилагат такива мерки, имат 15 пъти по-голям шанс да отчетат силна възвръщаемост на инвестициите от своите AI проекти.
Според доклада „Въздействие на данните и AI: новата икономика на доверието“, организациите с най-силни практики за управление, качество на данните и възможности за одит, се представят много по-добре от останалите. Те отчитат поне двойно по-висока възвръщаемост от внедряването на AI, макар да са относително малка част от пазара.
За сравнение, по-малко от една на всеки 20 компании, които изостават в прилагането на надежден AI, могат да се похвалят с подобни резултати. Това показва проучване, проведено в 28 държави и обхващащо основно секторите банкиране, застраховане, бионауки и публичен сектор.
„Когато изкуственият интелект работи, ефектът е невероятен“, казва Брайън Харис, главен технологичен директор в SAS. „Въпреки това е добре известно, че съвременните AI агенти могат да грешат в над 25% от случаите при сложни задачи – което е неприемливо при вземането на важни решения”.
За да се постигне точност, компаниите трябва да вложат експертни познания в процесите и да държат хората в центъра на контрола. Тези, които успеят, ще затворят пропастта на доверието, ще спечелят предимство на пазара, допълва Харис.
„С нарастването на автономността на изкуствения интелект, компаниите се изправят пред ново предизвикателство: как да запазят доверието в системи, които хората не разбират напълно“, казва Крис Маршал, вицепрезидент в IDC. „Нашите резултати показват, че по-силният контрол, прозрачността, отговорността и надеждната основа от данни се превръщат в задължителни условия за успешното използване на AI“.
Основните изводи от доклада обхващат три теми:
AI, който не може да се обясни, е сериозен бизнес риск
Изследователите са установили, че в много организации служителите все по-често се колебаят дали да разчитат на системи, които може да предоставят правилни резултати, но не могат да обяснят как са достигнали до тях. С увеличаване на автономността на AI този риск се задълбочава. Затова е изключително важно организациите да разбират как AI взима решенията си.
Докладът разглежда и едно от основните препятствия пред успешното внедряване на AI: липсата на доверие, която кара служителите да отменят решенията на AI и да извършват ръчни корекции. Това задълбочава проблема с надеждността на AI и води до загуба на време, продуктивност и печалба.
Тъй като качеството на решенията на AI зависи от качеството на данните, върху които е обучен, изграждането на стабилна основа от данни е от решаващо значение за намаляване на случаите на намеса от страна на служителите.
Ключови констатации:
- 97,2% от потребителите променят или отменят препоръките, генерирани от AI, поне в някои случаи;
- Основната причина служителите да отменят решение на AI, независимо дали резултатът е бил правилен, е невъзможността системата да обясни своята логика;
- Доверието спада от 76% при генеративния AI до 66% за автономните AI агенти, което подчертава нарастващите притеснения с увеличаването на тяхната самостоятелност.
Надеждните практики за AI водят до бизнес успех
Докладът разкрива нарастваща пропаст във възвръщаемостта между компаниите, които залагат на надеждни практики при изкуствения интелект, и тези, които не го правят. Резултатите показват, че организациите, които извличат най-голяма полза от AI, не непременно използват различни технологии, а по-скоро управляват AI по различен начин.
Ключови констатации:
- Организациите, инвестиращи в мерки за надежден AI, са 15 пъти по-склонни да отчетат висока или много висока възвръщаемост на инвестициите от своите AI проекти (62% срещу 4%);
- Организациите с най-добри практики за надежден AI постигат 1,85 пъти по-добри резултати по 13 различни бизнес показателя, включително ръст на приходите, спестяване на разходи и подобряване на клиентското преживяване;
- 85% от тези лидери в областта на AI увеличават инвестициите си в надежден AI с повече от 10% през тази година, като по този начин разширяват разликата в представянето си спрямо останалите.
Твърде много организации губят време и средства, заради слаба основа от данни
Повечето организации внедряват AI върху недостатъчно развити или остарели данни и инфраструктура за данни. Без стабилна основа, която да осигурява прозрачност и обяснимост, организациите трудно управляват ефективно AI и реализират стойност от него.
Ключови констатации:
- Само 17,5% от компаниите разполагат с напълно оптимизирана инфраструктура за данни, достатъчно зряла за изискванията на AI агенти;
- Организациите с оптимизирана основа от данни са четири пъти по-склонни да очакват висока възвръщаемост от AI проекти и са шест пъти по-склонни да прилагат изисквания за качество на данните и механизми за обяснимост, необходими за изграждане на доверие.
По-задълбочен поглед
Констатациите в доклада се основават на глобално проучване сред 2 699 ръководители и експерти, които имат познания или влияние върху инициативите за данни и AI в своите организации. Проучването е проведено в 28 държави и обхваща четири основни сектора: банкиране, застраховане, бионауки (фармацевтика, биотехнологии, медицина, биохимия и здравеопазване) и публичен сектор.
Ключови изводи по индустрии:
- Банковите лидери разглеждат доброто управление на AI не само като регулаторно изискване, а и като конкурентно предимство и оперативна необходимост. 85% от водещите банки са изградили рамки за управление на ИИ, в сравнение с едва 29% от изоставащите;
- 41% от лидерите в публичния сектор планират да увеличат инвестициите си в надежден AI с повече от 20% през следващата година;
- 23% от организациите в сектора на бионауките са внедрили AI в мащаб за цялата компания, което е най-високият дял сред всички изследвани индустрии.
Какво прави AI надежден?
Надеждният AI е изкуствен интелект, създаден така, че да бъде надежден, справедлив, сигурен, съобразен с регулаторните изисквания и способен ясно да показва как е стигнал до дадено решение.
Потребителите и лицата, вземащи решения на всички нива в организацията, трябва да могат да държат AI системите отговорни за неправилни или липсващи резултати. Освен това всяка AI система трябва да бъде управлявана и да доказва съответствие с ясно определени правила.
Какво прави една организация лидер в надеждния AI?
В рамките на проучването организациите са оценени по пет измерения на надеждния AI с максимален резултат от 100 точки. За лидери са определени организациите със среден резултат от 80 точки или повече.
Оценяването е извършено по следните критерии:
- Качество на данните и управление на данните.
- Управление и контрол на моделите.
- Обяснимост и справедливост.
- Политики за отговорен AI.
- Одит и отчетност.
