Поверителността на данните и халюцинациите са най-големите рискове за сектора на финансовите услуги, породени от изкуствения интелект (AI), докато половината от глобалните регулатори едва наваксват с технологиите, според ново глобално проучване.
80% от регулаторите виждат поверителността и защитата на данните като основен риск във финансовия сектор, според изследване на Judge Business School към Университета в Кеймбридж. 70% смятат, че същото важи за халюцинациите, причинени от AI, и ненадеждните резултати от AI.
Оперативната устойчивост, непрозрачността на моделите и липсата на обяснимост, загубата на човешки надзор, враждебните киберзаплахи, свързани с AI, и алгоритмичните изкривявания са следващите най-сериозни рискове, според регулаторите.
За изследването са анкетирани 628 глобални финансови организации, включително централни банки, фирми за финансови услуги и доставчици на технологии. Банката за международни разплащания, Международният валутен фонд и Световният икономически форум също участваха в проучването, което беше проведено в сътрудничество с Financial Innovation for Impact.
80% от фирмите за финансови услуги внедряват изкуствен интелект до известна степен, според данните, като използването му в разработването на софтуер е най-зряло. В същото време обаче почти половината (48%) от 130-те анкетирани регулаторни органа заявяват, че „все още са в етап на „проучване“ за внедряване на изкуствен интелект или изобщо не се занимават с изкуствен интелект“.
Регулаторите обаче са „като цяло оптимистично настроени относно ролята на изкуствения интелект“, според доклада от проучването. 78% посочват изкуствения интелект като „значителен или трансформиращ за подпомагане на целите им до 2030 г.“.
Почти една трета (29%) оценяват изкуствения интелект като потенциално трансформиращ. 49% очакват той да подпомогне финансовото приобщаване, в сравнение с 12%, които го виждат като предизвикателство. Около 42% вярват, че технологията ще помогне в борбата с финансовите престъпления, срещу 18%, които казват, че ще я направи по-трудна.
Мащабът и темпът на внедряване на изкуствен интелект във финансовите услуги са „наистина забележителни“, коментира Брайън Джанг, изпълнителен директор на Центъра за алтернативни финанси в Кеймбридж и изпълнителен председател на „Финансови иновации за въздействие“.
„Четири от пет фирми вече внедряват изкуствен интелект на някакво ниво, агентните системи са навлезли в масовия поток и реални печалби от производителност и рентабилност се усещат в цялата индустрия, макар и неравномерно“, каза той.
В същото време данните от изследването рисуват сектор, който се ориентира не съвсем добре в този много динамичен и сложен пейзаж, с фрагментирани мнения, изразени от индустрията, регулаторните органи и доставчиците на изкуствен интелект по въпроси като къде е отговорността, когато нещата се объркат, посочва Джанг.
Неясноти витаят и около рискове като киберуязвимостите, които се усложняват по-бързо, отколкото могат да бъдат контролирани от човека. „Възможността е огромна – както и отговорността за правилно управление и укрепване на доверието“, заключава той.
