Недостатъчно строгото регулиране на изкуствения интелект може не само да не подобри безопасността, но и да я влоши. Ново изследване показва, че ако нормативните изисквания обхващат само част от компаниите в екосистемата на AI, те могат да създадат погрешни стимули и да намалят инвестициите в сигурността на технологиите.
Слабото регулиране на изкуствения интелект може да бъде по-вредно от липсата на регулации, когато става въпрос за безопасността на продукти и услуги, базирани на AI. До този извод стига ново моделиращо изследване на учени от университетите Корнел и Карнеги Мелън.
На фона на отсъствието на всеобхватна федерална регулация в САЩ отделните щати приемат собствени правила за изкуствения интелект. Все още обаче не е ясно как тази фрагментирана нормативна рамка влияе върху стимулите на компаниите да инвестират в безопасността на своите системи.
За да анализират този въпрос, изследователите разработват теоретичен модел, който оценява ефекта от различни регулаторни подходи. Той разглежда както компаниите, създаващи фундаментални модели с общо предназначение – като тези зад популярните чатботове, така и фирмите, които използват тези модели в конкретни приложения, например системи за обслужване на клиенти или медицински диагностични решения.
Авторите се надяват резултатите да подпомогнат разработването на по-ефективни политики за регулиране на продуктите с изкуствен интелект.
Как регулациите влияят върху стимулите
„Целта на регулирането трябва да бъде взаимната полза за всички в обществото. Това включва не само разработчиците на технологията, но и крайните потребители и обществото като цяло“, казва Бенджамин Лауфер, водещ автор на публикацията „Перверзните ефекти от слабите регулации за безопасността при AI”, публикувана в списание Proceedings of the National Academy of Sciences.
Моделът е разработен съвместно с професора от Корнел Джон Клайнберг и доц. Хода Хейдари от Карнеги Мелън. Той позволява да се задават минимални изисквания за безопасност както към разработчиците на базовите AI модели, така и към компаниите, които ги внедряват в крайни продукти, след което се оценява влиянието върху безопасността и производителността.
Според Лауфер, повечето предложения за регулиране на AI все още са на концептуално ниво. Именно затова моделирането на потенциалните ефекти е важно, преди подобни правила да бъдат въведени в практиката.
Кога слабите правила създават повече риск
Един от най-изненадващите резултати е, че регулации, насочени единствено към компаниите, които разработват крайни приложения с AI, могат да доведат до по-ниска безопасност в сравнение със сценарий без никакви регулации, ако изискванията са твърде слаби.
В изследването безопасността се разглежда широко и включва всички потенциални вреди за потребителите, като например генериране на токсично съдържание от чатботове или други рискове, произтичащи от работата на системите.
При подобен модел разработчиците на базовите AI модели могат да намалят инвестициите си в мерки за безопасност, включително независими одити и проверки, защото знаят, че крайната отговорност остава за компаниите, които изграждат приложенията.
„Наблюдава се ефект на безплатното възползване. Регулацията позволява на доставчика на базовия модел да прехвърли тежестта за безопасността върху разработчика на крайното приложение”, обяснява Лауфер.
Споделената отговорност носи по-добри резултати
Изследването показва и обратната тенденция. Когато регулациите поставят ясни изисквания едновременно към разработчиците на фундаментални модели и към компаниите, които ги внедряват, крайният резултат може да бъде едновременно по-висока безопасност и по-добри икономически резултати.
Според авторите, това намалява риска и за двете страни, защото никоя компания не трябва да разчита единствено на обещанията на партньора си, че ще направи необходимите инвестиции в сигурността.
„Добре проектираната регулация може да помогне на всички участници във веригата за разработване на AI да постигнат по-добри резултати за потребителите, тъй като всяка компания ще може по-надеждно да предвижда действията на останалите”, коментира Джон Клайнберг.
Следващата стъпка е моделът да стане по-близък до реалността
Авторите подчертават, че настоящото изследване представлява опростен теоретичен модел. В следващ етап те планират да анализират как реалните регулации влияят върху разработването и безопасността на системите с изкуствен интелект.
Моделът може да бъде разширен и така, че да отчита множество регулатори с различни изисквания, както и конкуренцията между различни доставчици на базови модели и разработчици на приложения.
„Често възприемаме AI като единна технология, но всъщност зад нея стои сложна екосистема от участници, всеки със собствен принос. Ако искаме ефективна регулация, трябва да разглеждаме цялата верига на създаване и внедряване на AI, а не само отделните компании“, заключава Лауфер.
