Развитието на AI технологиите наближава точката, в която системи, близки до изкуствения общ интелект (AGI), ще могат да изпълняват широк спектър от интелектуални задачи на или над човешкото ниво. Означава ли това, че са необходими регулации и независим надзор над AI? Все по-често се чуват такива гласове.
Главният изпълнителен директор на Google DeepMind, Демис Хасабис, смята, че светът се нуждае от независим орган, който може да оценява най-мощните модели на изкуствен интелект преди тяхното пускане и, ако е необходимо, да координира временни ограничения върху тяхното разпространение.
Хасабис вярва, че настоящото развитие на AI може да доведе до фундаментални промени в икономиката и обществото, така че механизмите за надзор на изкуствения интелект трябва да бъдат установени предварително.
Според него, разработването на глобални регулации за усъвършенствани системи с изкуствен интелект вече не може да бъде пренебрегвано.
В публикация в блога си, озаглавена „Рамка за граничен AI и зората на нова ера”, той предложи създаване на „международна организация под егидата на САЩ, която да наблюдава усъвършенстваните модели с изкуствен интелект и би могла да служи като независим надзорен орган”.
Хасабис смята, че Съединените щати трябва да инициират създаването на такава структура, предвид водещата им роля в разработването на изкуствен интелект и влиянието им върху технологичния пазар.
Предложеният орган, според него, би обединявал експерти по безопасност на изкуствения интелект, представители на научната общност и разработчици на софтуер с отворен код.
Мандатът на надзорния орган би могъл да включва независима оценка на най-мощните модели преди тяхното пускане и препоръчване на мерки за забавяне на разпространението им, ако се считат за потенциално опасни.
Axios твърди, че Хасабис обсъжда инициативата от няколко месеца с представители на американската администрация, други лаборатории за AI и европейски служители. Той очаква новата организация да заработи до края на годината, но в момента няма договорен международен формат за такъв регулатор, нито унифицирана система от правила за AI в САЩ.
Предложението на Google DeepMind е част от по-широка дискусия относно регулирането на най-мощните AI модели. Хасабис, заедно с други технологични ръководители, преди това се застъпваше за по-силна защита срещу потенциалното използване на изкуствен интелект за биологични оръжия.
В същото време представители на индустрията и икономиката предупреждават за необходимостта от предварителна подготовка за потенциални промени на пазара на труда и в световната икономика, поради бързото развитие на изкуствения интелект.
Но създаването на глобален надзорен орган остава сложна задача: държавите оценяват рисковете от AI по различен начин, а водещите технологични компании едновременно се застъпват за регулиране и продължават активно да разработват свои собствени модели.
Предложението на Хасабис по същество повдига въпроса кой и как ще определи допустимите граници за разработване на най-мощните системи с изкуствен интелект.
