Въвеждането на задължителен „авариен прекъсвач“ за системите с изкуствен интелект, чието функциониране може да бъде проверявано от трета страна, трябва да се наложи като изискване за компаниите. Това изявление бе направено пред BBC и то не от кого да е, а от съосновател на една от най-големите фирми за изкуствен интелект в света.
Обществото „може би ще поиска в крайна сметка да приеме правила“ относно механизъм за пълно изключване на софтуера с изкуствен интелект, ако той стане твърде опасен, смята Джак Кларк, един от седемте основатели на компанията Anthropic.
Според него, „повечето лаборатории разполагат с различни начини за спиране на системите – включително и Anthropic, – но е възможно да се наложи законодателите да направят наличието на подобен механизъм задължително“.
Бързото развитие на изкуствения интелект и опасенията относно рисковете, които той крие за човечеството, попаднаха във фокуса на общественото внимание след поредица от предупреждения от страна на ръководители и служители във фирми от AI сектора. Някои от тях публично заявиха, че съществува вероятност технологията – ако не бъде контролирана – да унищожи цялото човечество.
През уикенда изпълнителният директор на Anthropic Дарио Амодей призова темпото на развитие на изкуствения интелект да се забави и процесът да се следи по-внимателно (позиция, която компанията е изразявала и преди), въпреки че някои поставиха под въпрос мотивите зад това изказване.
Амодей добави, че всякакви мерки за ограничаване на развитието на изкуствения интелект трябва да се предприемат „без да се жертва търговското предимство“.
Сега Кларк заяви пред BBC, че конкретните детайли относно изискванията за „шалтера“ и тяхната проверка трябва да бъдат част от „по-цялостния дебат за политиките“, свързани с изкуствения интелект.
„Трябва ли да се въведе задължително изискване компаниите непременно да разполагат с авариен прекъсвач? Може ли този прекъсвач да бъде проверен от трета страна?“ – попита той. „Мисля, че това е въпрос, по който обществото ще иска да бъде информирано и за който може би ще пожелае в крайна сметка да приеме правила“.
Компанията Anthropic, създадена през 2021 г. от група бивши служители на конкурентната фирма OpenAI, в момента е в центъра на дебата за безопасността на изкуствения интелект. Миналата седмица в интернет стана хит публикация на изследовател в областта на изкуствения интелект, напуснал Anthropic поради опасения, че технологията може да унищожи човечеството.
В отговор на това ученият от Anthropic Евън Хюбингер заяви, че лично той смята вероятността за изчезване на човечеството вследствие на изкуствения интелект за „над 10% през следващото десетилетие“.
Компютърният специалист и носител на Нобелова награда Джефри Хинтън, известен като „кръстника на изкуствения интелект“, заяви пред BBC в петък, че вероятност от 10% изкуственият интелект да унищожи цялото човечество „не е нереалистична“.
Той и други хора със сходни опасения изказаха предположение, че изкуственият интелект би могъл да направи това, като поеме контрола над важни системи, свързани с интернет, и ги насочи срещу хората.
Някои представители на индустрията за изкуствен интелект обаче смятат, че опасенията относно унищожаването на човечеството са преувеличени или може би целят единствено създаване на шум около технологията.
Клеман Деланг, ръководител на платформата за разработчици Hugging Face (която стана обект на хакерска атака от страна на ботове на OpenAI), заяви миналата седмица: „Извинете, но да питате Джейкъб [Коксън] за риска от изчезване на човечеството заради изкуствения интелект е все едно да питате техника за климатици за климатичните промени“.
Опасенията около инструментите с изкуствен интелект се използват от компаниите в подкрепа на техните бизнес планове, смята Джордж Арисън, ръководител на Grindr.
Американски законодатели вече са готови със законопроект, наречен „Kill Switch Act“ (Закон за аварийно спиране), който би задължил компаниите да разполагат с механизъм за изключване на проблемни инструменти с изкуствен интелект. Той би предоставил на определени държавни органи правомощия да изискват изключването или ограничаването на даден инструмент.
Президентът на САЩ Доналд Тръмп обаче отхвърли призивите за забавяне на развитието на AI, заявявайки в социалните мрежи, че идеята за „AI, който завладява света, унищожава човечеството и върши всякакви други злини, е измама“. Той сравни измама с измамата „глобално затопляне“.
В по-ранна публикация той написа: „Има болна конспирация срещу AI и центровете за данни, а единственият, който се радва на това, е Китай. Който спечели битката за AI, той печели всичко!“.
