Напрежение в AI общността заради робот-убиец

Водещи експерти в сферата на изкуствения интелект от цял свят обявиха бойкот на южнокорейските си колеги, работещи по създаване на военен робот-убиец, съобщи The Verge.

Повече от 50 от най-известните изследователи в областта на изкуствения интелект (AI) и роботиката решиха да бойкотират колегите си от Корейския институт за перспективни технологии (KAIST), заради участието им в проект за създаване на военни AI системи.

Бойкотът бе обявен в навечерието на дискусия под егидата на ООН за нуждата от налагане на международни ограничения върху създаването на т.нар. роботи-убийци, която ще се състои идната седмица.

По-рано тази година KAIST обяви плановете си да създаде съвместен изследователски център с южнокорейската компания Hanwha Systems, ангажирана с военни разработки. Според публикация на The Korean Times, в рамките на проекта партньорите възнамеряват да разработят технологии с изкуствен интелект за използване в оръжия, които ще позволят унищожаване на цели без участието на човек.

Инициатор на бойкота срещу KAIST е професор Тоби Уолш от Университета в Нов Южен Уелс (Австралия). Според него, надпреварата за създаване на автономни оръжия вече е започнала, а прототипи на такива системи разработват в момента редица страни, вкл. САЩ, Китай, Русия и Великобритания.

В конкретния случай действията на KAIST допринасят за ускоряване на тази надпревара във въоръжаването. Бойкотът, който се свежда до преустановяване на всякакви контакти и научно сътрудничество с KAIST, бе подкрепен от редица известни учени в AI сферата.

Прекратяване на бойкота е възможно, ако представителите на корейския институт убедят общността, че оръжията, разработени с тяхно участие, ще бъдат под „значителен човешки контрол“.

Възможно е обаче Уолш и неговите поддръжници да са избързали с решението за бойкот, отбелязва Times Higher Education. Сун-Чол Шин, президент на KAIST, твърди, че институтът не разработва автономни оръжия.

„Като академична институция, ние ценим човешките права и етични стандарти. KAIST няма да извършва каквито и да е изследвания в разрез с човешкото достойнство, включително разработване на автономни оръжия, без достатъчно човешки контрол”, казва Шин.

Във връзка с това изявление Тоби Уолш коментира, че ще трябва да се консултира със своите съмишленици за по-нататъшни действия. В същото време той подчертава, че Шин е оставил няколко въпроса за KAIST без отговор.

Един от най-изявените противници на безконтролното развитие на роботиката и системите с изкуствен интелект е основателят на SpaceX и Tesla – Илон Мъск, който редовно предупреждава за заплахата от въстание на машините. Така например, през август миналата година той беше сред 116-те експерти, подписали писмо до ООН с призив за международна забрана на автономните смъртоносни оръжия, известни още като „роботи-убийци“.

През юли 2017 г. Илон Мъск призова властите да създадат организация, която да наблюдава развитието на технологиите за изкуствен интелект. Той лансира предложението си на срещата на Националната асоциация на губернаторите на САЩ.

По-късно идеята на Мъск коментира основателят и главен изпълнителен директор на Facebook, Марк Зукърбърг, който нарече подобни предупрежденията „безотговорни“. Вече покойният британски астрофизик Стивън Хокинг също изразяваше често своята загриженост от безконтролното развитие на технологиите за изкуствен интелект.

Коментари по темата: „Напрежение в AI общността заради робот-убиец”

добавете коментар...

  1. asd

    T-1000

  2. Anonymous

    T-600

Коментар