Хокинг и Мъск искат забрана на автономните AI оръжия

Докато обсъждат някой проблем, описан от научната фантастика, много хора са склонни веднага да отсекат, че това не може да бъде реален проблем – та нали е само научна фантастика – и че е „глупаво” да се спори по него. Известна доза наблюдателност или пък просто поглед назад в миналото показват, че историята сочи друго: вчерашната фантастика може да бъде утрешната реалност. Е, да, не всичко от фантастиката се превръща в действителност, но някои неща се случват. И то завидно бързо.

Братята Райт създават първия работещ самолет, способен да носи човек, през 1903 г. Едва няколко години по-късно самолетите вече се използват в Първата световна война. Още по-интензивна е тяхната употреба през Втората световна война. Самолетът „Конкорд” лети два пъти по-бързо от скоростта на звука през 1969 г. – няма и „един човешки живот” време след първия полет на Райт!

Мнозина от нас са живи свидетели на бума на интернет. Някога това беше само една академична мрежа, свързваща няколко хиляди много бавни компютри. Днес това е нещо, което свързва милиарди хора. И повечето от тях носят в джоба си компютър – малък, но много по-мощен от онези големи изчислителни машини преди 15-ина години – свързан към това чудо интернет и от безжично.

Гигантската мрежа е дом на видео с висока резолюция и милиарди страници текст, милиарди изображения. Всичко това може да се „прерови” в търсене на дадена дума – действие, което отнема части от секундата, благодарение на механизми за изкуствен интелект (AI). Търсенето на игла в купа сено вече не е проблем! Какво повече да си говорим за бързия напредък?!

Но когато научната фантастика става реалност (като автономните коли или джобните супер-компютри), ние бързо свикваме с новото. Бързо го приемаме за даденост, дори ако едно-две десетилетия по-рано никой не е смеел да си представи подобно нещо.

Подобна рязка промяна е на път да се случи с военните приложения на изкуствения интелект (AI). Група от видни умни хора, сред които 1632 изследователи в областта на роботиката и изкуствения интелект, са написали отворено писмо с искане за забрана на опасните автономни оръжия, които са извън разумния човешки контрол.

Ето част от текста на отвореното писмо: „Автономните оръжия избират и преследват целите си без човешка намеса. Те биха могли да включват, например, въоръжени квадрокоптери, които могат да търсят и да елиминират хора, отговарящи на определени – предварително дефинирани – критерии. Това не включва крилати ракети или дистанционно управлявани безпилотни дронове, за които хората правят разумни и целенасочени решения.

Технологията на изкуствения интелект е достигнал точката, където разполагането на такива системи е – на практика, ако не и законно – осъществимо в рамките на няколко години, а не на цели десетилетия. Залозите са големи: автономните оръжия се описват като третата революция във военното дело след барута и ядрените оръжия.

Има много аргументи за и против автономните оръжия. Например този, че замяната на войниците-човеци от машини е добра, защото ще намали броя на жертвите; замяната е лоша обаче, защото ще свали „прага” за навлизане в битка.

Ключовият въпрос за човечеството днес е дали да започне глобална надпревара за въоръжаване с AI машини или да попречи това да се случи. Ако коя да е голяма военна сила се втурне да прилага AI оръжия, глобалната надпревара е почти неизбежна и крайната точка на тази технологична траектория е очевидна: автономните оръжия ще станат калашниците на утрешния ден.

За разлика от ядрените оръжия те не се нуждаят от скъпи или трудно-достъпни суровини. Затова бързо ще станат повсеместни и евтини за всички значителни военни сили, които пожелаят масово производство на такива оръжия. Тогава ще бъде само въпрос на време да се появят подобни средства на черния пазар или да влязат в ръцете на терористи, на диктатори, които искат по-добре да контролират населението си, на военачалници, които мечтаят за етническо прочистване, и т.н.

Автономните оръжия са идеални за задачи като убийства на известни личности, дестабилизиране на цели нации, покоряване на нови територии и селективно унищожаване на определена група (напр. етническа).

Ето защо имаме пълно основание да вярваме, че една надпревара в AI въоръжаването не би била от полза за човечеството. Има много начини, по които изкуственият интелект може да направи бойните полета по-безопасни за хората, особено за цивилните граждани, без да се създават нови инструменти за убиване.

Точно както повечето химици и биолози нямат интерес да създават химически или биологични оръжия, и повечето AI изследователи нямат интерес да разработват AI оръжия. Освен това те не искат други „колеги” да опетнят тази област и по този начин да създадат лоша обществена нагласа към AI, което ще ограничи бъдещите ползи от тези технологии за обществото.

Наистина, химиците и биолозите подкрепят международните споразумения, които забраняват химическите и биологическите оръжия, и по същия начин повечето физици подкрепят договорите за забрана на космически-базираните ядрени оръжия.

Накратко, ние вярваме, че AI има голям потенциал да донесе ползи на човечеството по много начини, както и че целта на тези технологии трябва да е именно такава. Започването на надпревара за AI въоръжаване е лоша идея и тя трябва да бъде предотвратена чрез забрана за употребата на автономни оръжия без разумен човешки контрол”.

Част от подписалите се под тази декларация са: Елън Мъск, Стивън Хокинг, Стив Возняк (съсновател на Apple), Джин Талин (създател на Skype) и др.