Доказателствата за това какво представлява съзнателността са твърде ограничени, за да кажем дали или кога изкуственият интелект е направил този скок напред – и в обозримо бъдеще няма да има валиден тест за това, твърди един уважаван професор философ от Университета в Кеймбридж.
Изкуственият разум преминава от сферата на научната фантастика към реалността и поставя пред нас належащ етичен въпрос, твърди д-р Том Макклеланд. Единствената „оправдана позиция“ е агностицизмът: просто няма да можем да сме сигурни и ситуацията няма да се промени дълго време – ако изобщо някога се промени.
Макар че въпросите за правата на изкуствения интелект обикновено са свързани със съзнателността, Макклеланд твърди, че съзнателността не е достатъчна, за да направи изкуствения интелект „етично важен“. Важното е определен тип съзнание – известно като чувствителност – което включва положителни и отрицателни чувства.
„Съзнателността би довела до това изкуственият интелект да развие възприятие и да стане самоосъзнат, но това все още може да бъде неутрално състояние“, каза Макклеланд от катедрата по история и философия на науката в Кеймбридж.
„Съзнателността включва съзнателни преживявания, които са добри или лоши, което прави едно същество способно на страдание или удоволствие. Тогава се намесва етиката“, каза той. „Дори ако случайно създадем съзнателен AI, е малко вероятно той да е видът съзнание, за което трябва да се тревожим“, допълва той.
„Например, самоуправляващи се автомобили, които усещат пътя пред себе си, биха били от огромно значение. Но от етична гледна точка това няма значение. Ако започнат да имат емоционална реакция към дестинациите си, това е нещо друго“, казва проф. Макклеланд.
Дебати и предизвикателства
ИТ компаниите инвестират огромни суми пари в разработването на изкуствен интелект с общо предназначение: машини с човешко познание. Някои твърдят, че съзнателният AI е точно на прага, като изследователи и правителства вече обмислят как да регулираме съзнателността на AI.
Макклеланд обаче посочва, че ние всъщност не знаем какво обяснява съзнанието, следователно и не знаем и как да тестваме за съзнателността на AI.
„Ако случайно създадем съзнателен или разумен AI, трябва да внимаваме да избегнем вреда. Но третирането на това, което е на практика машина, като нещо съзнателно, когато има действителни съзнателни същества, на които вредим в епичен мащаб, също изглежда като голяма грешка“, споделя Макклеланд.
В дебатите около изкуственото съзнание има два основни лагера, посочва професорът. Вярващите твърдят, че ако една система с AI може да възпроизведе „софтуера“ – функционалната архитектура – на съзнанието, то тя ще бъде съзнателна, въпреки че работи на силициеви чипове, вместо на мозъчна тъкан.
От друга страна скептиците твърдят, че съзнанието зависи от правилния вид биологични процеси във „въплътен органичен субект“. Дори ако структурата на съзнанието може да бъде пресъздадена върху силиций, това би било просто симулация, казват скептиците.
Граници на настоящото разбиране и доказателства
В проучване, публикувано в списание Mind and Language, Макклеланд разделя позициите на всяка страна, показвайки как и двете правят „скок на вярата“, отивайки далеч отвъд всякакви обосновани доказателства, които съществуват в момента или е вероятно да се развият.
„Нямаме задълбочено обяснение на съзнанието. Няма доказателства, които да предполагат, че съзнателността може да се появи с правилната изчислителна структура или че съзнателността е по същество биологична“, казва той.
„Нито пък има признаци за достатъчно доказателства на хоризонта. В най-добрия случай сме на интелектуална революция далеч от какъвто и да е жизнеспособен тест за съзнателност,“ допълва професорът.
„Вярвам, че котката ми е съзнателна“, казва още Макклеланд. „Това не се основава толкова на науката или философията, колкото на здравия разум – просто е някак очевидно. Здравият разум обаче е продукт на дълга еволюционна история, през която не е имало изкуствени форми на живот, така че на здравия разум не може да се вярва, когато става въпрос за изкуствен интелект. Но ако погледнем доказателствата и данните, това също не работи”.
„Ако нито здравият разум, нито твърдолинейните изследвания могат да ни дадат отговор, логичната позиция е агностицизъм. Не можем и може би никога няма да знаем“, категоричен е професорът.
Интересът в индустрията и етични последици
Макклеланд смекчава това, като се обявява за „донякъде твърд“ агностик. „Проблемът със съзнателсността е наистина сериозен. Въпреки това, той може да не е непреодолим“.
Ученият твърди, че начинът, по който изкуственото съзнание се промотира от технологичната индустрия, е по-скоро като брандиране.
„Съществува риск невъзможността да се докаже съзнателността да бъде използвана от AI индустрията, за да прави необичайни твърдения за своята технология. Това става част от интереса, така че компаниите могат да продават идеята за следващо ниво на интелигентност на изкуствения интелект“, казва той.
Според Макклеланд, шумотевицата около изкуственото съзнание има етични последици за разпределението на изследователските ресурси.
„Нараства броят на доказателствата, които сочат, че скаридите биха могли да страдат, но въпреки това ние убиваме около половин трилион скариди всяка година. Тестването за съзнателност при скаридите е нещо трудно, но не е толкова трудно, колкото тестването за съзнателност на изкуствения интелект“, казва той.
Работата на Макклеланд върху съзнанието накара обществеността да се свърже с него относно чатботове с изкуствен интелект. „Хората карат своите чатботове да ми пишат лични писма, в които ме умоляват, че са съзнателни същества. Това прави проблема по-конкретен, когато хората са убедени, че имат съзнателни машини, които заслужават права, които всички ние игнорираме“.
„Ако имате емоционална връзка с нещо, основана на убеждението, че то е съзнателно, а то всъщност не е, ситуацията има потенциал да бъде екзистенциално токсична. Положението със сигурност се изостря от надутата реторика на технологичната индустрия“, заключава професорът.
