Антропология на изкуствения интелект: новата наука

Алгоритмите, които са в основата на голяма част от съвременните технологии, станаха толкова сложни, че не винаги можем да прогнозираме какво ще решат да правят. Радикалната идея на един учен гласи: най-добрият начин да ги разберем е да наблюдаваме тяхното поведение. Накратко, антропология на изкуствения интелект.

Ияд Рахуан, директор на Центъра за хора и машини в Института за човешко развитие „Макс Планк”, твърди, че „машините влияят на нашия живот и с изкуствения интелект те все повече имат своеобразна собствена воля”. Рахуан е убеден, че светът днес има нужда от нова наука: антропология на изкуствения интелект.

Въпроси

Идеята се заражда през октомври 2017 г., когато той и Мануел Чебриан – колега от медийната лаборатория на MIT – седят в Харвард Ярд и обсъждат как най-добре да опишат предпочитаната от тях категория мултидисциплинарни изследвания. Бързият възход на технологиите за изкуствен интелект вече е породил редица нови въпроси за връзката между хората и машините.

Младите учени искат да проучат тези въпроси, разказва Quanta Magazine. Рахуан, например, е озадачен от въпроса за етичното поведение на автомобила със самостоятелно управление – трябва ли да се отклони, за да избегне идващия насреща джип, ако това означава да се удари с велосипедист?

„Бях добри приятели с Аййн Кузин, един от най-големите световни специалисти по животинско поведение. Помислих си, а той защо не изучава онлайн ботове? Защо само компютърни учени изучават алгоритмите на изкуствения интелект?”. Тогава му хрумва, че неговите размишления всъщност предполагат изучаването на „поведението в нова екосистема”.

Днес Рахуан сега ръководи Центъра за хора и машини към Института за развитие на човека „Макс Планк” заедно с екип от 22 колеги. Те са дошли от толкова разнообразни дисциплини – роботика, компютърни науки, социология, когнитивна психология, еволюционна биология, изкуствен интелект, антропология и икономика. Рахван и екипът му призовават за откриването на ново поле в науката, наречено „машинно поведение”.

Задачи

Пряко вдъхновено от четирите въпроса на биолога Николай Тинберген, носител на Нобелова награда – който анализира поведението на животните по отношение на техните функции, механизми, биологично развитие и еволюционна история – „машинното поведение” ще има за цел емпирично да проучва как машините с изкуствен разум взаимодействат „в природата” с хората, със своята среда и помежду си.

Специалистът по машинно поведение може да изучава детска играчка, захранвана от ИИ, алгоритъм за класиране на новини в социална мрежа или парк от автономни превозни средства. Но за разлика от инженерите, които проектират и изграждат тези системи, за да оптимизират тяхната работа, специалистът по машинно поведение ще ги изучава отвън навътре – точно както теренният биолог изследва поведението при ято птици, или както икономист наблюдава как хората пестят пари за пенсия.

„Причината, поради която харесвам термина „машинно поведение”, в това, че се подчертава, че най-важното е наблюдаваните, а не незабележимите характеристики на тези създания”, каза Рахуан.

Основания

Той смята, че изучаването на поведението на машината е наложително поради две причини. Първо, автономните системи засягат все повече аспекти от живота на хората. Те влияят на всичко – от индивидуалните кредитни оценки до възхода на екстремизма в политика.

Но в същото време „поведенческите” резултати от работата на тези системи – като например бързото разпространение на дезинформация в социалните медии – са трудни за предвиждане за хората, ако се основаваме само на машинния код или конструкцията.

„Това е изключително важен аспект при машините – той който няма нищо общо с това как са изградени”, казва Рахуан. „Въпросът е не как са замислени, а как и какво правят”.

„С този термин – „машинно поведение” – ние казваме на света, че машините сега са важни участници в ежедневието. Може би те нямат свободна воля или някакви законови права, каквито ние приписваме на хората, но въпреки това са участници – те влияят на света по начини, които трябва да разберем“.

Поведение или функционалност

Някои специалисти оспорват използването на понятието „поведение”. Според тях, тази дума е подходяща в случаите, когато става дума за съзнателни съществуват с разум и свободна воля.

„Но за мен поведението не означава, че има пълноправност [в смисъла на свободна воля]. Можем да изучаваме поведението на едноклетъчните организми или мравките – „поведение” не означава непременно, че става дума за нещо супер интелигентно.

Това просто означава, че нашият обект на изследване не е статичен – това е динамиката на обекта, как той взаимодейства със света и какви са факторите, които определят тази динамика. Той получава сигнали от околната среда, възприема околните параметри, научава се на някакви неща”, казва Рахуан.

Сигурен е, че с течение на времето ще се стигне до момента, когато машините започват да проявяват видове поведение, което са съвсем нови за човека, непознати, непредвидени. Тогава „машинното поведение” ще е важна наука, защото ще наблюдава тези прояви и ще ги изучава така, както биолозите изучават поведението на пчелите, например.