Напредъкът на AI системите, които бързо се вплитат в ежедневието ни, започва да изпреварва нашето разбиране за тях. В същото време разбирането на AI за човешкото поведение се разширява, предупреждават в скорошна редакционна статия, публикувана в Science, главният научен директор на Microsoft Ерик Хорвиц и изследователят Робърт Уест от Училището по компютърни и комуникационни науки в EPFL в Швейцария.
Има три основни области, в които AI става все по-малко разбираем. Първата е възходът на AI дизайна, насочен от AI, при който самият изкуствен интелект все повече проектира и подобрява други AI системи. Авторите казват, че циклите, участващи в този процес, изпреварват човешкото разбиране и се случват в „многомерни пространства, които се съпротивляват на интуицията“. Макар производителността на системите да може да се подобри, хората трудно разбират защо или как се случва това.
Втората тенденция са взаимодействията между AI агентите. Сега те могат да формират мултиагентни екосистеми в голям мащаб, чиято вътрешна комуникация може да се отдалечи от човешкия език и разсъждения. Тъй като новообразуваните взаимодействия и комуникации с изкуствен интелект стават все по-сложни, хората стават по-малко способни да ги интерпретират.
Не на последно място адаптивните AI агенти бързо научават повече за човешкото поведение, създавайки едностранчива ситуация, в която изкуственият интелект ни разбира по-добре, отколкото ние разбираме него. Докато анализират неизброими количества данни от взаимодействия с хора и данни, показващи как хората взаимодействат помежду си, AI системите започват да ни разбират по-добре, отколкото ние самите разбираме себе си, и със сигурност по-добре, отколкото ние разбираме тях.
„Чрез продължително взаимодействие те могат да изграждат все по-подробни модели на човешкото поведение и психология, улавяйки не само предпочитанията, но и скрити двигатели като страх, несигурност и нуждата от социална принадлежност,“ пишат учените.
Надвисналата заплаха от непрозрачност
И така, какво се случва, когато системите с изкуствен интелект достигнат точка отвъд човешкото разбиране?
Авторите предупреждават, че без силни контрамерки тази „непрозрачност“ може да ни направи зависими от системи с изкуствен интелект, които са мощни, но ефективно неуправляеми от хората. Ако това се случи, възстановяването на човешката активност може да се окаже възможно. Този дисбаланс в разбирането може да повлияе на личната независимост, демократичното вземане на решения и доверието в институциите.
Със задълбочаването на разбирането на AI за хората може да се стигне дотам AI системите все повече да отразяват човешките очаквания, вместо реалността, като по същество казват на хората само това, което „искат да чуят“. Без истинско разбиране за работата на AI ние няма и да разберем, че се случва такова нещо.
„Съществува и възможността постепенно да загубим интерес към разбирането и насочването на AI. Тъй като AI системите се вграждат дълбоко в човешката среда, те могат да реагират на предпочитанията, но и да ги оформят. С течение на времето любопитството на хората и скептицизмът им могат да стихнат, което би довело до пренебрегване [на проблема] и приемане“, пишат авторите.
Запазване на човешката активност
Някои от тези рискове може да са спекулативни, но се основават на екстраполиране на настоящите тенденции в бъдещето. Предвид настоящото неограничено разпространение на AI в почти всеки аспект от живота ни, идеите тук може да не са толкова пресилени. Но – според авторите – все още има надежда за запазване на разбираемостта на AI.
Изследователите подчертават, че запазването на човешката активност и способността да се поставят под въпрос решенията на изкуствен интелект ще са от решаващо значение.
„Не е достатъчно да се наблюдава как се държат системите с изкуствен интелект. Трябва също да разбираме как те формират човешките цели и преценки и да гарантираме, че хората запазват капацитета и мотивацията да ги поставят под въпрос, да ги одитират и да ги ръководят”, казват учените.
„Тези форми на непрозрачност се подсилват взаимно, стеснявайки – и заплашвайки да затворят – прозореца, в който можем да изградим изкуствен интелект, който е не само мощен, но и разбираем. Запазването на прозореца отворен ще изисква промяна в нашите цели. Човешкото разбиране трябва да бъде приоритетно наред с възможностите“, заключават авторите на изследването.
