Изкуственият интелект създава нова „дигитална пропаст“ между хората (източник: CCO Public Domain)
В много дейности от ежедневието ни вече се прокрадва изкуственият интелект: от лицевото разпознаване при снимка със смартфон до избора на маршрут, който да хванем през ваканцията. По-сериозни стават работите, когато става дума за одобрения за кредити или сложни правни и съдебни въпроси.
Намесата на изкуствения интелект (AI, ИИ) обаче става повсеместна и води дотам, че се създава нова „дигитална пропаст“ между хората: едните са тези, които разбират механизма на алгоритмите – и вземат решение каква информация да предоставят за себе си, а другите са тези, които не разбират и не се интересуват какви техни лични данни се събират и за какво се използват.
Големите технологични компании като Google и Facebook използват изкуствен интелект, за да добиват „представа“ за своите потребители. Това им е нужно, за да могат да реализират приходи: подробните данни за посетителите им позволяват да предложат на рекламодателите си възможно най-прецизното насочване на рекламите.
Успоредно с това все повече хора са склонни да вярват повече на социалните медии, отколкото ма собствените си правителства, например.
И ако в миналото технологичните експерти се притесняваха от „цифровото разделение“ или „цифровата пропаст“ между тези, които имат достъп до компютри и интернет, и онези, които нямат, то днес можем да говорим за нов вид разделение.
Черна кутия
Алгоритмите на изкуствения интелект вземат данните за потребителите и ги обработват чрез математически модели, за да изготвят прогнози. Тези прогнози варират от това каква песен бихме предпочели до това дали сме годни за получаване на кредит. Моделите се разработват, настройват и прецизират постоянно.
Повечето хора не знаят какво точно се случва в такъв математически модел – дори за много техничари е неясно. За обикновения човек пък това си е направо „черна кутия“.
В същото време цифровите устройства се разпространяват повсеместно. Хората искат да се наслаждават на удобствата, които дигиталните технологии им дават, но не разбират и не искат да разбират какви алгоритми стоят зад тези системи, какво „знаят“ социалните медии за личния им живот и как се анализира всеки клик, който правят.
„Техничарите“, които са наясно с работата на алгоритмите на изкуствения интелект, са малко. Повечето потребители имат доста по-малко информация по въпроса. Те не знаят как точно работи „изкуственият интелект“, който им поднася реклами, предложения, теми. А на база на тези предложения все пак вземат решения.
Знание, разбиране и доверие
Има проучвания, които показват, че дори човек да знае как точно работят алгоритмите, това не повишава доверието към техните „изводи“ и „прогнози“. Така например в неотдавна проведен експеримент на група студенти било предложено да чуят детайлни обяснения за това как система с изкуствен интелект оценява представянето им на изпит. Оказало се в крайна сметка, че студентите, които са чули най-прозрачните и подробни обяснения, вярват най-малко на системата. Следователно познаването на работата на алгоритмите изобщо не е гаранция, че можем да се доверим на системата.
Отделен е въпросът, че дори да е възможно да се знае много добре и подробно как работи даден алгоритъм, много малко хора биха искали да се напрегнат да вникнат и разберат разяснението. За някои то би било твърде сложно. Като цяло малцина са склонни да направят усилие, за да вникнат в механизмите на работа на подобна система.
Въпрос на контрол
Така се стига до положението, в което алгоритмите влияят много на живота ни, но малцина са склонни да се заинтересуват от това какви данни обработва изкуственият интелект и как; повечето предпочитат да не занимават съзнанието с тези въпроси.
Съвсем малка част от хората реално упражняват контрол над това какви алгоритми използват личните им данни и как. Много от платформите в интернет имат опции за настройване на това какви лични данни се събират, как се натрупват, как се обработват – но малцина прибягват до реална намеса в тези настройки. Често пъти потребителите изобщо не знаят. Така например в една анкета 74% от потребителите на Facebook казват, че не са наясно как платформата „разбира“ техните лични предпочитания.
74%, това са три четвърти от хората! Това е огромна маса потребители, които не знаят как биват проследявани и анализирани. Тези хора вземат своите решения за покупки на база на офертите, които алгоритмите на изкуствения интелект ще им поднесат. Тези хора вземат решения какви тематични групи ще посещават – на база на офертите, които алгоритмите на изкуствения интелект ще им поднесат. Тези хора вземат дори сериозни решения като как да отглеждат децата си или как да лекуват близките си – пак на база на офертите, които алгоритмите на изкуствения интелект ще им поднесат. Оферти, изготвени от алгоритми, за които не е ясно как събират данни за хората и как ги „сдъвкват“.
Новият елит
С други думи, „компютърна грамотност“ днес значи нещо много повече от това да знаеш основните компоненти на компютъра и базовите програми като тези за текстообработка. Днес компютърна грамотност значи да разбираш и осъзнаваш последиците от това, че си постоянно онлайн, и от това, че всяко от забавните и приятни неща – от социалните мрежи през спортните приложения до електронното банкиране – изисква събирането на лични данни, а това по-късно ще влияе на решенията ти.
Способността да се изключиш от схемите, с които алгоритмите на изкуствения интелект те следят и после влияят на решенията ти, може би скоро ще се окаже ценно умение – умение, с което разполагат малцина. Тези малцина ще са привилегировани да се откопчат от влиянието на повсеместните системи за влияние чрез събрани лични данни, сдъвкани от „умни“ алгоритми.
Mоже би е да се налучка /както е в хазарта/ следващия алгоритъм и да се използва,т.е. във времето и т.н.а този алгоритъм ИИ пък го ползва и да се обучава.
/мнението е на човек без претенции за познания в компютърната наука/.
Кое те кара да вярваш, че този, който умее да те манипулира, е неграмотен!?
Познанието за алгоритмите на ИИ не дава много информация за естеството на взиманите решения. Самите алгоритми не са особено сложни като замисъл, сложно е да се формализира входа от множеството фактори. Откакто имаме факторите и крайния резултат (например дали някой си плаща редовно кредита, или не), невронната мрежа си наглася теглата на факторите, така че в един момент започва да отгатва с висока степен на вероятност дали някой ще си плаща редовно, или ще завлече банката. От там следващата стъпка идва съвсем естествено – просто на някои ненадеждни хора не им се дава кредит. Или се дава при условията на по-висок риск.
Та реално човек който знае това как се случва особена полза от това, защото няма как да знае как ще бъде класифициран. Разбира се много от факторите са очевидни – например редовна работа, наличие на деца и т.н., но има и куп имплицитни връзки, които човек не може да улови и ИИ се справя по-добре от експертите.
Много добре знаем какво става шайка неграмотни бизнесмени, безнаказано злоупотребяват и правят пари с нашите данни и ни манипулират как да живеем, какво да мислим и от какво имаме нужда според техните представи и желания. Да играем по тяхната свирка.