През последните няколко години шумът около изкуствения интелект стана направо оглушителен. Налива се много капитал. Технологичните лидери обещават, че AI ще революционизира работата, ще повиши производителността и ще доведе до невероятни нови пробиви. И все пак за мнозина изглежда, че тази еуфория е пресилена. Не е ли?!
Щедрите обещания са съпроводени с огромни инвестиции в центрове за данни – гигантски сървърни ферми, които захранват обучението, изпълнението и поддръжката на езиковите модели. Покрай ръста на AI и центровете за данни се превърнаха в огромен бизнес.
Но ако поддръжниците на AI са изцяло „за“, общественото мнение е далеч по-пъстро. Малцина приемат бума на изкуствения разум просто ей така; доста специалисти настояват за по-строги правила за това как организациите използват алгоритмите, все повече хора и фирми се притесняват от загуба на контрол върху решенията, вземани от AI от тяхно име.
Нарастват движенията на местно ниво срещу дата центровете. В някои държави като САЩ и Австралия има масови протести на цели градове против изграждането на нови съоръжения в близост до селищата. Хората недоволстват от повишените цени на тока, недостига на вода, питат как AI влияе на работните места и околната среда.
И през последните няколко месеца започнаха да се появяват видеоклипове на студенти на церемонии по дипломиране, освиркващи лектори като бившия главен изпълнителен директор на Google Ерик Шмит, който говори с възторжен тон как „стоим на ръба на технологичната трансформация“ и как AI ще докосне „всяка професия“, „всяка класна стая“ и „всяка връзка“.
Вярата в тези монументални твърдения – и монументално скъпата инфраструктура, на която разчитат – се клати.
Какъв е бизнес моделът на AI?
Финансовите разходи за AI са астрономически. Големите играчи харчат милиарди, за да поддържат моделите си работещи, докато за потребителите остава недостижим обещаваният бум на ефективността и приходите.
Някои предприятия вече харчат повече за бързо нарастващите разходи за токени (цената на използване на AI модел), отколкото за заплати на хората си. Дори по най-циничните икономически стандарти числата не се връзват, казват редица специалисти.
Твърдите доказателства за приноса на AI – а не празните твърдения на презентации и анализаторски доклади в индустрията – остават до голяма степен неуловими.
Има известни данни, че около 5% от бизнеса, който е внедрил AI, вече берат плодове – с положително отражение върху приходите. Но малко са статистиките, които могат да потвърдят дори част от това.
Неотдавнашно проучване сред 6000 висши бизнес ръководители в Съединените щати, Обединеното кралство, Германия и Австралия установи положителни възприятия, но разочароваща реалност: около 90% от фирмите заявиха, че изкуственият интелект не е оказал влияние върху производителността през последните три години.
Друго проучване, проведено от MIT миналата година, установи, че 95% от пилотните проекти с генеративен изкуствен интелект не са успели да осигурят „осезаема финансова стойност за организацията“, така че са били изоставени.
Фалш и измама
Ако позитивите са неясни, отрицателните ефекти са все по-очевидни. В политически план генеративният изкуствен интелект предоставя перфектното оръжие за „заливане на масите“ с подвеждащо или откровено невярно съдържание, замъглявайки информационните канали и засилвайки крайните настроения.
Политически фигури биват злепоставяни, обявявани за починали и т.н. Фалшивите новини, генерирани с изкуствен интелект, стават трудно различими от истинските.
В социален план чатботовете и моделите с изкуствен интелект, спечелили огромно доверие от потребителите чрез продължителни разговори, са цитирани в нарастваща поредица от съдебни дела, свързани със самоубийства.
Дело, заведено тази година, описва ChatGPT като интимен и убедителен „треньор по самоубийства“, който убедил мъж в Колорадо да сложи край на живота си.
Екологична катастрофа
И от екологична гледна точка преминаването към много по-интензивните изчисления, които изкуственият интелект изисква, означава огромно въздействие, тъй като центровете за данни изискват повече енергия и повече вода, създавайки стотици милиони тонове емисии на CO2. За
Сидни, например, планира 41 центъра за данни; ако бъдат построени до един, те ще използват директно 15%-20% от водоснабдяването на града в рамките на едно десетилетие, прогнозира доцентът по екологично счетоводство Майкъл Вардън.
Предел на възможностите?
Дори ако социалните, екологичните и политическите последици бъдат пренебрегнати, шумът и инвестициите около изкуствения интелект пропускат какво се случва на техническо ниво. Моделите станаха „по-умни“ по същество чрез обучение върху все по-големи и по-големи набори от данни. Но тази парадигма дава намаляваща възвръщаемост.
Ян ЛеКун, бивш главен учен по изкуствен интелект в Meta, предупреди, че „обучението“ на модели, основано на корелация, е едновременно неефективно и недостатъчно в сравнение с човешкото обучение. Алгоритмите изискват трилиони токени за обучение. Дори тогава те възпроизвеждат модели без по-задълбочено разбиране, докато децата се учат обобщено от няколко примера.
„Обучението намалява“ е новата мантра, отбелязва един вътрешен човек от Силициевата долина. Далеч не е ясно дали масивните модели и масивните центрове за данни, които са в основата им, изобщо ще бъдат необходими.
Балонът и неговото спукване
Къде ни отвежда всичко това? Възможността за спукване на балона на изкуствения интелект става все по-очевидна. „Време е да започнем да се питаме не дали ще има срив на изкуствения интелект, а какво трябва да направим днес, за да сме най-добре подготвени да реагираме на такъв утре“, написаха двама коментатори в списание Тайм по-рано тази година.
Как ще изглежда подобно събитие? Всеки отговор тук би включвал спекулации. И все пак можем да получим някои прозрения от предишни спукани технологични балони, от тенденциите в технологичното развитие и чрез екстраполиране от социокултурните последици, на които вече сме свидетели.
Още един дот-ком балон
Можем да сравним балона на изкуствения интелект с дот-ком балона от края на 90-те години. Всъщност инвестиционните лидери – включително Майкъл Бъри от The Big Short, който е известен с предвиждането на колапса на пазара на високорискови ипотеки – вече виждат обезпокоителни паралели между двете.
Бъри предупреждава, че рисковите капиталисти „финансират губещи компании като никога досега в историята“. Както подсказва това, инвестициите в този настоящ балон на изкуствения интелект засенчват неговия дот-ком аналог. Ако новият балон следва „плана“ на предишния, би трябвало да очакваме масови съкращения на персонал и ликвидации на стартиращи AI компании без видими приходи.
Технологиите остават
Разбира се, подобно на първия балон, заличаването на ред компании не означава, че самите технологии изчезват. Всъщност, в ортодоксалния икономически канон, дот-ком балонът беше „огнено кръщение“: болезнено, но необходимо прераждане.
Тривиалните играчи, подкрепяни от „ирационални“ оценки, изчезнаха, но мрежовата инфраструктура, която те разгърнаха, беше основата за наистина иновативните технологични продукти, които дойдоха след това.
Част от това бъдеще почти сигурно ще се повтори: инфраструктурата ще се запази, дори и да бъде недостатъчно използвана. Изкуственият интелект ще продължи да се вгражда в множество продукти. А технологичните титани, седнали върху съкровища от данни и рекламни монополи, ще продължат напред.
С нарастването на контрола ще се случи затягане на коланите. Компаниите ще дестилират своите продуктови предложения, тихо ще започнат да ограничават използването на токени и ще повишават цените на абонаментите си.
С какво допринасяме
Но по-големият въпрос е дали технологичните компании – сега, както и тогава – всъщност допринасят по смислен начин за напредъка на света. Както един носител на Нобелова награда за икономист се пошегува през 80-те години на миналия век: „можете да видите компютърната ера навсякъде, освен в статистиката за производителността“.
По-скорошни анализи на съвременните технологии потвърждават това откритие, предполагайки, че интернет има слабо влияние върху икономическия растеж. Ако това е така за AI, тогава имаме социален въпрос, не само финансов.
Малкото е красиво
Видимо технологичното развитие се отдалечава от мантрата „по-голямото е по-добро“. Моделите стават много по-малки и по-ефективни. Тласъкът е от облака към така наречения „ръб“: далеч по-мобилните и нискоенергийни устройства, като телефона в джоба ни например, където данните всъщност се създават и използват.
Усеща се порив за преместване на фокуса от количеството „улавяне на всичко“ към качеството, с целенасочени или внимателно подбрани данни. Част от това развитие е добре дошла – и отдавна необходима – промяна.
Поток от критични изследвания на AI през последните няколко години е документирал подробно основните проблеми с изкривяванията във фундаменталните модели. В един не чак толкова шокиращ обрат, безразборното обучение върху огромен архив от социални материали, почти без надзор, създава модели, които възпроизвеждат значителни вреди.
По-бавното и по-внимателно изграждане на модели, действително съобразени с дадени общности и настроени към техния език, нужди и желания, може да бъде само от полза. Някои езици, например езиците на коренното население на дадена зона със силни устни традиции, се считат за недостатъчно представени, с много по-малко материал в стандартните набори за обучение.
Бъдещите разработчици биха могли да работят в тясно сътрудничество с общностите, за да създадат свой собствен архив от материали, които по-добре отразяват техните идеи и убеждения. Тук започваме да виждаме смислена идея за суверенитет на данните, където групите запазват контрол над своите модели и данните, които са в основата им, бавно се откъсвайки от корпоративните облачни режими.
Разбира се, ако подходът „малкото и мобилното е красиво“ постигне реална подкрепа, това ще означава, че днешните масивни инвестиции в силно централизирани центрове за данни са нахалост. Нали?
Какво ще стане с мега-центровете
Какво ще се случи с тази масово застроена – и, както очакваме, недоизползвана инфраструктура? По ирония на съдбата мъртвите търговски центрове бяха превърнати в центрове за данни през последните две години, за да задоволят търсенето – но тези центрове за данни сами по себе си може да се превърнат в празни черупки, физически напомняния за остаряла визия.
Патологии след AI
Не на последно място, AI не може да бъде натъпкан обратно в кутията на Пандора. Дори ако развитието му поеме по друг път, социокултурните, политическите и екологичните последици от един свят след AI ще продължат – или дори ще се изострят.
В образованието изследователите предупреждават, че учениците, които постоянно се обръщат към генеративни модели с изкуствен интелект, проявяват един вид „циклична обреченост“ на зависимост: Разтовареното мислене постепенно води до атрофия в критичното мислене и разсъжденията.
„Когато децата използват генеративен изкуствен интелект, който им казва какъв е отговорът, те не мислят самостоятелно“, заявяват авторите на проучване на института Брукингс.
„Те не се учат да различават истината от измислицата. Не се учат да разбират какво прави един аргумент добър. Не се учат за различните перспективи в света, защото всъщност не се ангажират с материала“, допълват учените.
В политиката авангардните модели на изображения и видео правят все по-трудно разделянето на фактите от измислицата. Резултатът е нарастващо разпространение на „дивидента на лъжеца“, където дори истинският материал се поставя под съмнение или се отхвърля като синтетичен.
Способността на доказателствата да документират и да убеждават обществеността е подкопана, летят обвинения във фалшифициране на медийни данни.
В сферата на околната среда бумът в изграждането на AI центрове за данни ще има дългосрочни последици. Устойчивият генеративен изкуствен интелект е заблуда.
„Центровете за данни с изкуствен интелект сами водят до голям обрат в климатичния прогрес в световен мащаб“, заяви технологичният критик Карън Хао, цитирайки скорошен доклад на ООН.
От добива на редкоземни минерали до изгарянето на мръсен дизел, напрежението върху местните електропреносни мрежи и източването на милиони кубици прясна вода в един затоплящ се свят – вредните ефекти на изкуствения интелект ще бъдат усетени от екосистемите и поколенията напред.
