Въглеродният отпечатък на генеративния AI – задава се проблем

Генерирането на изображение с помощта на мощен AI модел отнема толкова енергия, колкото пълното зареждане на един смартфон (изображение: CC0 Public Domain; генерирано от AI)

Всеки път, когато човек използва генеративен AI, за да създаде изображение, да напише имейл или да зададе въпрос на чатбот, той харчи ток. И това потребление има своята цена. Енергопотреблението на генеративните AI и съответните въглеродни емисии скоро ще се превърнат във важен въпрос.

Генерирането на изображение с помощта на мощен AI модел отнема толкова енергия, колкото пълното зареждане на един смартфон, според ново проучване на изследователи от новостартиращата фирма за изкуствен интелект Hugging Face и университета Карнеги Мелън. Учените обаче са установили, че използването на AI модел за генериране на текст е значително по-малко енергоемко. Създаването на текст 1000 пъти използва толкова енергия, колкото 16% от пълното зареждане на смартфона.

Обучението е само част от проблема

Изследователската работа тепърва ще бъде рецензирана. Но тя показва, че докато обучението на масивните AI модели е невероятно енергоемко, това е само една част от проблема. По-голямата част от техния въглероден отпечатък всъщност идва от ежедневната им употреба.

Проучването е първото, в което изследователите изчисляват въглеродните емисии, генерирани от използването на AI модел за различни задачи, казва Саша Лучиони, AI изследовател в Hugging Face. Тя се надява разбирането на темата за въпросните емисии да ни помогне да вземаме информирани решения за това как да използваме изкуствения разум по начин, който е щадящ планетата.

Лучиони и нейният екип са анализирали емисиите, свързани с 10 популярни AI задачи на платформата Hugging Face – такива като отговаряне на въпроси, генериране на текст, класификация на изображения, надписи и генериране на изображения. Учените са провели експериментите върху 88 различни модела.

За всяка от задачите екипът на Лучиони е изпълнил 1000 подкани и е измерил използваната енергия с разработен от нея инструмент, наречен Code Carbon. Системата прави тези изчисления, като разглежда енергията, която компютърът консумира, докато работи с модела. Екипът също така изчислил и емисиите, генерирани от изпълнението на задачите, използвайки осем генеративни модела, обучени да изпълняват различни задачи.

Генерирането на изображения е най-енергоемката и задача, базирана на AI, съответно свързана с най-много отделяне на въглеродни емисии. Генерирането на 1000 изображения с мощен AI модел като Stable Diffusion XL, е отговорно за приблизително толкова въглероден диоксид, колкото шофирането със средностатистически автомобил, задвижван с бензин, в продължение на 6,6 километра.

Проучването дава полезна представа за въглеродния отпечатък на AI, като предлага конкретни числа и разкрива някои тревожни възходящи тенденции, казва Лин Каак, асистент по компютърни науки и обществена политика в школата „Херти“ в Германия, където тя ръководи работата по AI и изменението на климата. Каак не е участвала в изследването.

Големи срещу малки AI модели

Въпросните емисии се натрупват бързо. Бумът на генеративния AI накара големите технологични компании да интегрират мощни AI модели в много различни продукти, от имейл до текстообработка. Тези генеративни AI модели вече се използват милиони, ако не и милиарди пъти всеки ден.

Екипът е установил, че използването на големи генеративни модели е много по-енергийно интензивно от използването на по-малки AI модели, пригодени за конкретни задачи. Например, използването на генеративен модел за класифициране на филмови рецензии, според това дали са положителни или отрицателни, изразходва около 30 пъти повече енергия, отколкото използването на фино настроен модел, създаден специално за тази задача, казва Лучиони.

Причината, поради която генеративните AI модели използват много повече енергия, е, че те се опитват да правят много неща наведнъж, като генериране, класифициране и обобщаване на текст, вместо само една задача като класификация.

Лучиони се надява, че изследването ще насърчи хората да бъдат по-придирчиви, когато използват генеративен AI, и да избират по-специализирани AI модели, когато е възможно. „Ако правите конкретно приложение, като търсене в имейли… наистина ли имате нужда от големите модели, които са способни на всичко? Бих казала – не“, казва Лучиони.

Консумацията на енергия, свързана с използването на AI инструменти, не е нещо, за което се замисляме, казва Джеси Додж, изследовател в института „Алън“ за AI, който също не е част от проучването. Това означава, че липсва действително разбиране за истинския въглероден отпечатък на AI.

Факторът „възраст“

Значение има и „възрастта“ на генеративните модели. Новото поколение генеративни AI са по-мощни и по-усъвършенствани, но това означава и по-голяма енергийна консумация.

Преди време Google изчисли, че средното онлайн търсене използва 0,3 ватчаса електричество. Днес тази цифра вероятно е много по-висока, тъй като Google интегрира генеративни AI модели в своето търсене, казва Виджай Гадепали, изследовател в лабораторията MIT Lincoln, която също не е участник в изследването на Лучиони.

Освен, че енергопотреблението за всяка генеративна задача е много по-високо от очакваното, учените откриха и, че ежедневната консумация на ток, свързана с използването на AI, далеч надвишава тази при обучението на големи модели. При много популярни модели като ChatGPT се оказва, че само няколко седмици интензивно използване водят до надхвърляне на потреблението, характерно за обучението.

Това е така, защото големите AI модели се обучават само веднъж, но след това могат да се използват милиарди пъти. Според някои оценки, популярни модели като ChatGPT имат до 10 милиона потребители на ден, много от които запитват модела повече от веднъж.

Новото проучване е първото, но надали последното, което обръща внимание на въпроса за използването на енергия, свързано с AI. Това трябва да ни помогне да осъзнаем, че използването на генеративните алгоритми има своята цена.

Според учените, отговорността за този проблем е в ръцете на компаниите, които създават моделите и печелят от тях.