TechNews.bg
Водещи новиниИзкуствен интелектНовини

AI „яде“ до 180 пъти повече ток при заявки на езици различни от английския

Можем да очакваме в скоро време оскъпяване на комерсиалните AI услуги

(илюстрация: TechNews.bg, AI)

Изследователи от Мичиганския университет доказаха, че обработката на заявки към системи с изкуствен интелект на различни езици изискват различно количество енергия. В зависимост от езика и конкретния модел токът, необходим за обработка на заявки на езици, различни от английския, може да бъде от 1,4 до 180 пъти повече от този, потребен за заявки на английски език.

Проучването, което разглежда AI от гледна точка на езиково-енергийна „дискриминация“, обхваща 122 езика и пет варианта на модели: Qwen 3 (с 8, 14 и 32 милиарда параметъра, разработен от Alibaba), Gemma 3 (с 27 милиарда параметъра, от Google) и Llama 3.1 (с 8 милиарда параметъра, от Meta).

За извършване на измерванията учените са използвали „ML.Energy“ – система, разработена от тях за оценка на енергийната консумация на AI моделите по време на изчисления. Хардуерната платформа включва два графични ускорителя на NVIDIA: L40S и RTX 6000 Pro Blackwell.

Основна причина за разликата в енергийната консумация при различните езици е увеличаването на броя на „токените“ – основните текстови единици, на които моделът разделя входните данни и чрез които генерира отговори. Токенизаторите, обучени предимно върху латинската азбука, са по-малко ефективни при работа с други писмени системи, като често разделят думите на по-голям брой фрагменти.

Освен това при езици с ограничени ресурси за обучение моделите често генерират значително по-дълги отговори – понякога съдържащи от 20 до 25 пъти повече изходни токени, отколкото при заявки на английски език. Увеличаването на броя на токените повишава изискванията към паметта, което налага обработката на заявките на по-малки порции (партиди); това намалява ефективността на използване на графичния процесор (GPU) и води до по-висока консумация на енергия.

Проучването установи, че максималната разлика в енергийната консумация за един изходен токен достига коефициент 8,3, докато общите енергийни разходи за обработка на идентичен набор от заявки варират със 179 пъти – от 17,6 kJ за английски език до 3147 kJ за езика пущу. Тази разлика е особено изразена при езици, които не използват латинската азбука и за които съществува по-малък обем цифрови данни за обучение на изкуствен интелект.

Например, генерирането на текст на хинди изисква средно 7,9 пъти повече енергия, отколкото на английски. За бенгалски език е необходима 15,3 пъти повече енергия. Използването на латинската азбука обаче не е гаранция за ефективност: повечето западноевропейски езици също изискват повече енергия за обработка на заявки – до два пъти повече в сравнение с английския език.

Изследователите установяват и връзка между консумацията на енергия и точността на отговорите: езиците, които изискват по-големи изчислителни ресурси, обикновено показват по-слаби резултати при тестовите изпитвания.

Оценката е направена въз основа на набора от данни за разбиране при четене „Belebele“ (обхващащ 122 езика), теста за математическо мислене „GSM8K“ и колекция от потребителски заявки от платформата „LM-Arena“. В допълнителни експерименти задачи, първоначално формулирани на английски език, са преведени на други езици чрез системата на Meta „No Language Left Behind“.

Според оценките на изследователите, около 5,2 милиарда души по света говорят езици, чиято обработка изисква поне два пъти повече енергия в сравнение с английския език. Това ще оскъпи използването на търговски услуги с изкуствен интелект за хора от различни езикови групи, тъй като много доставчици определят цените си въз основа на броя на обработените и генерираните „токени“ (единици текст).

„Повечето хора ще искат да използват модели с изкуствен интелект, задавайки въпроси на родния си език – което е неизбежно развитие с навлизането на AI в повече сфери на обществения живот. Но това „двойно натоварване“ [заради използването на езици, различни от английския] прави по-вероятно някои хора да не могат да си позволят AI, а компаниите да не желаят да предлагат модели на определени езици“, заключават авторите, представяйки една отрезвяваща оценка.

За да се преодолее тази разлика, авторите предлагат няколко подхода: разработване на модели, оптимизирани специално за отделни езици; насочване на заявките към най-подходящите езиково-специфични модели; или превод на заявките на английски език, преди те да бъдат обработени от система с общо предназначение. Последният подход се смята за приложим, стига качеството на превода да е достатъчно високо.

Друга стратегия включва разширяване на корпусите за обучение чрез включване на материали на езици, които в момента са слабо представени в цифров формат – процес, в който биха могли да участват и носители на съответните езици.

още от категорията

„Кръстникът” на изкуствения интелект: Може би не трябваше да го създаваме

TechNews.bg

Вече го има: „шалтер“ за принудително спиране на побеснели AI агенти

TechNews.bg

Десет стратегически тенденции ще пренаредят технологичния свят

TechNews.bg

Изкуственият интелект смело бърка в мозъка – буквално и преносно

TechNews.bg

Mistral предлага AI модел с отворен код – какво значи това за бизнеса в ЕС

TechNews.bg

AI войните между САЩ и Китай: дестилацията като оръжие

TechNews.bg

Коментари