Автономните системи с изкуствен интелект, ако бъдат внедрени в голям мащаб, ще изискват стотици гигавати енергия и може да надхвърлят капацитета на съществуващата инфраструктура на центровете за данни, алармира проучване на корейски учени.
Агентите с изкуствен интелект от следващо поколение могат да консумират до 136,5 пъти повече енергия на заявка от конвенционалните генеративни модели. До това заключение стигнаха учени от Корейския институт за напреднали науки и технологии (KAIST), след като проведоха първия цялостен анализ на консумацията на енергия на AI системи, способни автономно да планират действия и да изпълняват задачи.
За разлика от конвенционалните чатботове, които генерират един отговор на потребителско запитване, агентите с изкуствен интелект многократно осъществяват достъп до големи езикови модели (LLM), извършват уеб търсения, изпълняват код, използват изчислителни инструменти и взаимодействат с външни програми.
Всичко това позволява на AI агентите да решават по-сложни проблеми в програмирането, изследванията и автоматизацията, но изисква значително повече изчислителни ресурси.
Екип, ръководен от професор Минсу Ру от Училището по електротехника в KAIST, разглежда агентите с изкуствен интелект като отделен вид работно натоварване за центровете за данни. Учените са измерили изчислителните изисквания на AI агентите в сценарии, подобни на реалната употреба.
Експериментите показват, че агентите с изкуствен интелект увеличават времето за обработка на заявки до 153,7 пъти в сравнение с традиционния подход „верига на мисълта”, при който моделът последователно генерира междинни стъпки за решение.
Междувременно графичните процесори, изпълняващи тези задачи, са останали в режим на готовност до 54,5% от времето за изпълнение, чакайки външни инструменти да завършат операциите.
Въпреки времето на престой, консумацията на енергия продължава: оборудването на центровете за данни консумира електроенергия дори по време на периоди на покой, установяват учените.
За агент с изкуствен интелект, базиран на езиков модел със 70 милиарда параметъра, средната консумация на енергия на заявка е била 348,41 ватчаса. Това е приблизително 136,5 пъти повече от необходимата енергия на типичен чатбот, за да отговори на прост въпрос.
Изследователите също така са моделирали сценарий, при който агентите с изкуствен интелект обработват 13,7 милиарда заявки на ден – почти толкова, колкото търсачката на Google обработва ежедневно. В този случай AI инфраструктурата би изисквала приблизително 198,9 GW – това е почти половината от средната консумация на енергия от всички съоръжения в САЩ и значително надвишава капацитета на съвременните AI центрове за данни.
OpenAI, Google, Microsoft и Anthropic вече активно разработват технологии за агенти с изкуствен интелект като следваща стъпка отвъд разговорните модели, но проучването показва, че по-нататъшното развитие зависи от нещо повече от просто подобряване на възможностите на самите алгоритми.
Авторите на изследването отбелязват, че мащабирането на изкуствения интелект ще изисква едновременно подобряване на ефективността на полупроводниците, увеличаване на използването на графичния процесор, оптимизиране на архитектурата на центровете за данни и разширяване на енергийната инфраструктура.
Според Минсу Рю, конкуренцията в областта на изкуствения интелект постепенно се измества от създаването на по-интелигентни модели към разработката на по-ефективни системи.
Проучването беше представено на Международния симпозиум на IEEE за високопроизводителна компютърна архитектура (HPCA). Авторите също така предложиха набор от бенчмаркове за оценка на агенти с изкуствен интелект, за да ускорят разработването на начини за намаляване на един от най-бързо нарастващите разходи в областта на изкуствения интелект – електричеството.
