Форматът на изчисленията в изкуствения интелект е на път да бъде стандартизиран
(снимка: CC0 Public Domain)
Три водещи разработчици на процесори – Intel, Arm и Nvidia – публикуваха проект на спецификация на числовия формат FP8 за 8-битови числа с плаваща запетая. Идеята е този формат да стане единен за представяне на числата, използвани при решаване на проблеми с изкуствен интелект – както при обучението на невронни мрежи, така и при тяхната работа.
Според компаниите, прилагането на 8-битови реални (веществени) числа при изчисляване на тегловите коефициенти в невронни мрежи ще оптимизира използването на хардуерните изчислителни ресурси. Такива числа заемат по-малко памет и са по-лесни за обработка, което ще увеличи производителността на хардуерните ускорители при решаване на проблеми, свързани с AI.
Традиционните формати с плаваща запетая, които се използват в момента, са FP32 (единична точност) и FP16 (половин точност). При решаване на проблеми с машинното обучение вече се използва предимно вторият формат. Въпреки това, според Intel, Arm и Nvidia, числата с още по-кратък вид, макар и с по-ниска точност, са приложими в AI задачи, като същевременно могат да се обработват по-бързо и с по-малко енергия.
Според публикация в блога на Nvidia, на която се позовава TechCrunch, форматът FP8 показва „сравнима вярност“ с 16-битова прецизност в приложения като компютърно зрение и системи за изображения, като същевременно осигурява „значително“ ускорение.
Форматът FP8 ще бъде достъпен за всички без лиценз, в отворен вид. По-късно спецификациите ще бъдат представени на IEEE, който е органът за индустриални стандарти за редица технически области.
„Ние вярваме, че съществуването на общ формат за обмен на данни ще осигури бърз напредък и съвместимост както на хардуерните, така и на софтуерните платформи за развитие на изчислителната технология“, казва Шар Нарасимхан, маркетинг директор на Nvidia.
Заслужава да се отбележи, че поддръжката на FP8 числа вече е внедрена в архитектурата GH100 Hopper на Nvidia, както и в Gaudi2 AI ускорителите на Intel.
Единният формат FP8 ще бъде от полза не само за трите компании, предложили стандарта, но и за други играчи, предлагащи ускорители за работа с AI. По един или друг начин всички те поддържат свои собствени версии на числа с плаваща запетая с намалена точност и появата на един отворен стандарт вместо няколко конкурентни формата ще опрости разработването както на хардуерни решения, така и на софтуерни библиотеки.