AMD обяви значителна промяна в това къде и как могат да се внедряват модели с изкуствен интелект. Решенията на компанията позволяват преместване на обработката на големи AI модели от облака в компютъра.
Чипмейкърът публикува актуализация на безплатен софтуер, която ще позволи поддръжка на работа със 128 милиарда параметри на големи езикови модели (LLM) – приблизително с размера на Chat GPT 3.0 – на компютри с Windows, базирани на процесори AMD Ryzen AI Max+ 395 128GB.
Преди това модели от този мащаб бяха достъпни само през облака. Локалният изкуствен интелект обаче може да осигури по-голям контрол, да намали текущите разходи и да осигури важни подобрения в поверителността, като елиминира необходимостта от инфраструктура на трети страни.
С тази актуализация AMD позволява на потребителите да стартират AI моделите директно на устройството си, осигурявайки по-голяма гъвкавост при внедряването на изкуствен интелект.
Като позволява на компютрите с Windows да поддържат модели, обикновено запазени за мащабна облачна инфраструктура, AMD помага за промяна на местата, където може да работи усъвършенстваният изкуствен интелект.
Не става въпрос само за пренасяне на облачни изчисления на настолни компютри. AMD разширява гамата от опции за това как изкуственият интелект може да се използва, изгражда и разполага локално.
