TechNews.bg
Водещи новиниКомпонентиНовиниХардуер и Софтуер

AMD обяви важна поддръжка за локално изпълнение на AI задачи

Моделът Muse Glimmer 30B на Meta работи с AMD-базирани РС

Системи с процесори и графични ускорители на AMD могат да изпълняват локално AI модели (илюстрация: AMD)

Моделът с изкуствен интелект Muse Glimmer 30B ще може да работи локално на AMD хардуер. Разработчикът на процесори и графични ускорители обяви поддръжка от Ден 0 за AI модела на Meta, което отваря пътя за изпълнение на агентен AI на локалния компютър.

Тъй като AI агентите поемат по-сложни работни процеси, включващи памет, използване на инструменти и чувствителни данни, локалното изпълнение на модели чрез рамки като llama.cpp помага на разработчиците да намалят зависимостта от облачната инфраструктура.

AMD посочва няколко ключови ползи от обявената поддръжка на AI модела:

• Muse Glimmer 30B работи на AMD Ryzen AI Max+ системи или работни станции, захранвани от един Radeon AI PRO R9700 GPU, използвайки отворени рамки като llama.cpp

• Чрез LM Studio, разработчиците на поддържани AMD системи с 32GB+ VRAM/VGM могат да открият, изтеглят и стартират модела в рамките на минути и да го свържат с агенти като Hermes Agent или Open Claw чрез OpenAI- и Anthropic-съвместими крайни точки

• Lemonade интегрира Muse Glimmer 30B директно в приложения чрез приблизително 4MB вграден локален API двоичен файл, съхранявайки моделите и данните на устройството без отделна инсталация.

Локалното изпълнение на агентния изкуствен интелект върху AMD хардуер осигурява на разработчиците по-голям контрол върху поверителността и разходите, подчертаха от компанията.

 

още от категорията

AI агентите могат да ни вкарат в правни неприятности

TechNews.bg

AMD и Google Cloud ускоряват и правят по-сигурна работата с AI модели

TechNews.bg

Австралия въвежда задължително докладване за хакване от AI агенти

TechNews.bg

AI рисковете са управляеми, но може да има „предпазни мерки”

TechNews.bg

И AMD загърби гейминга: центровете за данни стават топ-приоритет

TechNews.bg

AMD и IBM интегрират квантови и класически изчисления в нова платформа

TechNews.bg

Коментари