100 000 ускорители Nvidia H100 захранват супер клъстера на xAI за обучение на AI
(снимка: Elon Musk / X)
Илон Мъск обяви началото на обучението на модела с изкуствен интелект GROK 3 в Мемфис с помощта на графични процесори Nvidia H100. Машината за тази цел съдържа 100 000 такива ускорителя, всеки с цена 30 000 долара.
„Страхотна работа от екипа на xAI, екипа на X, Nvidia и поддържащите компании, които започнаха обучение в супер-клъстера на Мемфис в приблизително 4:20 ч. сутринта местно време. 100 000 процесора H100 с течно охлаждане на една RDMA матрица го правят най-мощния клъстер за обучение на AI в света”, написа Мъск в социалната мрежа X.
Пускането на чатбота GROK 2 ще се състои следващия месец, а подобрената версия GROK 3 ще стане достъпна до края на годината.
Преди това xAI (компанията на Мъск за изкуствен интелект) взе под наем от Oracle ускорители на Nvidia за обучение на AI, но сега фирмата реши да изгради свой собствен център за данни, който ще надвишава по капацитет ресурсите, наети от Oracle.
Центърът за данни xAI се очертава като най-мощния клъстер за обучение на AI
(снимка: Elon Musk / X)
Всеки ускорител H100 струва приблизително 30 000 щатски долара и докато 20 хиляди броя H100 бяха използвани за обучение на GROK 2, новият модел GROK 3 изисква пет пъти повече процесорна мощност.