Этот процессор — чудовище. Он оснащен 528 тензорными ядрами GPU, поддерживает до 480 ГБ оперативной памяти CPU и 96 ГБ GPU RAM и может похвастаться пропускной способностью памяти GPU до 4 ТБ в секунду.
Сингулярность грядет: этот мощнейший процессор Nvidia обучит нейросети следующего поколения
В начале прошлой недели на выставке Computex компания NVIDIA объявила, что ее новый GH200 Грейс Хоппер «Суперчип» запущен в производство.
Nvidia
Этот объединенный процессор может открыть эру еще более мощных и совершенных нейросетей.
Самый мощный процессор для нейросетей
Кстати, Nvidia H100 Hopper на данный момент является самым мощным графическим процессором Nvidia для центров обработки данных. Он поддерживает модели с искусственным интеллектом, такие как ChatGPT от OpenAI и стал серьезным обновлением по сравнению с чипом A100 2020 года, который запустил первый раунд обучения для многих стартапов с нейросетевыми чат-ботами и генераторов изображений.
Более быстрые графические процессоры в общих чертах приводят к созданию более мощных генеративных моделей искусственного интеллекта, поскольку они могут выполнять больше умножений матриц параллельно (и делать это быстрее), что необходимо для функционирования современных искусственных нейронных сетей.
GH200 использует эту «бункерную» основу и объединяет ее с процессорной платформой Nvidia «Grace» (обе названы в честь компьютерного пионера Грейс Хоппер), объединяя их в один чип с помощью технологии межкристаллитного соединения Nvidia NVLink (C2C).
Nvidia ожидает, что это сочетание значительно ускорит работу приложений искусственного интеллекта и машинного обучения как при обучении (создании модели), так и при ее запуске.
По словам компании, ключевыми особенностями GH200 являются новый интерфейс когерентной (совместно используемой) памяти емкостью 900 ГБ / с, который в семь раз быстрее, чем PCIe Gen5.
GH200 также обеспечивает в 30 раз большую общую пропускную способность системной памяти для графического процессора по сравнению с вышеупомянутым Nvidia DGX A100. Кроме того, GH200 может работать на всех программных платформах Nvidia, включая Nvidia HPC SDK, Nvidia AI и Nvidia Omniverse.