Architektura Grace Hopper – NVIDIA DGX GH200

Wykładniczy wręcz rozwój sztucznej inteligencji sprawia, że wiele branż już dziś zgłasza potrzeby, którym nie są w stanie sprostać dostępne na rynku rozwiązania. Wychodząc tym oczekiwaniom naprzeciw, NVIDIA zaprezentowała właśnie swój najnowszy superkomputer – NVIDIA DGX GH200, łączący w sobie 256 superchipów NVIDIA Grace Hopper™. Stworzono go z myślą modelach klasy terabajtowej, potężnych algorytmach rekomendacyjnych i generatywnej sztucznej inteligencji. Co do zaoferowania ma architektura Grace Hopper? Jakimi parametrami może się pochwalić NVIDIA DGX GH200?

Architektura Hopper + Architektura Grace = Superchip NVIDIA Grace Hopper

Modele sztucznej inteligencji w ostatnich latach wręcz eksplodują w kontekście swoich rozmiarów i złożoności. Analizują dziesiątki terabajtów danych, biorą pod uwagę setki miliardów parametrów i umożliwiają dzięki temu kolejne imponujące odkrycia naukowe czy powstawanie kolejnych rewolucyjnych rozwiązań. Skalowanie tak ogromnych modeli wymaga jednak odpowiedniej architektury, oferującej dostęp do ogromnej pamięci, potężnej jednostki centralnej (CPU) i procesora graficznego (GPU). Na potrzeby najbardziej wymagających klientów postanowiła odpowiedzieć NVIDIA, wprowadzając do swojej oferty niezwykle potężną jednostkę – Superchip NVIDIA Grace Hopper.

Architektura Grace Hopper łączy w sobie przełomowe rozwiązania wydajność procesora graficznego NVIDIA Hopper z wszechstronnością NVIDIA Grace CPU w jednym superchipie. Procesor NVIDIA Grace zapewnia wysoką wydajność, energooszczędność i łączność o dużej przepustowości, które można wykorzystać w różnych konfiguracjach dla najróżniejszych zastosowań w centrach danych. Architektura Hopper wykorzystuje z kolei przełomowe innowacje, które napędzają procesor graficzny NVIDIA H100 Tensor Core i zapewniają mu aż 30-krotne przyspieszenie w porównaniu z poprzednią generacją.

I właśnie z tego połączenia powstał Superchip NVIDIA Grace Hopper, łączący w sobie architektury Grace i Hopper i wykorzystując NVIDIA® NVLink®-C2C, by zapewnić spójny model pamięci CPU+GPU na potrzeby aplikacji wykorzystujących akcelerowaną sztuczną inteligencję i obliczenia o wysokiej wydajności (HPC). Co konkretnie ma do zaoferowania?

GH200 Grace Hopper Superchip Platform

NVIDIA DGX GH200 to rozwiązanie, które powstało z myślą o najbardziej wymagających klientach. Podmiotach, które wdrażają najbardziej zaawansowane projekty w obszarze AI i oczekują niezawodności działania i ogromnej wydajności.

Aby sprostać rosnącemu zapotrzebowaniu na generatywną sztuczną inteligencję, centra danych wymagają platform przyspieszonego przetwarzania o wyspecjalizowanych potrzebach – powiedział Jensen Huang, założyciel i dyrektor generalny NVIDIA. Nowa platforma GH200 Grace Hopper Superchip zapewnia to dzięki wyjątkowej technologii pamięci i udoskonalonej przepustowości, bezkompromisowej możliwości łączenia procesorów graficznych w celu uzyskania agregowanej wydajności, a także konstrukcji serwera, którą można łatwo wdrożyć w całym centrum danych.

Ogromne możliwości, jakie oferuje rozwiązanie można elastycznie skalować i w ten sposób dostosowywać do indywidualnych potrzeb. Platforma wykorzystuje superchip Grace Hopper, który można swobodnie łączyć z innymi superchipami za pośrednictwem NVIDIA NVLink™ i w ten sposób umożliwiać im efektywną współpracę przy wdrażaniu najbardziej wymagających projektów. Stworzona w ten sposób infrastruktura bez trudu upora się z gigantycznymi modelami językowymi, najbardziej założonymi systemami rekomendacyjnymi czy wektorowymi bazami danych.