Razem: 0,00 zł
Architektura Grace Hopper – NVIDIA DGX GH200
Wykładniczy wręcz rozwój sztucznej inteligencji sprawia, że wiele branż już dziś zgłasza potrzeby, którym nie są w stanie sprostać dostępne na rynku rozwiązania. Wychodząc tym oczekiwaniom naprzeciw, NVIDIA zaprezentowała właśnie swój najnowszy superkomputer – NVIDIA DGX GH200, łączący w sobie 256 superchipów NVIDIA Grace Hopper™. Stworzono go z myślą modelach klasy terabajtowej, potężnych algorytmach rekomendacyjnych i generatywnej sztucznej inteligencji. Co do zaoferowania ma architektura Grace Hopper? Jakimi parametrami może się pochwalić NVIDIA DGX GH200?
Architektura Hopper + Architektura Grace = Superchip NVIDIA Grace Hopper
Modele sztucznej inteligencji w ostatnich latach wręcz eksplodują w kontekście swoich rozmiarów i złożoności. Analizują dziesiątki terabajtów danych, biorą pod uwagę setki miliardów parametrów i umożliwiają dzięki temu kolejne imponujące odkrycia naukowe czy powstawanie kolejnych rewolucyjnych rozwiązań. Skalowanie tak ogromnych modeli wymaga jednak odpowiedniej architektury, oferującej dostęp do ogromnej pamięci, potężnej jednostki centralnej (CPU) i procesora graficznego (GPU). Na potrzeby najbardziej wymagających klientów postanowiła odpowiedzieć NVIDIA, wprowadzając do swojej oferty niezwykle potężną jednostkę – Superchip NVIDIA Grace Hopper.
Architektura Grace Hopper łączy w sobie przełomowe rozwiązania wydajność procesora graficznego NVIDIA Hopper z wszechstronnością NVIDIA Grace CPU w jednym superchipie. Procesor NVIDIA Grace zapewnia wysoką wydajność, energooszczędność i łączność o dużej przepustowości, które można wykorzystać w różnych konfiguracjach dla najróżniejszych zastosowań w centrach danych. Architektura Hopper wykorzystuje z kolei przełomowe innowacje, które napędzają procesor graficzny NVIDIA H100 Tensor Core i zapewniają mu aż 30-krotne przyspieszenie w porównaniu z poprzednią generacją.
I właśnie z tego połączenia powstał Superchip NVIDIA Grace Hopper, łączący w sobie architektury Grace i Hopper i wykorzystując NVIDIA® NVLink®-C2C, by zapewnić spójny model pamięci CPU+GPU na potrzeby aplikacji wykorzystujących akcelerowaną sztuczną inteligencję i obliczenia o wysokiej wydajności (HPC). Co konkretnie ma do zaoferowania?
GH200 Grace Hopper Superchip Platform
NVIDIA DGX GH200 to rozwiązanie, które powstało z myślą o najbardziej wymagających klientach. Podmiotach, które wdrażają najbardziej zaawansowane projekty w obszarze AI i oczekują niezawodności działania i ogromnej wydajności.
Aby sprostać rosnącemu zapotrzebowaniu na generatywną sztuczną inteligencję, centra danych wymagają platform przyspieszonego przetwarzania o wyspecjalizowanych potrzebach – powiedział Jensen Huang, założyciel i dyrektor generalny NVIDIA. Nowa platforma GH200 Grace Hopper Superchip zapewnia to dzięki wyjątkowej technologii pamięci i udoskonalonej przepustowości, bezkompromisowej możliwości łączenia procesorów graficznych w celu uzyskania agregowanej wydajności, a także konstrukcji serwera, którą można łatwo wdrożyć w całym centrum danych.
Ogromne możliwości, jakie oferuje rozwiązanie można elastycznie skalować i w ten sposób dostosowywać do indywidualnych potrzeb. Platforma wykorzystuje superchip Grace Hopper, który można swobodnie łączyć z innymi superchipami za pośrednictwem NVIDIA NVLink™ i w ten sposób umożliwiać im efektywną współpracę przy wdrażaniu najbardziej wymagających projektów. Stworzona w ten sposób infrastruktura bez trudu upora się z gigantycznymi modelami językowymi, najbardziej założonymi systemami rekomendacyjnymi czy wektorowymi bazami danych.
Producent oferuje platformę w wielu różnych konfiguracjach. Podwójna konfiguracja zapewnia nawet 3,5-krotnie większą pojemność pamięci i aż 3 razy większą przepustowość w porównaniu z możliwościami oferowanymi przez platformy obecnej generacji! Wszystko to dzięki 144 rdzeniom Arm Neoverse, 282 GB pamięci HBM3e i 8 petaflopsom wydajności AI. Warto w tym miejscu dodać, że pamięć HBM3e jest o 50% szybsza niż obecna HBM3 i zapewnia łącznie 10 TB/s łącznej przepustowości, co otwiera zupełnie nowe możliwości w zakresie efektywności działania.
Platforma Grace Hopper Superchip jest w pełni kompatybilna ze specyfikacją serwerów NVIDIA MGX™, zaprezentowaną na targach COMPUTEX na początku tego roku. Umożliwia ona szybkie wprowadzenie na rynek kluczowych technologii platformowych, w tym procesorów, kart graficznych i DPU przy minimalnych, jednorazowych inwestycjach inżynieryjnych. Specyfikacja serwerów NVIDIA MGX™ umożliwia zaoferowanie aż 100 różnych konfiguracji systemu. NVIDIA oczekuje, że czołowi producenci zaoferują systemy oparte na platformie NVIDIA DGX GH200 już w drugim kwartale 2024 roku.