Modułowa architektura NVIDIA MGX

Tegoroczna edycja targów COMPUTEX zdominowana została przez NVIDIA, która zaprezentowała wiele nowości. Jedną z najbardziej interesujących premier, zwłaszcza z perspektywy klientów instytucjonalnych, poszukujących rozwiązań szytych na miarę, była niewątpliwie modułowa architektura NVIDIA MGX. Stworzono ją w odpowiedzi na dynamicznie zmieniające się potrzeby rynku i ciągle rosnąca zapotrzebowanie firm na moc obliczeniową. Co konkretnie do zaoferowania ma NVIDIA MGX? Jakie korzyści niesie za sobą modułowość architektury MGX?

Czym jest NVIDIA MGX?

To modułowa architektura, która jest wykorzystywana w niektórych produktach NVIDIA. Architektura ta umożliwia budowę elastycznych i skalowalnych rozwiązań, które można dostosować do najróżniejszych zastosowań. Moduły MGX są niezależnymi jednostkami, które można ze sobą łączyć i w ten sposób budować infrastrukturę odpowiadającą potrzebom konkretnego projektu. Mogą one obejmować różne funkcje, takie jak przetwarzanie obrazu, kontrolę ruchu, komunikację sieciową itp.

Przy projektowaniu centrów danych, które odpowiadają konkretnym potrzebom biznesowym i aplikacyjnym, przedsiębiorstwa poszukują coraz bardziej wydajnych możliwości obliczeniowych – powiedział Kaustubh Sanghani, wiceprezes ds. produktów GPU w firmie NVIDIA. Stworzyliśmy MGX, aby pomóc organizacjom we wdrażaniu sztucznej inteligencji w przedsiębiorstwach, oszczędzając przy tym znaczną ilość czasu i pieniędzy.

Modułowa architektura referencyjna zapewnia szybką i ekonomiczną budowę niezbędnej infrastruktury – umożliwia stworzenie ponad 100 różnych kombinacji serwerowych, by optymalnie dostosowywać się do planowanych przedsięwzięć z zakresu AI, obliczeń dużej wydajności czy też wykorzystywania aplikacji Omniverse.

Jakie korzyści niesie za sobą korzystanie z NVIDIA MGX?

Z punktu widzenia biznesu budowa infrastruktury systemowej pod rozwiązania wykorzystujące sztuczną inteligencję to inwestycja. Inwestycja, która powinna charakteryzować się odpowiednio wysoką stopą zwrotu. Między innymi z tego względu dla zarządzających przedsiębiorstwami niezwykle ważne są nie tylko kwestie wydajności i niezawodności działania, ale również koszt budowy takiej infrastruktury, jej rozbudowy i utrzymania. Pod tym względem NVIDIA MGX ma naprawdę wiele do zaoferowania, gdyż jest niezwykle elastycznym i skalowalnym rozwiązaniem.

Użytkownicy zaczynają bowiem od podstawowej architektury systemowej, zoptymalizowanej pod kątem przyspieszonego przetwarzania danych, a następnie wybierają optymalne GPU, DPU i CPU. Wszystko po to, by stworzyć platformę, która w największym stopniu zaadresuje potrzeby planowanego przedsięwzięcia. Niezależnie od tego, czy będzie to projekt z obszaru HPC czy zaawansowanej analizy danych, duży model językowy, czy przetwarzanie brzegowe, z NVIDIA MGX można bardzo szybko zbudować optymalne środowisko pracy, uwzględniające spodziewane obciążenia. Co więcej, zadania, takie jak chociażby szkolenia modeli, mogą być wykonywane na jednej maszynie, podczas gdy pozostałe mogą być w tym samym czasie aktualizowane do kolejnej generacji sprzętowej. Wspomnieć należy również, że NVIDIA MGX zaprojektowana została w taki sposób, by bezproblemowo integrować się z rozwiązaniami chmurowym i firmowymi centrami danych.

Kwestie ekologiczne i ekonomiczne

Nie da się ukryć, że centra danych muszą skutecznie adresować nie tylko potrzeby biznesu i stale rosnący apetyt na coraz większe możliwości obliczeniowe, ale również coraz bardziej rygorystyczne przepisy dotyczące zmniejszania emisji gazów cieplarnianych, by przeciwdziałać zmianom klimatu. Jest to bardzo poważny problem, gdyż już dziś centra danych odpowiadają za niemalże 1,5% światowego zużycia energii. Biorąc pod uwagę dynamikę rynku, można śmiało przypuszczać, że wkrótce udział ten ulegnie istotnemu zwiększeniu.

Architektura NVIDIA MGX stanowi skuteczną odpowiedź na kwestie ekologiczne, a jednocześnie pozwala centrom danych utrzymywać koszty działalności pod kontrolą. Serwery NVIDIA od dawna zajmują czołowe pozycje w kontekście wydajności obliczeniowej oraz poboru mocy. Z modułową architekturą MGX elastyczne odpowiadanie na potrzeby klientów jest jeszcze prostsze – platforma umożliwia bowiem spełnianie indywidualnych wymagań klientów w zakresie budżetu, mocy, projektu termicznego oraz wymagań mechanicznych.

MGX działa w różnych obudowach i współpracuje z obecnymi i przyszłymi generacjami sprzętu NVIDIA, w tym m.in.:

• obudowy: 1U, 2U, 4U (chłodzone powietrzem lub cieczą);
• procesory graficzne: pełna oferta procesorów graficznych NVIDIA, w tym najnowsze H100, L40, L4;
• procesory: Superchip procesora NVIDIA Grace, Superchip GH200 Grace Hopper, procesory x86;
• sieć: karty sieciowe NVIDIA BlueField®-3 DPU oraz ConnectX®-7.

MGX wspierany jest nie tylko przez zaawansowany sprzęt NVIDIA, ale również oprogramowanie producenta, które umożliwia programistom i przedsiębiorstwom tworzenie i przyspieszanie aplikacji AI czy HPC. Mowa między innymi o NVIDIA AI Enterprise, która obejmuje ponad 100 frameworków, wstępnie wytrenowanych modeli i narzędzi programistycznych, przyspieszających sztuczną inteligencję oraz analizę danych w celu zapewnienia sprawniejszego rozwoju i wdrażania sztucznej inteligencji w przedsiębiorstwach.

NVIDIA MGX vs. NVIDIA HGX

To, co odróżnia NVIDIA MGX od NVIDIA HGX to przede wszystkim podejście do budowy infrastruktury systemowej dla planowanych przedsięwzięć z zakresu AI. MGX oferuje ogromną elastyczność i kompatybilność z produktami NVIDIA niezależnie od ich generacji. W rezultacie twórcy systemów mogą wykorzystać raz stworzony projekt wielokrotnie – uzupełnić go rozwiązaniami najnowszej generacji bez konieczności dokonywania kosztownych przeprojektowań systemu.

HGX opiera z kolei swoje działanie na płycie głównej z wieloma procesorami graficznymi podłączonymi do NVLink®, co umożliwia skalowanie infrastruktury i uzupełniania jej o kolejne elementy, by w ten sposób móc realizować jeszcze bardziej zaawansowane i wymagające projekty AI czy HPC.