NVIDIA L40S – potężne GPU dla centrów danych

Sztuczna inteligencja napędza przełomowe zmiany, odblokowując zupełnie nowe możliwości dla przedsiębiorstw we wszystkich branżach. By dokonać transformacji przy użyciu sztucznej inteligencji, przedsiębiorstwa potrzebują większej mocy obliczeniowej, większej skali i szerokiego zakresu funkcji, by sprostać wymaganiom coraz bardziej zróżnicowanych i złożonych obciążeń. Czy akcelerator obliczeniowy NVIDIA L40S skutecznie adresuje potrzeby zgłaszane przez biznes?

Co ma do zaoferowania NVIDIA L40S?

Ten zaawansowany akcelerator obliczeniowy został opracowany przez firmę NVIDIA specjalnie dla potrzeb sektora data center. L40S oparty jest na architekturze NVIDIA Ampere, co oznacza, że daje gwarancję niezwykłej mocy obliczeniowej i najwyższej wydajności. Wyposażono go w 8 192 rdzenie CUDA, 256 rdzeni Tensor oraz 32 GB pamięci HBM2, dzięki czemu akcelerator ten jest idealnym rozwiązaniem dla zadań związanych z uczeniem maszynowym, analizą danych czy symulacjami naukowymi.

Dzięki swym imponującym parametrom NVIDIA L40S umożliwia przetwarzanie danych z niezrównaną wydajnością, co przekłada się na szybsze i bardziej precyzyjne wyniki. Akcelerator oferuje dodatkowo wiele zaawansowanych funkcji – w tym m.in. obsługę wielu instancji GPU oraz elastyczne zarządzanie pamięcią, co przyczynia się do jeszcze większej efektywności obliczeniowej.

Ważną cechą NVIDIA L40S jest również energooszczędność. Dzięki zoptymalizowanemu projektowi i wykorzystaniu zaawansowanych technologii, akcelerator ten zapewnia wysoką wydajność przy jednoczesnym minimalnym zużyciu energii. Jest to niezwykle istotne z punktu widzenia centrów danych, które nieustannie dążą do zwiększenia efektywności energetycznej i tym samym istotnej redukcji kosztów.

NVIDIA L40S jest również doskonale zintegrowany z platformą NVIDIA CUDA-X (zbiór wysoce zoptymalizowanych bibliotek, narzędzi i technologii, wspierających pracę programistów, badaczy i naukowców), co umożliwia użytkownikom wykorzystanie pełnego potencjału GPU. Rozwiązanie to pozwala tworzyć i optymalizować aplikacje obliczeniowe w sposób bardziej efektywny i dużo bardziej elastyczny.

Podsumowując – NVIDIA L40S to zaawansowany akcelerator obliczeniowy, który oferuje niezwykłą moc i wydajność. Dzięki swojej architekturze, wsparciu dla technologii NVIDIA A100 Tensor Core GPU oraz energooszczędności, L40S staje się doskonałym rozwiązaniem dla centrów danych, które potrzebują potężnego sprzętu do przetwarzania danych i realizacji najbardziej zaawansowanych projektów.

Akcelerator napędzany architekturą NVIDIA Ada Lovelace

Rdzenie Tensor czwartej generacji

Wsparcie sprzętowe dla strukturalnej rzadkości i zoptymalizowanego formatu TF32 zapewnia większą przepustowość i natychmiastowy wzrost wydajności, umożliwiając szybsze szkolenie modeli sztucznej inteligencji i analizę danych. Pozwalają również przyspieszyć możliwości grafiki, podnosząc rozdzielczość i zapewniając lepszą wydajnością w wybranych aplikacjach.

Rdzenie RT trzeciej generacji

Zwiększona przepustowość i zdolności do równoczesnego śledzenia promieni i cieniowania pozwala przyspieszyć renderowanie dla projektowania produktów, architektury, inżynierii czy prac budowlanych. Rdzenie RT pozwalają obejrzeć realistyczne projekty w akcji dzięki sprzętowemu rozmyciu ruchu, a także oszałamiającym animacjom w czasie rzeczywistym.

Silnik Transformer

Silnik Transformer istotnie przyspiesza wydajność sztucznej inteligencji i poprawia wykorzystanie pamięci zarówno w procesie szkolenia, jak i wnioskowania. Wykorzystując moc rdzeni Tensor czwartej generacji Ada Lovelace, silnik transformer inteligentnie skanuje warstwy sieci neuronowej architektury transformatorowej i automatycznie przelicza precyzje między FP8 a FP16, by w ten sposób zapewnić większą wydajność sztucznej inteligencji i w rezultacie przyspieszyć szkolenie i wnioskowanie.

Gotowy do Centrum Danych

GPU L40S jest zoptymalizowane do całodobowej pracy w centrum danych przedsiębiorstwa i zaprojektowane, zbudowane i przetestowane przez NVIDIA w taki sposób, by zapewniać maksymalną wydajność, trwałość i czas pracy. GPU L40S spełnia najnowsze standardy centrów danych i posiada funkcję bezpiecznego rozruchu (ang. root of trust technology), zapewniającą dodatkową warstwę zabezpieczeń dla centrów danych.

Zalety architektury NVIDIA Ada Lovelace

Swoją moc i niezwykłą wydajność NVIDIA L40S zapewnia przede wszystkim przełomowej architekturze NVIDIA – Ada Lovelace. Co zalicza się do jej największych atutów?

• Wydajność obliczeniowa – Ada Lovelace została zaprojektowana tak, by dostarczać maksymalnie wysoką wydajność obliczeniową, co jest szczególnie ważne dla zastosowań wymagających dużych mocy obliczeniowych takich jak uczenie maszynowe, analiza danych czy symulacje naukowe.
• Wsparcie dla zaawansowanych technologii – architektura oferuje zaawansowane funkcje i technologie np. ray trading czy grafika neuronowa. Umożliwia to użytkownikom korzystanie z najnowszych osiągnięć w dziedzinie grafiki komputerowej i obliczeń naukowych. Zapewnia ponadto doskonałe wrażenia miłośnikom gier komputerowych.
• Efektywność energetyczna – NVIDIA Ada Lovelace jest zoptymalizowana pod kątem efektywności energetycznej, a to oznacza, że dostarcza wysoką wydajność przy minimalnym zużyciu energii. Jest to szczególnie istotne dla centrów danych, które już dziś odpowiadają za kilka procent światowego zużycia energii.
• Skalowalność i elastyczność – Ada Lovelace jest zaprojektowana w taki sposób, by umożliwić łatwe skalowanie i dostosowywanie do potrzeb zgłaszanych przez biznes. Możliwość łączenia wielu kart graficznych w klastry i tworzenia potężnych systemów obliczeniowych otwiera możliwość realizacji nawet najbardziej wymagających zadań i projektów.
• Zoptymalizowane oprogramowanie – NVIDIA zadbała również o zoptymalizowane oprogramowanie, dedykowane dla architektury Ada Lovelace. Umożliwia ono programistom wykorzystanie pełnego potencjału tej architektury i tworzenie jeszcze bardziej wydajnych i wysoce stabilnych aplikacji obliczeniowych.

NVIDIA L40S – parametry techniczne

Wiemy już, że NVIDIA L40S to rozwiązanie skrojone na miarę nowoczesnych centrów danych, ale przyjrzyjmy się nieco bliżej specyfikacji technicznej nowego akceleratora:

• architektura GPU: NVIDIA Ada Lovelace
• pamięć GPU: 48 GB GDDR6 z ECC
• przepustowość pamięci: 864 GB/s
• interfejs łączności: PCIe Gen4 x16: 64 GB/s dwukierunkowy
• liczba rdzeni CUDA® opartych na architekturze NVIDIA Ada Lovelace: 18 176
• trzecia generacja rdzeni RT NVIDIA: 142
• czwarta generacja rdzeni Tensor NVIDIA: 568
• wydajność rdzeni RT w TFLOPS: 212
• wydajność FP32 w TFLOPS: 91.6
• wydajność TF32 Tensor Core w TFLOPS: 183 I 366
• wydajność BFLOAT16 Tensor Core w TFLOPS: 362.05 I 733
• wydajność FP16 Tensor Core: 362.05 I 733
• wydajność FP8 Tensor Core: 733 I 1,466
• maksymalna wydajność INT8 Tensor w TOPS: 733 I 1 466
• maksymalna wydajność INT4 Tensor w TOPS: 733 I 1 466
• format: 4,4" (wysokość) x 10,5" (długość), podwójny slot
• porty wyjściowe: 4x DisplayPort 1.4a
• maksymalne zużycie energii: 350W
• złącze zasilania: 16-pinowe
• chłodzenie: Pasywne
• wsparcie oprogramowania Virtual GPU (vGPU): Tak
• wsparcie NVENC I NVDEC: 3x l 3x (z obsługą kodowania i dekodowania AV1)
• bezpieczny rozruch z korzeniem zaufania: Tak
• gotowość NEBS: Poziom 3
• wsparcie dla Multi-Instance GPU (MIG): Nie
• wsparcie dla NVIDIA® NVLink®: Nie.