Oparta na wydajnych układach graficznych Hopper H100 jednostka obliczeniowa DGX H100 firmy NVIDIA

Jakub Tyburski

Blog

Felietony

4 kwietnia 2023

417

NVIDIA

Układy graficzne Hopper H100 bardzo dobrze odpowiadają zastosowaniom sztucznej inteligencji (AI), sporych modeli językowych (LLM) i systemów rekomendacji. Każdy z układów wspiera biblioteka programowa Transformer Engine (TE). Opracowana przez firmę NVIDIA jednostka obliczeniowa obejmuje 8 układów graficznych Hopper H100 o pamięci danych z sumaryczną pojemnością 640 GB.

W budowie jednostki obliczeniowej DGX H100 zastosowano m.in.: 18 magistral wewnętrznych NVLink o przepustowości 900 Gb/s każda i rozwiązania platform sprzętowych (firmy NVIDIA): Quantum InfiniBand oraz Spectrum Ethernet. Najwyższa moc obliczeniowa DGX H100 wynosi 32 PFLOPS. Skuteczna implementacja rozwiązań sztucznej inteligencji (AI) jest zapewniona - gwarantuje to stos programowy NVIDIA AI do zarządzania tymi rozwiązaniami. Mowa tu np. o: oprogramowaniu AI Enterprise lub systemie operacyjnym Base Command, który wytworzono, w istocie, dla centrów danych o rozwiązaniach DGX firmy NVIDIA. Przewidziano też procesory firmy Intel: Xeon Platinum 8480C o łącznie 112 rdzeniach obliczeniowych i dyski SSD z dobrą, innowacyjną technologią NVMe (ang. Non-Volatile Memory Express), o pojemności aż 30 TB.

Więcej informacji pod adresami: link 1 i link 2

Budowa jednostki obliczeniowej DGX H100

Firma: NVIDIA

Tagi: AI-Sztuczna Inteligencja Układy scalone Komputery

Tematyka materiału: DGX H100, GPU, Hopper, Hopper H100, Quantum InfiniBand, układy graficzne

AUTOR

Jakub Tyburski

ZOBACZ WIĘCEJ ARTYKUŁÓW AUTORA

Źródło

https://nvidianews.nvidia.com

Udostępnij

Facebook

Twitter

Zobacz wszystkie quizy

Quiz weekendowy

Edukacja

Oceń najnowsze wydanie EdW

Wypełnij ankietę i odbierz prezent

Blog kategorie

Podzespoły bierne AI-Sztuczna Inteligencja Aparatura Arduino Audio Automatyka Ciekawostki CNC DIY Druk 3d Elektromechanika Felietony Fotowoltaika FPGA/CPLD/SPLD GPS IC-układy scalone Interfejsy IoT Koła Naukowe Komputery Książki Lasery LED/LCD/OLED Mechatronika Mikrokontrolery (MCU,μC) Moc Moduły Narzędzia Optoelektronika PCB/Montaż Podstawy elektroniki Podzespoły bierne Półprzewodniki Pomiary i testy Projektowanie Raspberry Pi Retro Komunikacja, RF Robotyka SBC/SIP/SoC/COM Sensory Silniki i serwo Software Sterowanie Transformatory Tranzystory Wyświetlacze Wzmacniacze Zasilanie