Łatwość uczenia modeli LLM dzięki platformie NVIDIA NeMo

Jakub Tyburski

Blog

AI-Sztuczna Inteligencja

30 listopada 2023

775

NVIDIA

Jak sama nazwa modeli wskazuje (ang. Large Language Models) są to rozwiązania, dla których potrzeba rozległych zbiorów danych. Dla wielu podmiotów zajmujących się na dobrą sprawę generatywną sztuczną inteligencją jest to ogromne wyzwanie. Jednak w zupełności wystarczy zastosować opracowaną przez firmę NVIDIA platformę NeMo w celu sprostania temu wyzwaniu. Jest to rozwiązanie umożliwiające tworzenie, a także, w praktyce, dostosowywanie oraz wdrażanie modeli LLM na dużą skalę.

Jedną z firm, która zaufała platformie NVIDIA NeMo jest firma Amazon, która rozwija modele fundamentalne Amazon Titan dla potrzeb Amazon Bedrock tj. usługi generatywnej sztucznej inteligencji. Zapewniane przez NVIDIA NeMo techniki zrównoleglania umożliwiają efektywne uczenie modeli LLM na niesłychaną skalę, a wraz z interfejsem Elastic Fabric Adapter proces uczenia realizowany jest na mnóstwie procesorów graficznych jednocześnie (przynajmniej 10 tysiącach sztuk). Dało to niespotykaną wcześniej dokładność działania modeli LLM, której nie osiągnięłoby się, polegając wyłącznie na zrównolegleniu wykonywania operacji. Jak wyjaśnia osoba pracująca dla firmy Amazon, Leonard Lausen:

"Jednym z powodów, dla którego zdecydowaliśmy się na użycie platformy NVIDIA NeMo, jest jej skalowalność i dostępność optymalizacji, które umożliwiają pracę z wieloma procesorami, oczywiście graficznymi (...). W szczególności można ją dopasowywać do ogromnych klastrów przetwarzania danych, co sprawia, że można szybciej: nauczać i dostarczać klientom modele LLM. Jest to o tyle łatwe, że NVIDIA NeMo opiera się na bardzo popularnych bibliotekach, np. PyTorch Lightning, które standaryzują proces uczenia modeli LLM."

Więcej informacji pod adresami: link 1 i link 2

Pan Leonard Lausen

Firma: NVIDIA

Tagi: AI-Sztuczna Inteligencja Software

Tematyka materiału: Amazon, generatywna sztuczna inteligencja, GPU, Leonard Lausen, modele LLM, NVIDIA

AUTOR

Jakub Tyburski

ZOBACZ WIĘCEJ ARTYKUŁÓW AUTORA

Źródło

blogs.nvidia.com

Udostępnij

Facebook

Twitter

Zobacz wszystkie quizy

Quiz weekendowy

Theremin

Oceń najnowsze wydanie EdW

Wypełnij ankietę i odbierz prezent

Blog kategorie

Podzespoły bierne AI-Sztuczna Inteligencja Aparatura Arduino Audio Automatyka Ciekawostki CNC DIY Druk 3d Elektromechanika Felietony Fotowoltaika FPGA/CPLD/SPLD GPS IC-układy scalone Interfejsy IoT Koła Naukowe Komputery Książki Lasery LED/LCD/OLED Mechatronika Mikrokontrolery (MCU,μC) Moc Moduły Narzędzia Optoelektronika PCB/Montaż Podstawy elektroniki Podzespoły bierne Półprzewodniki Pomiary i testy Projektowanie Raspberry Pi Retro Komunikacja, RF Robotyka SBC/SIP/SoC/COM Sensory Silniki i serwo Software Sterowanie Transformatory Tranzystory Wyświetlacze Wzmacniacze Zasilanie