Zaloguj się
Wszystkie
30 listopada 2023
262
NVIDIA
Jedną z firm, która zaufała platformie NVIDIA NeMo jest firma Amazon, która rozwija modele fundamentalne Amazon Titan dla potrzeb Amazon Bedrock tj. usługi generatywnej sztucznej inteligencji. Zapewniane przez NVIDIA NeMo techniki zrównoleglania umożliwiają efektywne uczenie modeli LLM na niesłychaną skalę, a wraz z interfejsem Elastic Fabric Adapter proces uczenia realizowany jest na mnóstwie procesorów graficznych jednocześnie (przynajmniej 10 tysiącach sztuk). Dało to niespotykaną wcześniej dokładność działania modeli LLM, której nie osiągnięłoby się, polegając wyłącznie na zrównolegleniu wykonywania operacji. Jak wyjaśnia osoba pracująca dla firmy Amazon, Leonard Lausen:
"Jednym z powodów, dla którego zdecydowaliśmy się na użycie platformy NVIDIA NeMo, jest jej skalowalność i dostępność optymalizacji, które umożliwiają pracę z wieloma procesorami, oczywiście graficznymi (...). W szczególności można ją dopasowywać do ogromnych klastrów przetwarzania danych, co sprawia, że można szybciej: nauczać i dostarczać klientom modele LLM. Jest to o tyle łatwe, że NVIDIA NeMo opiera się na bardzo popularnych bibliotekach, np. PyTorch Lightning, które standaryzują proces uczenia modeli LLM."
Więcej informacji pod adresami: link 1 i link 2
Facebook
Twitter
Linkedin
Kup teraz
