Strona główna » Ai e-book o sztucznej inteligencji » MTIA układ nowej generacji od Meta

MTIA układ nowej generacji od Meta

by kapdes
mtia-meta

Meta ujawniła szczegóły kolejnej generacji swojego wewnętrznego chipu AI MTIA.

Według firmy Meta, nowy chip jest nawet trzykrotnie wydajniejszy od swojego poprzednika i jest już wykorzystywany w procesach reklamowych i rankingowych Meta.

Meta ogłosiła nowe szczegóły dotyczące nowej generacji Meta Training and Inference Accelerator (MTIA), rodziny chipów, które Meta opracowuje specjalnie do wnioskowania o obciążeniach AI.
Według firmy, nowa wersja MTIA podwaja przepustowość obliczeniową i pamięciową poprzedniej wersji, zachowując jednocześnie ścisłe połączenie z obciążeniami Meta.
Architektura koncentruje się na osiągnięciu właściwej równowagi między mocą obliczeniową, przepustowością i pojemnością pamięci masowej dla modeli rankingu reklam i rekomendacji Meta.

Jak Wykorzystać Sztuczną Inteligencję W Życiu Codziennym?

Meta zoptymalizowała również poziom oprogramowania i opracowała Triton-MTIA

Niskopoziomowy kompilator, który według Meta generuje „wysokowydajny kod” dla sprzętu MTIA.
Meta twierdzi, że wstępne wyniki pokazują, że nowy chip już potroił wydajność czterech kluczowych modeli w porównaniu z chipem pierwszej generacji. Ponieważ Meta kontroluje cały stos, możliwe jest osiągnięcie wyższej wydajności w porównaniu do komercyjnych procesorów graficznych.
Nowy chip może zmniejszyć zależność Mety od kart graficznych Nvidia w niektórych obszarach, które są używane nie tylko do uruchamiania modeli sztucznej inteligencji, ale także do ich trenowania, ale nie mogą ich zastąpić.
Dyrektor generalny Mety, Mark Zuckerberg, ogłosił niedawno, że do końca roku w użyciu będzie 340 000 procesorów graficznych Nvidia H100, co daje łącznie około 600 000 kart graficznych. Czyni to Metę jednym z największych klientów Nvidii.

Meta nie jest jedyną firmą inwestującą we własne chipy AI.

Google właśnie zaprezentowało nową wersję, TPU v5p, która oferuje ponad dwa razy więcej FLOPS i trzy razy więcej szybkiej pamięci niż poprzednia generacja. Google twierdzi, że chip jest procesorem AI ogólnego przeznaczenia, który obsługuje szkolenie, dostrajanie i wnioskowanie.

Pozostałe artykuły