Strona główna » Ai e-book o sztucznej inteligencji » Google aktualizuje i rozszerza swoją rodzinę modeli open source Gemma AI

Google aktualizuje i rozszerza swoją rodzinę modeli open source Gemma AI

by kapdes
gemma-ai-google

Gemma Ai

Google dodał nowe modele uzupełniania kodu i bardziej wydajnego wnioskowania do rodziny Gemma. Warunki użytkowania zostały uelastycznione.

Firma Google ogłosiła, że rozszerza rodzinę modeli sztucznej inteligencji Gemma. Gemma została po raz pierwszy wydana w lutym i obejmuje lekkie modele, które wykorzystują tę samą technologię, co większe modele Google Gemini. Jest to pierwszy krok Google na rynku open-source.

Istnieją trzy nowe wersje CodeGemma, modelu, który pomaga programistom pisać kod:

  • Wstępnie wytrenowany model o 7 miliardach parametrów do uzupełniania kodu i generowania nowego kodu.
  • Model o 7 miliardach parametrów zoptymalizowany pod kątem rozmów o kodzie i wykonywania instrukcji
  • Wstępnie wytrenowany model o 2 miliardach parametrów do szybkiego uzupełniania kodu na urządzeniach lokalnych
gemma

CodeGemma została przeszkolona na 500 miliardach tokenów danych z dokumentów internetowych, matematyki i kodu.

Może pisać poprawny i znaczący kod w Pythonie, JavaScript, Javie i innych popularnych językach programowania. Google twierdzi, że CodeGemma ma pozwolić programistom pisać mniej powtarzalny kod i skupić się na trudniejszych zadaniach.
Gemma dla bardziej wydajnego wnioskowania
Google wydało również RecurrentGemma, oddzielny model, który wykorzystuje rekurencyjne sieci neuronowe i lokalną uwagę, aby być bardziej wydajnym pod względem pamięci. Działa on podobnie do modelu Gemma o 2 miliardach parametrów, ale ma pewne zalety:

  • Wykorzystuje mniej pamięci do generowania dłuższego tekstu na urządzeniach z ograniczoną pamięcią, takich jak pojedyncze układy GPU lub CPU.
  • Może szybciej przetwarzać tekst, wykorzystując większe rozmiary partii i generując więcej słów na sekundę.
  • Rozwija badania nad sztuczną inteligencją, pokazując, jak modele bez transformacji mogą nadal działać dobrze.

Google zaktualizowało również oryginalne modele Gemma do wersji 1.1, wprowadzając ulepszenia wydajności, poprawki błędów i bardziej elastyczne warunki użytkowania.

Nowe modele są teraz dostępne na Kaggle, Nvidia NIM APIs, Hugging Face i w Vertex AI Model Garden. Współpracują one z narzędziami takimi jak JAX, PyTorch, Hugging Face Transformers, Gemma.cpp, Keras, NVIDIA NeMo, TensorRT-LLM, Optimum-NVIDIA i MediaPipe.

Źródło: https://developers.googleblog.com/2024/04/gemma-family-expands.html

Pozostałe artykuły