Google DeepMind wprowadza Gemma 4 12B – nowy model, który łączy zaawansowane możliwości rozumowania z wydajnością klasy „edge”. Jest to rozwiązanie zaprojektowane z myślą o uruchamianiu lokalnym, wypełniające lukę między mniejszym modelem E4B a bardziej rozbudowanym wariantem 26B Mixture of Experts (MoE).
Kluczowe cechy modelu
Gemma 4 12B wyróżnia się architekturą zoptymalizowaną pod kątem pracy na standardowych komputerach przenośnych. Do jej najważniejszych atrybutów należą:
- Wydajność lokalna: Model wymaga jedynie 16 GB pamięci VRAM lub zunifikowanej pamięci RAM, co pozwala na uruchamianie zaawansowanych agentów AI bezpośrednio na laptopie.
- Architektura bez enkoderów: Zastosowano nowatorskie podejście, w którym dane wizualne i dźwiękowe trafiają bezpośrednio do głównego modelu językowego, eliminując potrzebę stosowania oddzielnych enkoderów.
- Natywna obsługa audio: Jest to pierwszy średniej wielkości model w rodzinie Gemma, który obsługuje wejście audio bez zewnętrznych modułów przetwarzających.
- Wsparcie dla agentów: Dzięki technologii Multi-Token Prediction (MTP) model oferuje zredukowane opóźnienia, co jest kluczowe w pracy agentowej.
Uproszczona architektura multimodalna
Tradycyjne modele multimodalne często polegają na złożonych enkoderach, które zwiększają zużycie pamięci i opóźnienia. Gemma 4 12B rezygnuje z tego rozwiązania:
| Typ danych | Sposób przetwarzania |
| :— | :— |
| Wizualne | Lekki moduł osadzeń (embedding) zastępujący klasyczny enkoder. |
| Audio | Bezpośrednia projekcja sygnału audio do przestrzeni wymiarowej tokenów tekstowych. |
Dostępność i ekosystem
Model został udostępniony na licencji Apache 2.0, co zapewnia pełną otwartość dla społeczności programistycznej. Dotychczasowe modele z serii Gemma przekroczyły już 150 milionów pobrań, znajdując zastosowanie w projektach od robotyki po systemy bezpieczeństwa AI.
Deweloperzy mogą rozpocząć pracę z Gemma 4 12B poprzez:
- Narzędzia lokalne: LM Studio, Ollama, Google AI Edge Gallery oraz LiteRT-LM CLI.
- Biblioteki: Hugging Face Transformers, llama.cpp, MLX, SGLang, vLLM oraz Unsloth (do wydajnego dostrajania).
- Chmurę: Google Cloud (Model Garden, Cloud Run, GKE).
Wraz z premierą udostępniono również oficjalne repozytorium „Gemma Skills”, zawierające gotowe umiejętności wspierające tworzenie zaawansowanych agentów AI. Modele są już dostępne do pobrania w serwisach Hugging Face oraz Kaggle.
