Google twierdzi, że Gemma 4 może działać na komputerach z 16 GB pamięci

Google zaprezentował 3 czerwca Gemma 4 12B, multimodalny model z 12 miliardami parametrów i natywnym wejściem audio. Nowy model mieści się w klasie sprzętu obejmującej część wydajniejszych komputerów osobistych. Ułatwia to lokalne projekty głosowe i multimodalne deweloperom, którzy nie chcą wysyłać każdego zapytania do zewnętrznej usługi.

Firma twierdzi, że model może działać lokalnie z 16 GB VRAM lub pamięci zunifikowanej. To deklaracja, że model mieści się w pamięci, a nie obietnica identycznej szybkości i konfiguracji na każdym komputerze z 16 GB. Zgodność akceleratora, kwantyzacja, system operacyjny i oprogramowanie do inferencji decydują o praktycznej użyteczności lokalnego wdrożenia.

Google udostępnił wagi na licencji Apache 2.0 i opisał ich użycie z popularnymi narzędziami lokalnymi oraz chmurowymi. Podał też, że cała rodzina Gemma przekroczyła w dniu premiery 150 milionów pobrań. To liczba przedstawiona przez Google. Nie mierzy aktywnych wdrożeń ani wydajności samej Gemma 4.

Praktyczną zaletą jest kontrola. Model mieszczący się na jednej maszynie umożliwia eksperymenty offline i przepływy, w których dane pozostają bliżej użytkownika. Korzyści zależą jednak od aplikacji, sprzętu i zabezpieczeń. Wagi do pobrania nie eliminują utrzymania, a zapotrzebowanie na pamięć odpowiednie dla laptopa nie rozstrzyga kwestii opóźnień lub jakości odpowiedzi.

Porównując Gemma z usługami hostowanymi, deweloperzy powinni sprawdzić całe obciążenie, nie tylko jedną specyfikację. Liczą się zużycie pamięci po uruchomieniu, czas odpowiedzi, obsługa audio, wspierane akceleratory i wpływ kwantyzacji. Premiera Google wyznacza osiągalny punkt startowy, ale zakres deklaracji pokażą dopiero testy na rzeczywistych urządzeniach.