גוגל: Gemma 4 יכול לפעול על מחשבים עם 16GB זיכרון

גוגל הציגה ב-3 ביוני את Gemma 4 12B, מודל רב-מודאלי עם 12 מיליארד פרמטרים וקלט אודיו מובנה. המודל החדש נכנס לטווח חומרה שכולל גם כמה מחשבים אישיים מתקדמים. כך הוא עשוי להנגיש פרויקטים מקומיים של קול ותוכן רב-מודאלי למפתחים שאינם רוצים לשלוח כל בקשה לשירות מרוחק.

לפי החברה, אפשר להריץ את המודל באופן מקומי עם 16GB של VRAM או זיכרון מאוחד. זו טענה לכך שהמודל נכנס לזיכרון, לא הבטחה שכל מחשב עם 16GB יספק אותה מהירות או יתמוך באותה תצורה. תאימות המאיץ, כימות, מערכת ההפעלה ותוכנת ההסקה משפיעים כולם על התועלת המעשית של ההתקנה המקומית.

גוגל פרסמה את המשקולות ברישיון Apache 2.0 ותיעדה דרכי שימוש בכלי פיתוח מקומיים ובכלי ענן נפוצים. היא גם דיווחה שמשפחת Gemma כולה חצתה 150 מיליון הורדות עד מועד ההשקה. הנתון מגיע מגוגל ואינו מודד התקנות פעילות או את הביצועים של Gemma 4 עצמו.

היתרון המעשי המרכזי הוא שליטה. מודל שנכנס למחשב יחיד יכול לתמוך בניסויים ללא חיבור ובתהליכים שבהם הנתונים נשארים קרובים יותר למשתמש. היתרונות עדיין תלויים ביישום, בחומרה ובאמצעי ההגנה. משקולות להורדה אינן פוטרות מתחזוקה, ודרישת זיכרון שמתאימה למחשב נייד אינה עונה על שאלות של זמן תגובה או איכות פלט.

מפתחים שמשווים את Gemma למערכות מתארחות צריכים לבדוק את עומס העבודה המלא, ולא רק נתון אחד. כדאי למדוד שימוש בזיכרון לאחר הטעינה, זמן תגובה, טיפול באודיו, מאיצים נתמכים והשפעת הכימות. ההשקה של גוגל קובעת נקודת פתיחה אפשרית, אך בדיקות על מחשבים אמיתיים יקבעו עד כמה הטענה רחבה.