גוגל מתכננת להקפיא את ג'מיני בסיליקון כדי לחסוך בחשמל

שבב ייעודי לג'מיני

לפי דיווח של The Information, גוגל עובדת על שבב שרתים חדש בשם הקוד Frozen v2, שמיועד להריץ חלקים מליבת הארכיטקטורה של ג'מיני ישירות בחומרה במקום בתוכנה. המהלך הזה מסמן שינוי כיוון חד: במקום לבנות מעבדים כלליים שמריצים כל מודל, ענקית החיפוש רוצה "לצרוב" את הארכיטקטורה הספציפית של המודל שלה לתוך הטרנזיסטורים עצמם.

קפיצה ביעילות אנרגטית

התמורה הצפויה דרמטית במונחים של דאטה סנטר, שיפור של פי 6 עד 10 ביעילות אנרגטית מול הדור הנוכחי של TPU, כלומר הרבה יותר טוקנים מעובדים לכל ואט. בגוגל מקווים שהקפיצה הזו תקל על מצוקת המחשוב הכרונית שממנה סובלת החברה, ותאפשר פריסה רחבה יותר של יכולות בינה מלאכותית בלי להכפיל את חשבון החשמל. היעד השאפתני הוא להתחיל לפרוס את השבבים כבר ב-2028, אם כי הפרויקט עדיין בשלבים מוקדמים ולא הוכרז רשמית.

אובדן גמישות מובנה

המחיר של היעילות הזו הוא אובדן גמישות מובנה. כשחלקים קריטיים מהמודל מקובעים בסיליקון, כל גרסה עתידית של ג'מיני תהיה חייבת לשמור על תאימות לאחור עם אותה ארכיטקטורת חומרה. שינוי מהותי בארכיטקטורת המודל, למשמע מעבר לארכיטקטורת Mixture of Experts שונה או שינוי במנגנון הקשב, יחייב תכנון וייצור של שבב חדש לגמרי, תהליך שלוקח שנים ועולה הון עתק.

המהלך גם מעמיק את "הגן הסגור" שגוגל בונה סביב התשתית שלה. ה-TPI הקיימים כבר צמצמו את התלות של גוגל באנבידיה, אבל Frozen v2 קושר את המודל והחומרה בקשר גורדי הרבה יותר הדוק: ג'מיני יתוכנן מראש עבור השבב הספציפי הזה, והשבב יותאם בדיוק לג'מיני. זו אסטרטגיה שמזכירה את מה שאפל עושה עם הסיליקון שלה למחשבים אישיים, רק בקנה מידה של ענן ארגוני.

ההימור כאן הוא על יציבות ארכיטקטונית. גוגל מהמרת שהכיוון הנוכחי של מודלי שפה גדולים, טרנספורמרים דחוסים, חלונות הקשר ארוכים, הסקה יעילה, יישאר דומיננטי מספיק זמן כדי להצדיק את ההשקעה האדירה ב-Tape-out וייצור. אם הפרדיגמה תשתנה שוב בקרוב, כמו שקרה במעבר מ-RNN ל-Transformers, השבב עלול להפוך לפיל לבן יקר מאוד עוד לפני שיגיע למרכז הנתונים הראשון.