מעבדת Thinking Machines משיקה את אינקלינג: לא מודל שיא, אלא תשתית להתאמה אישית

מעבדת Thinking Machines השיקה את אינקלינג (Inkling), המודל הראשון שלה במשקולות פתוחות, ובמקום לרדוף אחרי המקום הראשון בטבלאות הדירוג היא מציעה בסיס מולטי־מודאלי כבד משקל שנועד שיקחו אותו ויתאימו אותו למשימות ספציפיות. המספרים מרשימים בכל קנה מידה: 975 מיליארד פרמטרים בסך הכל, 41 מיליארד פעילים במבנה מומחים, חלון הקשר של מיליון טוקנים ואימון על 45 טריליון טוקנים שמכסים טקסט, תמונות, אודיו ווידאו. לצדו מגיע אינקלינג־סמול (Inkling-Small) בגרסת תצוגה מקדימה עם 12 מיליארד פרמטרים פעילים. בחברה מודים בגלוי: זה לא המודל החזק ביותר בשוק, לא בקוד פתוח ולא בסגור; ההימור הוא על בסיס יציב שאפשר לבנות עליו.

החלק המעניין באמת נמצא בפלטפורמה שנקראת טינקר (Tinker). Thinking Machines רוצה להפוך התאמה אישית לפעולה שגרתית: זורקים משימה ונתונים, והמערכת מריצה אימון, הערכה והחלפת משקולות. בהדגמה שפרסמו המודל עצמו כתב את קוד ההתאמה האישית שלו, למד להימנע מהאות "e" בתשובות, הריץ הערכה ועבר למשקולות החדשות, לולאה שלמה של מודל, משימה, נתונים, התאמה, הערכה, משקולות חדשות.

עד היום ארגונים שרצו מודל מותאם נאלצו לבחור בין שירותים מנוהלים יקרים לבין הקמת תשתית אימון פנימית שגוזלת חודשי הנדסה. טינקר מנסה לשבת באמצע: מודל במשקולות פתוחות שנותן שליטה, עטוף בפלטפורמה שמורידה את הכאב התפעולי. הצוות מהמר שהעתיד לא שייך למודל אחד ששולט בכולם, אלא ל"מפעל מודלים" שמייצר גרסאות צרות וזולות לכל מוצר. אינקלינג הוא חומר הגלם; טינקר היא פס הייצור.

הזווית הישראלית ברורה: רוב הסטארט־אפים המקומיים בונים אפליקציות על גבי מודלים, לא חוקרים ארכיטקטורות. היכולת לקחת מודל 41B חזק, להריץ עליו התאמה מהירה בעברית או בערבית עם דאטה פנימי, ולקבל מודל קטן יותר לריצה בפרודקשן, בלי לשלוח דאטה רגיש החוצה ובלי להחזיק צוותי ML ייעודיים או לנהל חומרת עיבוד, היא בדיוק הפער שכאן מנסים לסגור כבר שנתיים. אם טינקר תעמוד בהבטחה ותתמחר בהיגיון, היא יכולה להפוך לתשתית ברירת מחדל לחברות שמפתחות פיצ׳רים מבוססי LLM בתל אביב, הרצליה או באר שבע, וצריכות לזוז מהר בלי ליפול למלכודות תשתית.