חוקרי בינה מלאכותית באקדמיה מנסים לשרוד בעידן שבו החזית עברה למעבדות הפרטיות

הכתב שהגיע למלון במאונטיין ויו בשבוע שעבר לא מצא שם השקות נוצצות, אלא שיחות מסדרון על הישרדות. כנס AI2050 של שמידט סיינסס (Schmidt Sciences), תוכנית במימון אריק וונדי שמידט שתומכת בחוקרים אקדמיים שעוסקים בבינה מלאכותית, כינס כמה מהשמות הגדולים בתחום, אבל האווירה הייתה של מי שמבינים שהמשחק השתנה. בגילוי נאות: הכתב קיבל ב-2024 פרס תקשורת מדעית שמומן על ידי שמידט סיינסס.

החזית זזה, האוניברסיטאות נשארו בלי GPUs

בארבע השנים האחרונות המחקר עבר להתמקד במודלי שפה גדולים (LLMs), והקצה הטכנולוגי נדד מהאקדמיה לחברות פרטיות. אוניברסיטאות פשוט לא יכולות להרשות לעצמן את כוח המחשוב הנדרש לאימון והרצה של מודלי חזית, וגם אם היו יכולות, Anthropic ו-OpenAI לא חולקות את הפרטים הפנימיים של קלאוד (Claude) או צ'אט-GPT. ניקה חגטלאב (Nika Haghtalab), פרופסור למדעי המחשב בברקלי, השוותה את המצב לביולוגים בעולם שבו חברות פרטיות מחזיקות בשליטה בלעדית על CRISPR. חוקרים מחוץ למעבדות החזית יכולים לחקור איך המודלים מתנהגים, אבל לא את התכנון והאימון שלהם, ובטח לא לכוון אותם.

מימון GPUs עוזר, אבל לא פותר את הבעיה

תוכנית AI2050 מציעה לעמיתים מימון לרכישת GPUs, וכמה חוקרים ציינו שזה יתרון משמעותי. אבל הכסף נשאר צוואר בקבוק, במיוחד על רקע הקיצוץ במימון הפדרלי למדע בארצות הברית. אפילו חוקרים שלא מריצים מודלים מקומיים נתקלים בעלויות גבוהות כשהם צריכים לשלוח שאילתות חוזרות למודלים של OpenAI, אנתרופיק וגוגל כדי לחקור אותם ברצינות, עלות שיכולה להיות בלתי אפשרית עבור מענק אקדמי סטנדרטי.

שאלות שהחברות לא ישאלו את עצמן

במקום לרדוף אחרי יכולות, רבים מהעמיתים מכוונים לשאלות שהמעבדות המסחריות לא יטפלו בהן. "אני מנסה לא לעבוד על בעיות שאני חושבת שייפתרו על ידי חברת טק," אומרת אנג'לי פילד (Anjalie Field), פרופסור בג'ונס הופקינס. חברות צריכות להרוויח, ושאלות מחקר עם סיכוי רווח נמוך, או כאלה שהתשובות עלולות להראות את החברות באור רע, לא יקבלו השקעה. לאחרונה פילד פרסמה מחקר שהראה כי מודלי שפה נותנים תשובות פחות מתוחכמות לניסוחים שנפוצים יותר אצל נשים מאשר אצל גברים. קשה לדמיין מחקר כזה יוצא מאנתרופיק או OpenAI.

לא רק LLMs: החוקרים שנשכחו מאחור

קבוצה גדולה של חוקרי AI בכלל לא עובדת עם LLMs. רבים מהם בונים מודלים ייעודיים לניתוח נתונים, חיזוי או סימולציה של מערכות פיזיות שלמות. הם לא בהכרח מתחרים במעבדות החזית, צוות אלפאפולד (AlphaFold) של גוגל דיפמיינד (Google DeepMind), שבנה מודל זוכה נובל לחיזוי מבני חלבונים, פורק בחודש שעבר, אבל הם מתמודדים עם אתגרים משלהם. בכנס עלו חששות שהבורות הרווחת לגבי AI שאינו LLM פוגעת בעבודתם. חוקרים שבונים כלים למשבר האקלים, למשל, מתקשים לקדם את עבודתם כשהציבור והתקשורת מזהים "AI" רק עם "LLMs זוללי אנרגיה".