מאסק ואלטמן מסכימים: אנחנו בסינגולריות

שותפות לא צפויה

אילון מאסק וסם אלטמן לא נוטים להסכים בפומבי. בשבועות האחרונים זה קרה: מאסק צייץ שהבינה המלאכותית כבר על-אנושית בהרבה תחומים, וקבע "אנחנו בסינגולריות". הציוץ הגיע בתגובה לדברים דומים של אלטמן, ובניגוד לעקיצות הרגילות ביניהם, הפעם לא נרשמה תגובת נגד.

המקהלה מתרחבת

הם לא לבד. דמיס האסאביס מגוגל דיפמיינד וג'נסן הואנג מאנבידיה התחילו להזכיר את המונח בראיונות ובכנסים בחודשים האחרונים. כל אחד מהם מגיע מזווית אחרת, מחקר, תשתית חומרה, מוצר, אבל הקונצנזוס המתהווה חריג בנוף שבו "סינגולריות" נחשבה עד לא מזמן למילת גנאי או לספקולציה רחוקה.

מה שרואים מבפנים

הסיבה המעניינת יותר נמצאת מאחורי הקלעים. במעבדות שבהן מאמנים את המודלים המובילים, התמונה שונה מהותית ממה שהציבור פוגש. החוקרים עובדים עם גרסאות בשלבים מוקדמים, לפני שלב היישור (alignment) ולפני שכבות ה-RLHF שמגבילות את הפלט. שם המודלים מציגים יכולות גולמיות, לעיתים בלתי צפויות, שלא עברו את ה"חליפה המגבילה" שנועדה להפוך אותם לבטוחים ומועילים למשתמש קצה.

הפער בין מעבדה למוצר

בחוץ אנחנו מקבלים מודלים שעברו אילוף קפדני, לעיתים עד כדי סירוס של יכולות מסוימות. בפנים רואים את הגרסה הלא מצונזרת, חזקה יותר, מוזרה יותר, ולפי תיאורים של חוקרים גם מטרידה יותר. הפער הזה מסביר למה האנשים שבונים את המערכות מדברים על סינגולריות בזמן שהציבור רואה צ'אטבוט שמסרב לענות על שאלות רגישות.

השורה התחתונה

ההסכמה בין מאסק לאלטמן אינה ערובה לנכונות הטענה, אבל היא אינדיקטור. מי שחי עם הגרסאות הלא מיושרות חווה מציאות שונה ממי שמשתמש במוצר הסופי. השאלה אינה אם אנחנו בסינגולריות, מונח מעורפל ממילא, אלא מתי הפער בין מה שהמודלים יודעים לעשות לבין מה שהם מורשים לעשות ייסגר, ומי יחליט איך זה ייראה.