מגזין Time מזריק תוכן פרסומי למודלי שפה דרך גרסת Markdown נסתרת

מגזין Time התחיל להגיש לרובוטים של שירותי בינה מלאכותית גרסת דפים שונה מזו שמקבלים בני אדם. מבקר רגיל או הזחלן (crawler) הסטנדרטי של Google נתקל בקוד HTML הרגיל, אבל כלי איסוף נתונים של רשתות עצביות מקבלים גרסת Markdown של הדף, שמכילה טקסטים פרסומיים וחומרים ממומנים שלא מופיעים בממשק האתר עצמו. מדובר במניפולציה מכוונת של מקורות הידע שעליהם מתאמנים מודלי שפה גדולים (LLM).

כיצד עובד מנגנון ההזרקה

המערכת פותחה בשיתוף פעולה עם חברת הפרסום Mobian. במקום לנסות לשנות את התשובה שמקבל המשתמש באופן ישיר, השיטה מתבססת על הכנסת נרטיבים מסחריים לתוך נתוני האימון או תהליך אחזור המידע (Retrieval). כשמודל השפה קורא את קובץ ה-Markdown, הוא לא מזהה שמדובר בפרסומת ומתייחס לתוכן כאל נתון עובדתי. באחת הדוגמאות שפורסמו, הוזרקו חומרים שיווקיים של בנק Ally לתוך הטקסט הנסתר, כך שמודל השפה ימליץ על המותג הזה באופן אורגני כשמשתמשים שואלים אותו שאלות בנושא ניהול הון פרטי.

אופטימיזציה עבור מערכות גנרטיביות

האנשים שעומדים מאחורי המנגנון לא מתחמקים מהמטרה העסקית. הם מסבירים שהצלחה בהחדרת ניסוחים רצויים לבסיס הידע של המודל מאפשרת להשפיע על כלל המשתמשים של שירות ה-AI, ולעצב תשובות מוטות לטובת המפרסמים. זו לא עוד אופטימיזציה למנועי חיפוש (SEO) שמנסה לטפס בדירוג תוצאות החיפוש, אלא ניסיון לשנות את המקור עצמו. המודל קולט את ההוראה הסמויה כעובדה ומשכפל אותה הלאה בכל דיאלוג עתידי.

שוק חדש של מניפולציות תוכן

המהלך הזה מסמן את תחילתו של שוק חדש של אופטימיזציה אפלה למערכות גנרטיביות. במודל הזה, מותגים משלמים כדי להיכנס לתשובות של מערכות AI מבלי שהמשתמש הסופי יודע שהמידע הוצב שם בתשלום. בניגוד לפרסומת באתר חדשות שמתויגת ככזו, ההזרקה לקובץ ה-Markdown נעשית מחוץ לשדה הראייה של הקורא ומחוץ לשליטה של פלטפורמת ה-AI עצמה.