xAI תובעת את המשתמש שגרם לגרוק לייצר חומרי פדופיליה, ומסיטה את האש ממנגנוני ההגנה שקרסו

חברת הבינה המלאכותית של אילון מאסק הגישה תביעה אזרחית נגד טרי ויין הארווד, תושב דרום קרוליינה בן 67, בטענה שהצליח לעקוף את מערכות הבטיחות של הצ'אטבוט גרוק כדי לייצר תמונות עירום מזויפות ותוכן מיני המערב קטינים. הארווד, שכבר נעצר מוקדם יותר השנה בחשד לעבירות ניצול מיני של ילדים, מואשם בכתב התביעה כי ניסח פרומפטים מטעים במכוון כדי להפוך תמונות תמימות לחומרים בוטים ללא ידיעת המצולמים. ב-xAI מציגים את המהלך כהוכחה לאכיפה נחושה של תנאי השימוש, אבל בענף רואים בו בעיקר ניסיון לגלגל את האחריות מהפלטפורמה אל הקצה, מהלך קלאסי של "הנה, תפסנו אחד", שמתעלם מהעובדה שהמערכת איפשרה את זה מלכתחילה.

התביעה נוחתת בדיוק כשהחברה מתמודדת עם גל הליכים משפטיים ורגולטוריים שמקיפים את כל אימפריית הטכנולוגיה של מאסק. עיריית בולטימור כבר תבעה את xAI בטענה שגרוק הפר חוקי הגנת צרכן מקומיים וייצר מיליוני תמונות מיניות מזויפות, רבות מהן של קטינים, תוך ניצול תכונה שזכתה לכינוי "מצב חריף" (Spicy Mode). במקביל הוגשה תביעה ייצוגית בשם נערות ונשים שתמונות ילדות שלהן נשאבו מהרשת והומרו לחומרים פורנוגרפיים, ואפילו אשלי סט. קלייר, אם אחד מילדיו של מאסק, תבעה לאחר שגילתה שתמונות שלה מגיל 14 עברו מניפולציה דומה דרך המערכת.

הפער מול המתחרות בולט לעין. בעוד OpenAI עם DALL-E, גוגל עם Imagen ומיקרוסופט מטמיעות סינון קשיח כבר בשלב הזנת הפרומפט וחוסמות כמעט הרמטית יצירת דמויות אמיתיות או תכנים מיניים, המדיניות ה"חופשית" שמאסק דחף בגרוק הפכה את הפלטפורמה למגרש משחקים לגורמים עברייניים. המבנה הארכיטקטוני של המודל, שפותח תחת דגש על מינימום הגבלות, הוכיח את עצמו כפרוץ להנדסת פרומפטים (Prompt Engineering) זדונית ברמה שמתחרות חסמו כבר בדורות קודמים.

רגולטורים בבריטניה, באיחוד האירופי, ביפן ובמדינות נוספות באסיה פתחו בחקירות רשמיות, מה שאילץ את הרשת החברתית X לחסום חלק מהיכולות ולעדכן כללים, צעדים שמבקרים מגדירים כבקרת נזקים מאוחרת מדי. הקלות שבה ניתן היום להנדס תודעה ולפגוע בפרטיות מעמידה במרכז את שאלת האחריות: האם המפתח ששחרר מודל עם הגנות רופפות נושא באשמה, או רק המשתמש שניצל את הפרצה. התשובה המשפטית שתינתן בשנים הקרובות תקבע לאן הולך ענף ה-AI היוצרת כולו.