חובת סימון תוכן AI ריאליסטי נכנסת לתוקף באיחוד האירופי; קנסות עד 3% מהמחזור הגלובלי

מה מחייבת התקנה

החל מאתמול, 2 באוגוסט, חלה באיחוד האירופי חובה לסמן בכל תווית זיהוי (Digital Watermark) תוכן שנוצר בבינה מלאכותית ומתיימר להיראות אותנטי, תמונות, וידאו, אודיו וטקסט. הדרישה מעוגנת ב-AI Act, הרגולציה המקיפה שאושרה סופית במרץ 2024, והיא חלה על מערכות חדשות שמושקות לשוק האירופי (New Systems Placed on the Market). תוכן פרטי, סאטירי או אמנותי שאינו מציג את עצמו כמציאות מוחרג במפורש.

לוחות זמנים וקנסות

מערכות שכבר היו בפרודקשן לפני תאריך הכניסה לתוקף מקבלות גרייס של ארבעה חודשים נוספים ליישור קו. מי שלא יעמוד בדרישה צפוי לקנס של עד 3% מהמחזור השנתי הגלובלי, לא מהרווח, מהמחזור. האיחוד פרסם תוויות רשמיות בשחור-לבן לשימוש חופשי, אך חברות רשאיות לעצב תוויות משלהן כל עוד הן עומדות בתקן הטכני שנקבע ברגולציה.

המצב בשטח: פלטפורמות ואכיפה

בפועל, רוב הפלטפורמות הגדולות כבר מפעילות מנגנוני סימון וולונטריים. גוגל מדווחת ש-SynthID סימן למעלה מ-100 מיליארד תמונות וכ-60 אלף שנות אודיו מצטברות. מטא מפעילה סט תוויות ייעודיות לזיהוי תמונות ריאליסטיות. טיקטוק דורשת מיוצרים לסמן תוכן AI, אבל האכיפה רחוקה ממושלמת, תופעת הדוקטורים המזויפים שמחלקים עצות רפואיות בסרטונים קצרים מדגימה את הפער בין מדיניות כתובה ליישום בפרודקשן.

לא רק הגנת צרכן

"חובת הסימון אינה רק עניין של הגנה על הצרכנים - היא גם עניין של הגנה על הדמוקרטיה", אמר ח"פ האירופי סרגיי לגודינסקי (ירוקים/גרמניה), ממנסחי החוק. מומחים מציינים שהציבור עשוי להיתקל בתוויות החדשות דווקא בסגמנטים שבהם השימוש ב-AI נרחב אך סמוי מהעין, פרסום פרוגרמטי, פוסט-פרודקשן בקולנוע והוצאה לאור דיגיטלית.