אנתרופיק מתחייבת לסימון מים בלתי נראה בטקסט ותמונות של קלאוד

אנתרופיק הודיעה שתטמיע סימני מים בלתי נראים בטקסט ובתמונות שמייצרים מודלי קלאוד, מהלך שנועד לעמוד בדרישות השקיפות של חוק הבינה המלאכותית האירופי. הסימון יופעל ברמת המודל עצמו, כך שכל מוצר או ממשק שמבוסס על קלאוד, מה-API דרך Claude Code ועד Claude Cowork, יפיק תוכן מסומן אוטומטית.

מה מחייב החוק האירופי

חוק ה-AI Act נכנס לתוקף ב-2 באוגוסט, עם תקופת חסד של ארבעה חודשים למוצרים שכבר היו בשוק. בהתאם, אנתרופיק מתחייבת שמודלים חדשים יסמנו תוכן מהיום הראשון, אבל התמיכה במודלים הקיימים עדיין בפיתוח. החברה לא נקבעת בתאריך יעד להשלמת הפריסה לאחור.

איך זה עובד בפועל

שני מנגנונים שונים משמשים כאן. לתמונות מאומץ תקן C2PA, אותו סטנדרט מטא-דאטה של מקור (provenance) שאימצו גם אדובי, OpenAI וגוגל, שיוטמע בקבצים נתמכים. לטקסט פותחה שיטה נפרדת: "סימן מים בלתי מורגש" שנארגן ישירות לתוך המחרוזת שיוצר המודל, בלי לשנות משמעות, איכות או קריאות. לדברי אנתרופיק, הסימון ישרוד העתקה-הדבקה ועשוי לשרוד גם עריכה מסוימת.

הסימון מופעל ברמת המודל, כלומר יהיה נוכח בלי קשר למשטח שדרכו ניגשים לקלאוד, כולל גישה דרך AWS, Google Cloud או Microsoft Foundry. החברה גם עובדת על כלים שיאפשרו למשתמשים ולצדדים שלישיים לזהות את הסימנים, ומבטיחה לפרסם תיעוד טכני מפורט בהמשך.

זיהוי ובעיות ידועות

כאן נכנסות ההסתייגויות. מטא-דאטה של C2PA ידוע כקל להסרה, לפעמים בטעות בעת העלאה לפלטפורמות מקוונות, ולא ברור עד כמה פתרון סימון הטקסט של אנתרופיק עמיד. החברה עצמה מודה שהמערכות "רחוקות מלהיות חסינות תקלה", ושכל תוכן שחסר בו סימנים מזוהים עדיין עשוי להגיע ממודל גנרטיבי.

בינתיים קהילות כמו קוראי פאנפיקשן ב-AO3 כבר בנו מערכות זיהוי פרימיטיביות יותר לסימון שימוש בכלי קלאוד, אבל הסטנדרטים החדשים אמורים לאפשר כיסוי רחב בהרבה, בתנאי שהם באמת עובדים.