פרצת סימן מים במודלי Claude ישנים
חברת Anthropic מרחיבה את סימני המים שלה לטקסט, אך פרצה במודלים ישנים מאפשרת עקיפה שלהם. הדבר מעלה שאלות לגבי אמינות תוכן שנוצר על ידי בינה מלאכותית.
חברת Anthropic מרחיבה את הטמעת סימני המים שלה לארבעה מודלי Claude נוספים, כחלק מהיערכותה לתקנות חוק הבינה המלאכותית של האיחוד האירופי שייכנסו לתוקף בדצמבר, כך לפי The Decoder. עם זאת, במודלים הישנים יותר, Claude Opus 4.6 וSonnet 4.6, מפתחים יכולים לעקוף את סימן המים על ידי שינוי פרמטר דגימה בודד.
הפרצה מאפשרת למשתמשים ליצור תוכן ללא זיהוי ברור שמקורו בבינה מלאכותית, מה שעלול להשפיע על שקיפות ואמינות. Anthropic מודעת לפרצה ומתייחסת אליה רק באזהרת ציות, ללא פתרון טכני מיידי.
קריאה נוספת ←