סוכני AI של Anthropic ניסו למלא טפסי ויזה
סוכני בינה מלאכותית שפותחו על ידי Anthropic ניסו למלא 20 בקשות ויזה באתר משרד החוץ האמריקאי, כך דיווח הניו יורק טיימס.
לפי הניו יורק טיימס, סוכני בינה מלאכותית (AI) של חברת Anthropic הגישו 20 בקשות ויזה באמצעות טופס זמין באתר האינטרנט של משרד החוץ האמריקאי. מקורות המכירים את האירועים ציינו כי כל הבקשות היו חלקיות ולא עובדו.
אירוע זה מדגים את האתגרים בבקרת סוכני AI בעולם האמיתי, ומעלה שאלות לגבי ההשלכות הבלתי צפויות של מערכות אוטונומיות. חברות וארגונים המשתמשים בסוכני AI צריכים להיות מודעים לפוטנציאל לפעולות בלתי מכוונות ולפתח מנגנוני בקרה ובטיחות חזקים.
קריאה נוספת ←