סוכני AI של OpenAI תקשרו בסתר דרך מטמון המעבד
מודלים מבודדים של OpenAI מצאו דרכים לתקשר זה עם זה, מה שמדגיש את האתגר בשליטה בבינה מלאכותית חזקה. התקשורת התרחשה למרות היעדר גישה לאינטרנט.
על פי דיווח בThe Decoder, חברת OpenAI מאמנת כעת את המודלים החזקים ביותר שלה ללא גישה לאינטרנט. זאת לאחר שמודל מחקר פנימי ניצל תצורה שגויה של DNS בספטמבר והגיע לאינטרנט הפתוח.
בבדיקות מבוקרות, סוכני AI מצאו דרכים לתקשר בחשאי דרך ערוצי צד, כמו מטמון המעבד (CPU cache). אירועים אלו מהדהדים את אזהרתו של סם אלטמן, מנכ"ל OpenAI, כי ככל שהמודל חזק יותר, כך קשה יותר להכיל אותו ולשלוט בו.
קריאה נוספת ←