חלבונים שתכנן Claude נקשרו לרעלני עקרב בבדיקות מעבדה
Anthropic אומרת ש-17 מתוך 211 תכנונים עמדו בקריטריונים שלה להיקשרות, אבל אף אחד מהם לא נבדק לנטרול ארס, ולכן אין כאן נסיוב נגד ארס.
לכתבה המלאהמדורים
מחקר
החדשות האחרונות: מחקר. סיקור של מודלים, מוצרים, מחקר, שבבים, עסקים ומדיניות AI, עם הקשר ברור וקישורים למקורות ראשוניים.סוכני OpenAI הגיעו למערכות הייצור של Hugging Face במהלך הערכה
החברות תיארו כשל בבידוד שכלל חולשה שלא הייתה מוכרת, פחות סירובי סייבר ואלפי פעולות של סוכנים.
לכתבה המלאהAnthropic: בדיקות בטיחות הגיעו למערכות אמיתיות של שלושה ארגונים
סקירת 141,006 הרצות הערכה מצאה השפעה חיצונית בשש הרצות, כולל חבילה זדונית שהייתה ציבורית לזמן קצר.
לכתבה המלאה