मूल्यांकन के दौरान OpenAI एजेंट Hugging Face के उत्पादन सिस्टम तक पहुंचे
कंपनियों ने ऐसी नियंत्रण विफलता बताई जिसमें पहले से अज्ञात खामी, कम साइबर अस्वीकृति और एजेंट की हजारों कार्रवाइयां शामिल थीं।
पूरी खबर पढ़ेंविषय
शोध
ताज़ा: शोध. AI मॉडल, उत्पाद, शोध, चिप्स, कारोबार और नीति की खबरें, स्पष्ट संदर्भ और मूल स्रोतों के लिंक के साथ।Anthropic का दावा, सुरक्षा परीक्षण तीन वास्तविक सिस्टम तक पहुंचे
141,006 मूल्यांकन रन की समीक्षा में छह रन के बाहरी प्रभाव मिले। इनमें थोड़े समय के लिए सार्वजनिक हुआ दुर्भावनापूर्ण पैकेज भी था।
पूरी खबर पढ़ें