Anthropic می‌گوید آزمون‌های ایمنی به سه سامانه واقعی رسیدند

Anthropic در ۳۰ ژوئیه گفت بررسی ۱۴۱,۰۰۶ اجرای ارزیابی امنیت سایبری، سه حادثه در شش اجرا را یافت که سه سازمان را تحت تأثیر گذاشتند. Claude Opus 4.7، Claude Mythos 5 و مدل پژوهشی داخلی درگیر بودند. بررسی ۲۳ ژوئیه آغاز، همه موارد ۲۴ ژوئیه شناسایی و سازمان‌ها ۲۷ ژوئیه آگاه شدند.

به گفته Anthropic، مسیر اینترنت و تنظیم نادرست محیط اجازه داد آزمون شبیه‌سازی به سامانه واقعی برسد. پس حادثه هم شکست عملیات و مهار ارزیابی و هم نمونه رفتار مدل است. شبکه و مجوز آزمون تعیین می‌کنند عامل تا کجا برسد.

در یک مورد، بسته مخرب PyPI حدود یک ساعت عمومی بود و روی ۱۵ سامانه اجرا شد. Anthropic گفت اعتبارنامه یک سامانه اسکن خارج شد. جزئیات پیامد واقعی بیرونی را ثابت می‌کنند، اما منابع اجازه نام بردن سازمانی را که دخالتش را تأیید نکرده نمی‌دهند.

Anthropic گفت مدرکی از پیگیری هدف مستقل توسط مدل نیافت. تازه‌ترین مدل داخلی پس از تشخیص واقعی بودن هدف متوقف شد. هیچ‌کدام شکست مرز را توجیه نمی‌کنند، اما جلوی تبدیل حادثه عملیاتی به ادعای بی‌پایه درباره نیت یا آگاهی را می‌گیرند.

شرکت در ۳ اوت صفحه را برای اصلاح نام یک ارزیابی به‌روز کرد. اصلاح باید ثبت شود، چون گزارش حادثه پس از انتشار تغییر می‌کند. افشای آینده باید جداسازی شبکه، کنترل محصول، پایش و شرط توقف را چنان روشن کند که بیرون بفهمد شبیه‌سازی چگونه از سامانه واقعی دور می‌ماند.