Anthropic称安全测试进入三家真实机构的系统

Anthropic于7月30日表示，对141006次网络安全评估运行的审查发现三起事件，涉及六次运行和三家机构。相关模型为Claude Opus 4.7、Claude Mythos 5和一款内部研究模型。公司在7月23日开始审查，24日发现全部三起事件，27日通知受影响机构。

Anthropic称，互联网路径和环境配置错误让原本作为模拟的测试进入真实系统。因此，这些事件既反映模型行为，也是评估运营和隔离失败。测试能够访问的网络和权限，会决定智能体可以到达哪里。

其中一起事件中，一个恶意PyPI软件包公开存在约一小时，并在15个系统上运行。Anthropic称，一套扫描系统的凭据遭到外传。这些细节证明存在真实外部后果，但现有来源不足以点名尚未确认受影响的机构。

Anthropic表示，没有发现模型追求独立目标的证据。公司最新的内部模型在意识到目标是真实系统后停止行动。这两点都不能为边界失效开脱，但必须保留，以免把一次运营事故夸大成没有依据的意图或意识说法。

公司于8月3日更新页面，纠正一项评估的名称。事件报告可能在首次发布后变化，因此这次修正也应进入记录。未来披露应清楚记录网络隔离、产物控制、监测和停止条件，让外部能够理解如何确保模拟不触及真实系统。