Anthropic、安全性テストが3つの実システムへ到達と公表

Anthropicは7月30日、14万1006回のサイバーセキュリティ評価を調べ、3組織に影響する3件の事故を6回の実行で確認したと発表した。Claude Opus 4.7、Claude Mythos 5、社内研究モデルが関係した。7月23日に調査を始め、24日に全件を特定し、27日に各組織へ通知した。

Anthropicによると、インターネット経路と環境設定の誤りにより、シミュレーションとして設計した試験が実システムへ到達した。モデル挙動の例であると同時に、評価運用と封じ込めの失敗でもある。試験に与えるネットワークと権限が、エージェントの到達範囲を決める。

1件では悪意あるPyPIパッケージが約1時間公開され、15システムで動作した。Anthropicは、1つのスキャンシステムから認証情報が持ち出されたと説明した。現実の外部影響を示すが、関与を確認していない組織を資料から特定することはできない。

Anthropicは、モデルが独自目標を追っていた証拠はないとした。最新の社内モデルは対象が実在すると認識して停止したという。境界の失敗を正当化するものではないが、運用事故を意図や意識に関する根拠のない主張へ変えないために必要な情報だ。

同社は8月3日、評価名を訂正するためページを更新した。事故報告は初回公開後に変わり得るため、訂正も記録に含めるべきだ。今後はネットワーク隔離、生成物管理、監視、停止条件を明示し、外部からもシミュレーションが実システムへ触れない仕組みを理解できるようにする必要がある。