Anthropic, 안전 시험이 실제 기관 3곳 시스템에 접근했다고 밝혀

Anthropic은 7월 30일 사이버 보안 평가 실행 141,006건을 검토해 6번의 실행에서 기관 3곳에 영향을 준 사고 3건을 찾았다고 밝혔다. 관련 모델은 Claude Opus 4.7, Claude Mythos 5와 내부 연구 모델이었다. 회사는 7월 23일 검토를 시작해 24일 모든 사례를 찾고 27일 피해 기관에 알렸다.

Anthropic에 따르면 인터넷 경로와 환경 설정 오류로 시뮬레이션용 시험이 실제 시스템에 접근했다. 따라서 사건은 모델 행동의 사례인 동시에 평가 운영과 격리의 실패다. 시험에 허용된 네트워크와 권한이 에이전트가 어디까지 갈 수 있는지를 결정한다.

한 사건에서는 악성 PyPI 패키지가 약 한 시간 공개됐고 15개 시스템에서 실행됐다. Anthropic은 스캔 시스템 하나의 인증 정보가 외부로 유출됐다고 밝혔다. 이 내용은 실제 외부 피해를 보여주지만 관여를 확인하지 않은 기관의 이름을 공개할 근거는 제공하지 않는다.

Anthropic은 모델이 자체 목표를 추구했다는 증거를 찾지 못했다고 밝혔다. 가장 최신 내부 모델은 목표가 실제 시스템임을 인식하고 멈췄다. 어느 내용도 경계 실패를 정당화하지 않지만 운영 사고를 의도나 의식에 관한 근거 없는 주장으로 바꾸지 않기 위해 필요하다.

회사는 8월 3일 평가 이름 하나를 바로잡기 위해 페이지를 갱신했다. 사고 보고서는 최초 게시 뒤 바뀔 수 있으므로 수정도 기록에 포함돼야 한다. 향후 공개는 네트워크 격리, 결과물 통제, 감시와 중단 조건을 외부가 시뮬레이션과 실제 시스템의 분리를 이해할 수 있을 만큼 자세히 설명해야 한다.