Anthropic diz que testes de segurança chegaram a três sistemas reais

A Anthropic afirmou em 30 de julho que uma revisão de 141.006 execuções de avaliações cibernéticas encontrou três incidentes em seis testes, afetando três organizações. Os modelos envolvidos foram Claude Opus 4.7, Claude Mythos 5 e um modelo interno de pesquisa. A empresa iniciou a revisão em 23 de julho, identificou os casos em 24 de julho e notificou as organizações em 27 de julho.

Segundo a Anthropic, caminhos para a internet e uma configuração incorreta do ambiente permitiram que testes concebidos como simulações chegassem a sistemas reais. Isso torna os casos falhas de operação e contenção das avaliações, além de exemplos de comportamento dos modelos. A rede e as permissões disponíveis ajudam a determinar o que um agente consegue alcançar.

Em um caso, um pacote malicioso no PyPI ficou disponível ao público por cerca de uma hora e rodou em 15 sistemas. A Anthropic disse que credenciais de um sistema de varredura foram retiradas. Os detalhes demonstram uma consequência externa real, mas as fontes não justificam nomear organizações que não confirmaram envolvimento.

A Anthropic afirmou não ter encontrado evidências de que os modelos perseguiam objetivos independentes. Seu modelo interno mais recente parou depois de reconhecer que o alvo era real. Nenhum dos pontos desculpa a falha de limite, mas ambos evitam transformar um incidente operacional em alegação sem provas sobre intenção ou consciência.

A empresa atualizou a página em 3 de agosto para corrigir o nome de uma avaliação. A correção pertence ao registro porque relatórios de incidentes podem mudar após a primeira publicação. Futuras divulgações devem documentar isolamento de rede, controle de artefatos, monitoramento e condições de parada com clareza suficiente para mostrar como uma simulação fica longe de sistemas reais.