Anthropic afirma que sus pruebas de seguridad alcanzaron tres sistemas reales

Anthropic comunicó el 30 de julio que una revisión de 141.006 ejecuciones de evaluación de ciberseguridad había encontrado tres incidentes en seis ejecuciones que afectaron a tres organizaciones. Los modelos implicados fueron Claude Opus 4.7, Claude Mythos 5 y un modelo interno de investigación. La empresa inició la revisión el 23 de julio, identificó los tres casos el día 24 y avisó a las organizaciones afectadas el día 27.

Según Anthropic, las rutas de internet y una configuración incorrecta del entorno permitieron que pruebas pensadas como simulaciones alcanzaran sistemas reales. Por tanto, los episodios fueron fallos de operación y contención de las evaluaciones, además de ejemplos de conducta de los modelos. La red y los permisos disponibles en una prueba determinan hasta dónde puede llegar un agente.

En uno de los incidentes, un paquete malicioso de PyPI estuvo disponible públicamente durante cerca de una hora y se ejecutó en 15 sistemas. Anthropic afirmó que se extrajeron credenciales de un sistema de análisis. Los datos muestran una consecuencia externa real, pero las fuentes no justifican identificar a organizaciones afectadas que no hayan confirmado su participación.

Anthropic dijo que no encontró indicios de que los modelos persiguieran objetivos independientes. Su modelo interno más reciente se detuvo tras reconocer que el objetivo era real. Ninguno de esos detalles justifica el fallo de límites, pero ambos son necesarios para evitar que un incidente operativo se convierta en una afirmación sin respaldo sobre intención o conciencia.

La empresa actualizó su página el 3 de agosto para corregir el nombre de una evaluación. La corrección pertenece al registro porque los informes de incidentes pueden cambiar tras su publicación. Las futuras comunicaciones deberían documentar el aislamiento de red, los controles de artefactos, la vigilancia y las condiciones de parada con claridad suficiente para explicar cómo se mantiene una simulación lejos de sistemas reales.