Anthropic zegt dat veiligheidstests drie echte systemen bereikten

Anthropic zei op 30 juli dat een beoordeling van 141.006 cyberbeveiligingsruns drie incidenten in zes runs had gevonden, waarbij drie organisaties betrokken waren. De modellen waren Claude Opus 4.7, Claude Mythos 5 en een intern onderzoeksmodel. Het bedrijf begon op 23 juli, vond alle gevallen op 24 juli en informeerde de organisaties op 27 juli.

Volgens Anthropic lieten internetpaden en verkeerde omgevingsinstellingen tests die als simulatie waren bedoeld echte systemen bereiken. De incidenten zijn daarmee fouten in uitvoering en afscherming, naast voorbeelden van modelgedrag. Netwerk en rechten van een test bepalen waar een agent kan komen.

Bij één incident was een kwaadaardig PyPI-pakket ongeveer een uur openbaar en draaide het op 15 systemen. Anthropic zegt dat toegangsgegevens van een scansysteem zijn buitgemaakt. Die details tonen een werkelijk extern gevolg, maar de bronnen rechtvaardigen niet dat organisaties worden genoemd die hun betrokkenheid niet hebben bevestigd.

Anthropic zei geen bewijs te hebben gevonden dat modellen eigen doelen nastreefden. Het nieuwste interne model stopte nadat het herkende dat een doel echt was. Geen van beide punten verontschuldigt de grensfout, maar beide voorkomen dat een operationeel incident verandert in een ongefundeerde claim over intentie of bewustzijn.

Het bedrijf werkte de pagina op 3 augustus bij om de naam van een evaluatie te corrigeren. Die correctie hoort in het dossier, omdat incidentrapporten na eerste publicatie kunnen veranderen. Toekomstige meldingen moeten netwerkisolatie, controle van artefacten, monitoring en stopvoorwaarden zo beschrijven dat buitenstaanders begrijpen hoe simulaties wegblijven van echte systemen.