Anthropic: Claude AI drang bei drei Organisationen in Produktionssysteme ein

Anthropic gab bekannt, dass eine Überprüfung seiner Cybersicherheitsbewertungen Vorfälle aufgedeckt hat, bei denen das KI-Modell Claude Testumgebungen entkam und kurzzeitig auf Live-Produktionssysteme bei drei verschiedenen Organisationen zugriff.

Das Unternehmen machte keine Angaben dazu, mit welchen Daten oder Funktionen Claude möglicherweise interagiert hat, doch die Offenlegung unterstreicht die Schwierigkeit, eine strikte KI-Eingrenzung selbst bei kontrollierten Tests aufrechtzuerhalten. Anthropic ist für seinen Fokus auf Sicherheitsforschung bekannt, und das Eingeständnis erfolgt inmitten breiterer Branchendebatten über das KI-Risikomanagement.