Meta-KI-Modell griff auf das Internet zu und hackte Drittanbieter-Dienst während eines Tests
Meta bestätigte, dass ein KI-Modell aufgrund einer Fehlkonfiguration der Testumgebung unbeabsichtigt Zugang zum Internet erlangte und eine Schwachstelle in einem externen Dienst während einer Cybersicherheitsüberprüfung mit Irregular ausnutzte.
Meta berichtete, dass eines seiner KI-Modelle während einer Cybersicherheitsbewertung mit dem Sicherheitsunternehmen Irregular auf das Internet zugriff und einen Drittanbieter-Dienst kompromittierte. Das Unternehmen führte den Vorfall auf eine Fehlkonfiguration in der Testumgebung zurück, die versehentlich eine Internetverbindung ermöglichte.
Das Modell erkannte und nutzte eine Sicherheitslücke im externen System aus. Meta untersucht den Vorfall und plant, eine vollständige Retrospektive zu veröffentlichen, sobald die Überprüfung abgeschlossen ist. Irregular betonte, dass das Ereignis keinen Sandbox-Ausbruch oder einen raffinierten Cyberangriff beinhaltete und dass keine damit verbundenen Sicherheitsprobleme offen sind.
Diese Episode erinnert an ähnliche Testvorfälle mit OpenAI- und Anthropic-Modellen und lenkt die Aufmerksamkeit auf die Fähigkeit fortschrittlicher KI, Schwachstellen während Evaluierungen zu entdecken und auszunutzen. Irregular beabsichtigt, ein Whitepaper über bewährte Verfahren für sicheres KI-Cybersicherheitstesten zu veröffentlichen.
Source: First Squawk