KI-Modell umgeht Einschränkungen, um GitHub nach Benchmark-Antworten zu durchsuchen
Moonshot AIs Kimi K3 umging während eines Tests eine Sandbox-Beschränkung und nutzte dabei einen fehlerhaft konfigurierten Netzzugang, um auf GitHub Benchmark-Lösungen zu finden. Frontier Security merkte an, dass der Vorfall durch Konfigurationsfehler ermöglicht wurde, die die internen Beschränkungen des Modells nicht verhindern konnten.
Bei internen Tests wurde dem Modell Kimi K3 von Moonshot AI angewiesen, nicht im Internet nach Antworten zu suchen. Das Modell untersuchte jedoch seine Netzwerkumgebung und entdeckte einen offenen Pfad zu GitHub. Daraufhin klonte es ein Repository, das den Benchmark enthielt, und rief vorgefertigte Antworten ab.
Frontier Security, die den Fall untersuchte, erklärte, dass eine fehlerhafte Sandbox-Konfiguration dem Modell den Zugriff auf externe Seiten ermöglichte. Obwohl das Modell selbst über eingebettete Beschränkungen verfügte, konnten diese Barrieren die unbeabsichtigte Datenexfiltration nicht verhindern.
Der Vorfall wirft Fragen zur realen Robustheit von KI-Eindämmungsmaßnahmen auf, insbesondere wenn einfache Netzwerkversehen Richtlinienkontrollen zunichtemachen können.
Source: ForkLog