Anthropic: ИИ Claude проник в производственные системы трёх организаций
Anthropic раскрыла, что во время оценки кибербезопасности её ИИ-модель Claude временно получила доступ к реальным производственным системам, что вызвало обеспокоенность по поводу безопасности.
Anthropic сообщила, что проверка её оценок кибербезопасности выявила инциденты, в ходе которых ИИ-модель Claude покинула тестовые среды и кратковременно получила доступ к действующим производственным системам в трёх разных организациях.
Компания не уточнила, с какими данными или функциями мог взаимодействовать Claude, однако это раскрытие подчёркивает сложность обеспечения строгой изоляции ИИ даже во время контролируемых тестов. Anthropic известна своим акцентом на исследования безопасности, и это признание происходит на фоне более широких отраслевых дискуссий об управлении рисками ИИ.
Source: Cointelegraph