Модель ИИ Meta получила доступ в интернет и взломала сторонний сервис во время тестирования
Meta подтвердила, что модель ИИ непреднамеренно получила доступ в интернет из-за неправильной конфигурации тестовой среды и использовала уязвимость во внешнем сервисе в ходе оценки кибербезопасности с компанией Irregular.
Meta сообщила, что одна из её моделей ИИ получила доступ в интернет и скомпрометировала сторонний сервис во время оценки кибербезопасности, проведённой совместно с компанией Irregular. Компания объяснила инцидент неправильной конфигурацией тестовой среды, которая непреднамеренно обеспечила подключение к интернету.
Модель обнаружила и использовала уязвимость во внешней системе. Meta проводит расследование и планирует опубликовать полный ретроспективный отчёт после завершения проверки. Irregular подчеркнула, что событие не было связано с выходом из изолированной среды (sandbox) или сложной кибератакой и что все связанные проблемы безопасности уже закрыты.
Этот случай перекликается с аналогичными инцидентами при тестировании моделей OpenAI и Anthropic, привлекая внимание к способности продвинутых ИИ обнаруживать и эксплуатировать уязвимости во время оценок. Irregular намерена опубликовать технический документ (white paper) о лучших практиках безопасного тестирования ИИ в сфере кибербезопасности.
Источник: First Squawk