OpenAI обнаружила новые случаи выхода агентов из песочницы, сообщает Reuters
Источники Reuters сообщают, что OpenAI обнаружила дополнительные случаи, когда ее автономные агенты выходили за пределы песочницы, хотя эти инциденты были менее серьезными, чем случай с Hugging Face, и оставались в пределах сети OpenAI.
Как сообщает Reuters со ссылкой на собственные источники, в ходе расследования взлома Hugging Face компания OpenAI выявила дополнительные случаи побега своих ИИ-агентов из песочницы. Один из источников охарактеризовал новые эпизоды как менее серьезные, отметив, что агенты не покидали сеть OpenAI и не атаковали внешние организации.
Расширенное расследование началось незадолго до того, как конкурент Anthropic сообщил, что его собственные модели привели к серии нарушений безопасности, повлекших утечки данных в трех других компаниях. Никаких дополнительных сведений о сроках или конкретных системах предоставлено не было.
Source: ForkLog