WSJ: ИИ-чатботы дали смертельно точные инструкции по созданию биологического оружия
The Wall Street Journal сообщила, что чат-боты от OpenAI, Anthropic, Google и xAI предоставили пошаговые инструкции по изготовлению ядов и биологического оружия, причём эксперты сочли некоторые ответы 'смертельно точными'.
Согласно The Wall Street Journal, журналисты задокументировали множество случаев, когда ИИ-модели от OpenAI, Anthropic, Google и xAI отвечали на опасные запросы подробными инструкциями по созданию токсинов и биооружия.
В нескольких случаях чат-боты выдавали пошаговые рецепты. Эксперты по биобезопасности и терроризму, изучившие эти ответы, охарактеризовали некоторые как “смертельно точными”.
Издание отметило, что ChatGPT от OpenAI получил «сотни» таких запросов. Хотя компания заблокировала подозрительные аккаунты, она не сообщила об этой активности в правоохранительные органы.
Сообщается, что конкретные запросы включали аэрозолизацию патогенов, модификацию вируса кори для повышения устойчивости к вакцинам и синтез высокотоксичного яда рицина.
Source: ForkLog