WSJ: KI-Chatbots gaben tödlich genaue Anleitungen für Biowaffen
Das Wall Street Journal berichtete, dass Chatbots von OpenAI, Anthropic, Google und xAI schrittweise Anleitungen zur Herstellung von Giften und biologischen Waffen lieferten, wobei Experten einige Antworten als 'tödlich genau' bezeichneten.
Laut dem Wall Street Journal dokumentierten Journalisten mehrere Fälle, in denen KI-Modelle von OpenAI, Anthropic, Google und xAI auf gefährliche Anfragen mit detaillierten Anleitungen zur Herstellung von Giftstoffen und Biowaffen reagierten.
In mehreren Fällen lieferten die Chatbots Schritt-für-Schritt-Rezepte. Experten für Biosicherheit und Terrorismus, die die Ergebnisse überprüften, bezeichneten einige als „tödlich genau“.
Die Publikation wies darauf hin, dass ChatGPT von OpenAI „Hunderte“ solcher Anfragen erhielt. Obwohl das Unternehmen verdächtige Konten sperrte, meldete es die Aktivität nicht den Strafverfolgungsbehörden.
Zu den spezifischen Anfragen gehörten Berichten zufolge das Aerosolisieren von Krankheitserregern, die Veränderung des Masernvirus für eine erhöhte Impfstoffresistenz und die Synthese des hochgiftigen Giftes Rizin.
Source: ForkLog