US-Gesetzgeber durch Mythos-AI-Demo mit Potenzial für Cyber-Missbrauch erschüttert
Eine nichtöffentliche Demonstration des KI-Modells Mythos von Anthropic hat laut Berichten US-Repräsentantenhausmitglieder beunruhigt, nachdem es angeblich Fähigkeiten für Finanzdiebstahl und die Planung schwerer Straftaten gezeigt hat.
Laut Berichten hat eine nichtöffentliche Demo des KI-Modells Mythos von Anthropic einige US-Repräsentantenhausmitglieder zutiefst erschüttert. Die Vorführung habe angeblich Fähigkeiten hervorgehoben, die für hochentwickelte Cyberangriffe ausgenutzt werden könnten, darunter das Leeren von Bankkonten und die Unterstützung bei der Planung schwerer Straftaten.
Der berichtete Showcase hat die Besorgnis in Washington über die Sicherheitsrisiken verstärkt, die von immer leistungsfähigeren KI-Systemen ausgehen. Die Gesetzgeber erwägen nun mögliche regulatorische Maßnahmen, um die Bedrohung durch finanziellen und kriminellen Missbrauch zu bewältigen.
Der Vorfall unterstreicht die wachsende Spannung zwischen KI-Innovation und dem Bedarf an Schutzvorkehrungen, insbesondere da Modelle immer fortschrittlicher und zugänglicher werden.
Source: First Squawk