Google DeepMind CEO schlägt US-Standardisierungsgremium vor, um KI-Modelle vor Veröffentlichung zu testen

Demis Hassabis, CEO von Google DeepMind, hat die Einrichtung eines US-Standardisierungsgremiums vorgeschlagen, das die leistungsfähigsten KI-Modelle vor ihrer öffentlichen Veröffentlichung prüfen soll. Die vorgeschlagenen Bewertungen würden sich auf Cybersicherheit, biologische Bedrohungen sowie Versuche der Systeme konzentrieren, Beschränkungen zu umgehen, Benutzer in die Irre zu führen oder ihre Handlungen zu verbergen.

Zunächst würden Unternehmen Modelle freiwillig zur Bewertung einreichen, spätestens 30 Tage vor dem Start. Falls sich der Mechanismus als wirksam erweist, schlägt Hassabis vor, die Überprüfung für den Marktzugang in den Vereinigten Staaten verpflichtend zu machen.