Britische Polizei stoppt zwei KI-Modelle zur Bewertung von Kindesmissbrauchsrisiko wegen geringer Genauigkeit

Die Polizei von Avon and Somerset hat gemeinsam mit dem Stadtrat von Bristol den Einsatz von mindestens zwei Algorithmen der künstlichen Intelligenz eingestellt, die zur Bewertung des Risikos von Straftaten gegen Kinder entwickelt wurden. Die Entscheidung folgte auf Berichte über geringe Genauigkeit, bei denen unabhängige Prüfer die Systeme aufgrund fehlenden Quellcodes und Variablenlisten nicht verifizieren konnten.

Laut WIRED, das mit Liberty Investigates, The Bristol Cable und Lighthouse Reports zusammengearbeitet hat, basierte die Analyse auf Hunderten von Seiten an Dokumenten, die durch Anfragen nach dem Informationsfreiheitsgesetz beschafft wurden. Der Bericht erscheint zu einem Zeitpunkt, an dem PoliceAI, ein nationales Zentrum für die Erprobung und Skalierung von KI-Tools in der englischen und walisischen Polizeiarbeit, gestartet wird.