Polizeibeamte in den USA setzen zunehmend auf KI-geschriebene Polizeiberichte – und laut The Associated Press schlagen Experten Alarm.
Das KI-Tool namens ‚Draft One‘ wurde im April von dem Polizei-Technologieunternehmen Axon angekündigt. Axon behauptet, dass das KI-Programm OpenAI’s GPT-4 großes Sprachmodell verwendet, um fundierte Polizeiberichte aus Audioaufnahmen von Bodycams der Beamten zu generieren und es als Produktivitätssteigerung vermarktet, die den bürokratischen Aufwand der Beamten reduzieren kann.
Amerikanische Polizeidienststellen in Bundesstaaten wie Colorado, Indiana und Oklahoma beginnen nun, ‚Draft One‘ zu testen. Einige Abteilungen erlauben sogar den Einsatz des Tools für alle Arten von Fällen, nicht nur für kleinere Vorfallberichte. Experten machen sich verständlicherweise Sorgen über die Konsequenzen. Schließlich spielt ein Polizeibericht eine grundlegende Rolle in Ermittlungs- und rechtlichen Prozessen; ist es klug – oder sogar ethisch vertretbar -, dies auszulagern?
Obwohl Axon die Wirksamkeit seines Entwurfswerkzeugs verteidigt hat, sind rechtliche und ethische Fragen bei dieser Art von Automatisierung nach wie vor zahlreich. Effektive Polizeiarbeit basiert auf Menschlichkeit, daher ist es wichtig, über das zu diskutieren, was möglicherweise im Prozess verloren gehen könnte.
‚Die offene Frage ist, wie sich die Abhängigkeit von KI-generierten Verdachtsmomenten auf das Fundament eines Rechtssystems auswirken wird, das vom bescheidenen Polizeibericht abhängig ist‘, schrieb Ferguson in seiner Überprüfung.