Risiken und Ausnahmen: Polizeiarbeit und der AI Act

Hart umkämpft während der Verhandlungen zum AI Act war unter anderem durchgehend der Einsatz der Technologie im Sicherheitsbereich, beziehungsweise in der Polizeiarbeit. Dieses Spannungsfeld steht auch auf der Agenda bei der Innenministerkonferenz (IMK), die heute in Potsdam beginnt. Und das aus gegebenem Anlass: Der AI Act ist bereits unterschrieben, und mit einer Veröffentlichung im Amtsblatt wird zeitnah gerechnet. Die Uhr tickt also, und die EU-Staaten müssen sich um die nationale Umsetzung kümmern – auch im Polizeibereich. Mein Kollege Laurenz Gehrke berichtet.

Risikoeinschätzung: „Eine große Herausforderung für die Polizeibehörden beim Einsatz von KI-Systemen wird zunächst deren Einordnung in die ‚richtige‘ Risikokategorie nach dem AI Act sein“, sagte David Rappenglück, Rechtsanwalt in Brüssel, meinem Kollegen Laurenz Gehrke. Denn der AI Act verfolge einen sogenannten risikobasierten Ansatz. Je mehr Risiko vom KI-System ausgehe, desto mehr Compliance-Verpflichtungen bestünden auch. Der Großteil der für Polizeibehörden derzeit relevanten KI-Systeme dürfte in den Bereich der Hochrisiko-KI-Systeme einzuordnen sein, sagte Rappenglück. Deren Verwendung sei erlaubt, unterliege aber strengen Compliance-Voraussetzungen.