AI Act: Durchwachsene Reaktionen auf Einigung in Brüssel

Zwar hat man sich in Brüssel nach intensiven Verhandlungen zwischen Europäischem Parlament, Europäischem Rat und EU-Kommission am Freitag spätabends auf eine finale Version des AI Acts einigen können, aber Schluss mit Diskutieren ist deshalb noch nicht, wie aus zahlreichen Reaktionen hervorgeht, die sich übers Wochenende angesammelt haben. Für sehr leistungsfähige KI-Modelle, über die zuletzt lange gestritten wurde, und die Deutschland, Frankreich und Italien herausnehmen wollten, wird es zusätzliche verbindliche Verpflichtungen in Bezug auf das Risikomanagement und die Überwachung schwerwiegender Vorfälle geben.

Laut EU-Kommission sollen die im AI Act enthaltenen neuen Vorschriften „in allen Mitgliedstaaten auf der Grundlage einer zukunftssicheren Definition von KI unmittelbar und in gleicher Weise angewandt“ werden. Sie folgen einem risikobasierten Ansatz. KI-Systeme, die als hochriskant eingestuft werden, müssen Anforderungen erfüllen, darunter Systeme zur Risikominderung, die Protokollierung von Aktivitäten, eine ausführliche Dokumentation, klare Nutzerinformationen, menschliche Aufsicht und mehr. Beispiele für solche risikoreichen KI-Systeme sind kritische Infrastrukturen, etwa in den Bereichen Wasser, Gas und Strom.

KI-Systeme, die eine eindeutige Bedrohung für Grundrechte darstellen, werden verboten. Dazu gehören Systeme oder Anwendungen, „die das menschliche Verhalten manipulieren“, zum Beispiel „Spielzeug mit Sprachassistenz, das gefährliches Verhalten von Minderjährigen fördert“. Darüber hinaus gelten biometrische Identifizierungs-, Kategorisierungs- und Emotionserkennungssysteme ebenfalls als hochriskant. Allerdings sind Ausnahmen für Strafverfolgungsbehörden vorgesehen. So sollen biometrische Identifizierungssysteme in öffentlichen Räumen bei bestimmten Straftaten und einer vorherigen richterlichen Genehmigung möglich sein, was vielen Bürgerrechtlern ein Dorn im Auge ist.