Das europäische Gesetzesverfahren über die Nutzung von künstlicher Intelligenz (KI), der sogenannte AI Act (Artificial Intelligence), ist abgeschlossen. Der Rat als Gremium der nationalen Regierungen segnete am Dienstag den Kompromiss ab, auf den sich Unterhändler der 27 EU-Mitgliedstaaten und des EU-Parlaments im Dezember nach langen Verhandlungen verständigt hatten.

Dabei wurden allerdings, wie die Kanzlei Noerr erläutert, einige inhaltliche Änderungen in letzter Sekunde vorgenommen, so dass die Regeln „an mehreren Stellen inhaltlich geändert und teils verschärft, teils gelockert worden“ sind, betont Anwalt Johannes Stuve. So sei zukünftig der Einsatz von KI bei unterschwelliger Beeinflussung einer Person oder Personengruppe verboten, wenn eine „hinreichende“ Wahrscheinlichkeit eines Schadenseintritts gegeben sei.

Bundeswirtschaftsminister Robert Habeck würdigte die abschließende Billigung des Gesetzes. „Mit der KI-Verordnung hat die EU einen umfassenden Rechtsrahmen für künstliche Intelligenz geschaffen, der einen rechtssicheren und vertrauenswürdigen Einsatz von KI ermöglicht.“ Das sei bislang weltweit einmalig. Nun gelte es, diesen Rahmen auch voll zu nutzen. „Daran werden wir mit aller Kraft arbeiten und darauf achten, dass die Verordnung praktikabel umgesetzt wird und KI-Innovationen aus Deutschland und Europa voranbringt“, erklärte Habeck.

Die EU-Gesetzgeber wollen mit den Regeln die Entwicklung und die Verwendung von künstlicher Intelligenz insbesondere in Unternehmen forcieren. Dahinter steht die Vermutung, dass KI neue Geschäftsmodelle ermöglicht und die Effizienz und Wettbewerbsfähigkeit der Wirtschaft in der EU steigert.

Die Regulierer hoffen, dass die Tatsache, sich früher als andere Wirtschaftsregionen auf gemeinsame Regeln geeinigt zu haben, einen Vorteil für die heimische Industrie bedeutet. Diesen „First Regulator Advantage“ sehen zahlreiche Vertreter der Wirtschaft indes kritisch. Sie befürchten vielmehr, dass die Vorgaben die Entwicklung von Geschäftsmodellen hemmen könnten. Um diesem Vorwurf zu begegnen, sind im AI Act Sandbox-Elemente vorgesehen: Innovative KI-Systeme können unter realen Bedingungen in einem kontrollierten Umfeld (Sandbox) erprobt und bewertet werden.

Der AI Act folgt einem risikobasierten Ansatz. So kategorisiert das neue Gesetz zum Beispiel verschiedene Arten von künstlicher Intelligenz nach dem mit ihnen verbundenen Risiko. Für Systeme, die nur ein geringes Risiko darstellen, gelten vergleichsweise niedrige Transparenzvorgaben. Hingegen unterliegen KI-Systeme, von denen nach fachlicher Einschätzung hohe Risiken ausgehen, einer ganzen Reihe von Verpflichtungen, um Zugang zum Markt in der Europäischen Union zu erhalten.

Einzelne KI-Formate werden verboten, etwa Social Scoring, also die Vergabe von Punkten für „wünschenswertes Verhalten“. Das neue EU-Gesetz verbietet zudem den Einsatz von künstlicher Intelligenz für Polizeiarbeit, insofern Menschen dabei nach Kategorien wie Rasse, Religion oder sexueller Orientierung differenziert werden.

Auf europäischer Ebene werden mehrere Gremien eingerichtet, um eine Umsetzung der Vorschriften zu gewährleisten und zur einheitlichen Anwendung der Vorgaben beizutragen. Dazu zählt etwa ein AI Office in der EU-Kommission und ein AI Board mit Vertretern der EU-Mitgliedstaaten, dazu gehören aber auch ein wissenschaftliches Gremium unabhängiger Experten und ein beratendes Forum für Vertreter organisierter Interessen, also etwa von Industrieverbänden, die die EU-Kommission technisch beraten.

Die europäischen Regeln sehen Geldbußen bei Verstößen gegen den AI Act vor, die an den Vorjahresumsatz des betreffenden Unternehmens gekoppelt sind. Die Regeln treten in wenigen Tagen in Kraft, kurz nachdem sie im EU-Amtsblatt veröffentlicht werden. Mit wenigen speziellen Ausnahmen werden die Regeln zwei Jahre nach Inkrafttreten der Verordnung anwendbar sein.