Der AI Act ist eine Produktsicherheitsverordnung der Europäischen Union. Damit will Brüssel sicherstellen, dass Anwendungen, in denen künstliche Intelligenz (KI) verbaut ist, EU-weiten Sicherheitsstandards entspricht. Für Menschen wie die Gesellschaft problematische Anwendungsfälle etwa in der Medizin, der KI-gesteuerten Gesichts- und Emotionserkennung, der biometrischen Identifikationssysteme oder auch Manipulationswerkzeugen werden deshalb in verschiedene Risikoklassen unterteilt, die unterschiedliche Anforderungen für die Unternehmen mit sich bringen. Vor allem werden die Systeme auch von einer unabhängigen Stelle geprüft. Hierzu ist die zumindest teilweise Offenlegung des Programmcodes nötig.

Vier Risikoklassen gibt es: Programme mit einem minimalen Risiko sollen ohne zusätzliche rechtliche Verpflichtungen entwickelt und genutzt werden können wie Spamfilter bei E-Mail-Programmen und KI-gestützte Videospiele. Als KI-Systeme mit begrenztem Risiko stuft die EU Software, etwa den Einsatz von Chatbots, ein. Hier sollen sich Nutzer darüber im Klaren sein, dass sie mit einer Maschine interagieren und entsprechend aufgeklärt werden. Unter „hohes Risiko“ fallen KI-Systeme, die „negative Auswirkungen auf die Sicherheit der Menschen oder ihre Grundrechte haben“. Das können Anwendungen für autonome Fahrzeuge oder Medizintechnik sein. Als „inakzeptables Risiko“ werden Systeme eingestuft, die Grundrechte verletzen, wenn etwa Datenbanken zur Gesichtserkennung aufgebaut werden. Auch die Emotionserkennung am Arbeitsplatz oder Social Scoring stellt danach ein inakzeptables Risiko dar.

Allerdings muss die Infrastruktur zur Prüfung und Kategorisierung der Software erst aufgebaut werden. Für die Unternehmen ist entscheidend, dass sie auf dieser Basis künftig rechtssicher agieren und entwickeln können.