Ich finde den grundsätzlichen Ansatz der EU vernünftig, die Menschen und Risikogruppen schützen zu wollen. Denn durch den Einsatz von KI können ja viele Rechte verletzt, digitale Abbilder von Personen in die Welt gesetzt, sie auf Schritt und Tritt verfolgt, ihr Verhalten analysiert werden. Davor muss man die Bürger und die Gesellschaft schützen. Schon jetzt merken immer mehr Gruppen, wie KI in ihr Leben eindringen kann und es verändert. Hier Verbotszonen zu definieren, leistet das Gesetz. Und ich denke auch, dass Europa diesmal in der Tat vorneweg ist bei der gesetzlichen Prägung eines neuen Marktes. In den USA wird man wohl bald in eine ähnliche Richtung marschieren.

Zunächst müssen die Bestimmungen noch ausformuliert und konkretisiert werden für die neu ins Leben zu rufenden Prüf- und Kontrollinstanzen. Sie müssen auch ausgestattet und befähigt werden, die von der Industrie gelieferten Beipackzettel für ihre Anwendungen zu untersuchen und zu testen; also, ob auch jene Inhaltsstoffe drin sind, die dort draufstehen.

Vielleicht müssen sie ja auch nicht alle Daten preisgeben, und größere Blöcke genügen schon. Ich kann mir auch – analog zu den Wirtschaftsprüfern im Steuer- und Unternehmensrecht – eine öffentliche oder private Instanz vorstellen, die umfassend Einblick erhält, aber nur ihr Testat weitergibt. Viel mehr mache ich mir im Moment Sorgen, ob diese neuen Prüfinstanzen mit den gewaltigen Fortschritten in der KI Schritt halten können. Einer der nächsten großen Datensätze wird wahrscheinlich 100 Milliarden Bilder enthalten. Die kann ja kein Mensch mehr angucken. Um diese Daten zu prüfen, brauchen wir eigene KI-Systeme, die wiederum andere System prüfen und bewerten. Und wer prüft dann das Prüfsystem?

Es ist die grundsätzliche Klarheit. So gibt es etwa ein klares Votum gegen Social Scoring, was viele Menschen beruhigen dürfte. Und es stehen Transparenzforderungen an die Entwicklung drin, damit klar wird, wie diese Systeme reagieren und warum sie manchmal so komisch und verzerrt antworten.

Das liegt an den Trainingsdaten, weil auch wir Menschen uns manchmal komisch verhalten und sich das in den Daten niederschlägt. Und bisweilen auch, weil diese Daten nicht repräsentativ sind, sondern gehäuft etwa aus der westlichen Welt kommen. Daher müssen die Quellen offengelegt werden – gerade wenn diese Systeme relevante Entscheidungen selber treffen in verschiedenen Bereichen.

Man kann alles unterlaufen. Denken Sie an die Geschwindigkeitsbegrenzungen auf unseren Straßen. Entscheidend ist, dass die Unternehmen mit ihrem Fehlverhalten ein gewisses Rechts- oder Finanzrisiko eingehen. Zudem kann das Unterlaufen ja auch durch KI-Prüfsysteme möglicherweise erschwert werden, die auch aus diesen Trainingsdaten lernen.

Ich hoffe, dass trotz allen nötigen Prüfaufwands immer noch genügend Technologieoffenheit bleibt. Und daher müssen wir wohl zu einer stochastischen Vorgehensweise übergehen und uns auf gute Stichproben verlassen. Auch hierfür ist aber die Voraussetzung, dass in den noch zu bildenden Gremien und Behörden, die das Gesetz umsetzen müssen, auch das nötige technische Verständnis und KI-Expertise vorhanden sind und nicht allein rechtlich und formal geprüft wird.

Das ist im Moment nicht der Fall. Deshalb mein Ruf nach KI-Expertise. Schließlich geht es nicht darum, nur die sozialen und juristischen Aspekte zu prüfen wie anderswo. Die Vorgaben, die diese Instanzen machen, müssen natürlich berücksichtigen, dass ihre Bestimmungen technisch überhaupt umsetzbar sind. Da benötigt man schlicht Wissen über die laufenden Forschungsvorhaben.

Die Gefahr ist natürlich da.

Wir müssen grundsätzlich aufpassen, dass etwa die Transparenzpflicht kleine Firmen und Start-ups nicht erdrückt; oder die bürokratischen Anforderungen schlicht ausufern. Da nun gleich am Anfang der Beratungen davor gewarnt wird, darf man ja durchaus noch hoffen. Letztendlich ist die Transparenz jedoch ein klarer Standortvorteil für Europa, weil sie Sicherheit und Vertrauen schafft, und damit den Markt fördert.

Das habe ich mich auch schon gefragt. Das wäre durchaus sinnvoll, denke ich. Denn gerade im digitalen Business geht es ja auch um das Thema Plattformökonomie. Jedenfalls müssen wir sehr aufpassen, dass kleinere Akteure auf dem Markt nicht von den Großen ausgebootet werden. Vor allem aber muss der Staat darauf achten, dass er die digitale Infrastruktur weiter kräftig ausbaut und auch die Forschung weiter unterstützt, wo eigene KI-Systeme entwickelt werden. Da mache ich mir die größten Sorgen, weil da im Moment nicht so viel passiert wie anderswo.

Ja, hier auf jeden Fall. Es darf nicht dazu kommen, dass wir mit dem KI-Gesetz nur für die KPMGs, EYs und Deloittes dieser Welt neue Finanzquellen auftun.

Dass aus Versehen das Gegenteil des Intendierten erreicht wird: also gut gemeint, aber falsch gemacht, wenn etwa die Konkretisierung des KI-Gesetzes für die Praxis zu eng, rigide, bürokratisch oder am Markt vorbei ausfällt. Zum jetzigen Zeitpunkt ist es aber noch zu früh, um schon so ein Verdikt zu fällen.

Natürlich fallen Jobs weg, es werden aber auch neue aufgebaut durch KI, manche werden leichter, andere anspruchsvoller und es gibt ganz neue Möglichkeiten. Und das war schon immer so: bei der Elektrizität, dem Automobil, den Robotern in den Werkshallen. Und auch künstlerisch gibt es neue Ausdrucksformen. Aber die Fotografie hat die Malerei ja nicht verdrängt. Und der Computer nicht den Schachspieler, auch wenn Ersterer Letzteren schlagen kann.