Der Darmstädter KI-Forscher Kristian Kersting hält die Sorge der Unternehmen, dass sie im Zuge der Umsetzung des neuen KI-Gesetzes der EU künftig Firmengeheimnisse wie den Code ihrer KI-Modelle offenbaren müssten, für unbegründet. Seiner Ansicht nach könnte sich eine Struktur wie bei den Wirtschafts- und Steuerprüfern entwickeln, die Einblick in das Unternehmen erhalten, aber nur ihr „Testat“ an die Behörden weitergeben. Allerdings, so mahnt er im Interview der Börsen-Zeitung, dürfe es „nicht dazu kommen, dass wir mit dem neuen KI-Gesetz nur für die KPMGs, EYs und Deloittes dieser Welt neue Finanzquellen auftun“. Große Hoffnungen macht er sich bei Open-Source-Modellen, die öffentlich sind und für andere Anwendungen genutzt werden können.

Von den neu zu gründenden Behörden und Prüfinstanzen, welche die Einteilung der KI-Systeme in Risikoklassen vornehmen und die damit einhergehenden Anforderungen an die Unternehmen überwachen, verlangt er, mehr „KI-Expertise“ in den Gremien einzubinden. Zumal sich der Sektor rasend schnell weiterentwickele und die Regulierung stets angepasst werden müsse. Was funktioniert oder den ganzen Markt lahmlegt, könnten einzig KI-Fachleute einschätzen. Notwendig würden womöglich angesichts der schnellen Fortentwicklung der Modelle eigene KI-Prüf-Modelle, um die anderen Modelle zu durchleuchten.

Entscheidend ist für ihn, dass die Regulierung „technologieoffen“ bleibt. Seine größte Sorge sei, „dass aus Versehen das Gegenteil des Intendierten erreicht wird: also gut gemeint, aber falsch gemacht, wenn etwa die Konkretisierung des KI-Gesetzes für die Praxis zu eng, rigide, bürokratisch oder am Markt vorbei ausfällt“. So dürfe die Transparenzpflicht der Unternehmen kleine Firmen und Start-ups nicht erdrücken. Außerdem verlangt er eine Einbeziehung der Wettbewerbsbehörden, „damit die kleineren Akteure auf dem Markt nicht von den Großen ausgebootet werden“. Zum jetzigen Zeitpunkt sei es aber noch zu früh, um schon ein solches Verdikt zu fällen.