Von Wolf Brandes, Frankfurt

Die Europäische Kommission hat einen Vorstoß zur Regulierung von künstlicher Intelligenz (KI) gemacht. Der vorgeschlagene Artificial Intelligence Act (AIA) folgt dem Ansatz, der KI-Anwendungen ihrem potenziellen Risiko nach in Kategorien eingruppiert. Diese lauten: „unannehmbares Risiko“, „hohes Risiko“, „geringes Risiko“ und „minimales Risiko“.

Unisono sind die Verbände der Finanzbranche unzufrieden mit der Beschreibung von KI im Vorschlag der EU. „Ein Problem ist die ungenaue und zum Teil falsche Definition der Charakteristika von KI. Dadurch werden Anwendungsfälle nicht korrekt erfasst und es kann zu Fehlern in der Umsetzung kommen“, sagt Frank Mehlhorn, Digitalisierungsexperte beim Bankenverband. Probleme registriert auch Jörg Asmussen, Hauptgeschäftsführer des GDV: „Der Kommission ist der Spagat zwischen der Förderung von KI und der potenziellen Regulierung gut gelungen. Dennoch: Die gewählte KI-Definition ist zu weit.“

Die Definition von KI ist entscheidend für den Anwendungsbereich zukünftiger Regulierung. Algorithmen, die keine Art des maschinellen Lernens oder der Selbstoptimierung beinhalten, sollten per Definition nicht unter die KI-Verordnungen fallen, heißt es in der Stellungnahme der Versicherungswirtschaft zum EU-Vorschlag. Auch lineare Modelle, unterstützende Methoden aus dem Bereich der erklärbaren KI und etablierte statistische Methoden sollten ausgenommen werden. Andernfalls bestehe die Gefahr, dass die Verordnung die Form einer allgemeinen Software-Verordnung annehme.

Schon heute verwenden Banken KI-Methoden wie Transaktionsanalyse, Trading und KI-Fonds. „Dazu soll es jetzt eine neue Regulierung geben, und es ist auch noch von hochriskanten Anwendungen die Rede. Das verunsichert die Branche“, sagt Matthias Peter, Partner bei KPMG. Unter die Hochrisikoanwendungen fallen gemäß dem Regulierungsvorschlag derzeit Lösungen für die biometrische Identifizierung von Personen, für Recruiting oder für den Zugang zu wesentlichen privaten und öffentlichen Leistungen. Unter diesen Punkt fallen aber auch KI-Systeme, mit denen Finanzdienstleister die Kreditwürdigkeit ermitteln.

Hochrisikoanwendungen sollen nicht verboten werden, müssen aber für eine Zulassung strenge Voraussetzungen und gewisse Qualitätskriterien erfüllen sowie ein angemessenes Maß an Genauigkeit und Sicherheit erreichen. „Die EU-Kommission stuft in ihrem Vorschlag die Kreditwürdigkeitsprüfung und das Kredit-Scoring als Hochrisikoverfahren ein. Dies sehen wir in der gesamten Kreditwirtschaft kritisch und haben uns dagegen ausgesprochen“, sagt Mehlhorn. In der Stellungnahme schreibt die Kreditwirtschaft, dass kein hohes Risiko für Verbraucher im Rahmen von KI-Kreditwürdigkeitsprüfung oder Kredit-Scoring bestehe.

Dass das für Bankbranche wichtige Kredit-Scoring heftig diskutiert werde, liege auf der Hand, sagt Peter. „Es ist eine etablierte Analyse, die direkt mit den Kunden zu tun hat.“ Sein Kollege Janek Gallitschke erläutert: „Manch einer erinnert sich bei dem Thema an die Kreditkarte eines be­kannten Technologieunternehmens, bei der das Scoring für Frauen systematisch schlechter war. Das war Wasser auf die Mühlen der KI-Kritiker.“ Andere Anwendungen von KI wie Systeme zum Erkennen von Marktmanipulation oder Geldwäsche stünden weniger im Fokus.

Ungeachtet aller Hindernisse ist man beim Bankenverband der Hoffnung, „dass der Gesetzgeber durch die geplante Regulierung im Bereich KI das erhebliche Potenzial dieser Technik nicht beschneidet“, meint Mehlhorn. Er weist darauf hin, dass auch in der Bundesbank und in Basel auf der Ebene der Notenbanken KI verwendet werde. „Die großen Vorteile von KI werden also von den Regulierern erkannt und genutzt.“

Die richtige Balance bei der Regulierung von KI zu finden, ist eine Gratwanderung. Der GDV begrüßt in seinem Papier den risikobasierten Ansatz und hält die Differenzierung nach dem Risikopotenzial für die richtige Strategie. Hauptgeschäftsführer Asmussen wehrt sich aber gegen eine Ausweitung der Anwendungen. „Es ist richtig, dass bei KI die jeweilige Anwendung betrachtet und nicht ein ganzer Sektor als hochriskant einsortiert wird. Es kommt auf den konkreten Fall an, wie KI eingesetzt wird. Versicherungen an sich sind keine hochriskante Anwendung bei der KI.“

Der Verband moniert außerdem, dass die Branche über Umwege von dem Reglement betroffen sein könnte. So würden nach der derzeitigen Definition unternehmenseigene Jobportale als risikoreiche KI-Systeme eingestuft werden, obwohl sie nur eine Benachrichtigungsfunktion über freie Stellen auf Basis von Kriterien (Ort, Stellenbeschreibung etc.) hätten.

Problematischer sind Überlegungen der Verbraucherschützer zu sehen, KI-Anwendungen in der Versicherungsbranche als hochriskant einzustufen. Als Beispiele nennen Verbraucherverbände Telematik-Tarife mit dem Vorwurf, es bestünde die Gefahr, große Kundengruppen auszugrenzen. Dass Versicherungen Risiken mit risikoadäquaten Prämien kalkulieren, dürfe kein Anlass sein, einen ganzen Wirtschaftszweig bei KI als hochriskant einzustufen, entgegnet der GDV. Für Asmussen geht es nicht darum, Verbraucher durch den Einsatz von KI auszuschließen. „Versicherungsunternehmen differenzieren natürlich bei den Tarifen und setzen dazu Daten ein. Aber Differenzierung hat nichts mit Diskriminierung zu tun.“

Die Befürchtung, dass die Banken infolge der Anwendung von KI Personengruppen automatisch ausschließen, ist auch für Mehlhorn vom Bankenverband unbegründet. Es werde keine Diskriminierung durch den Einsatz von KI geben. „Banken arbeiten mit statistischen Systemen als Basis ihrer Entscheidungen. Für uns ist dabei klar: Verbraucher haben ein Recht auf Transparenz, und dies bezieht auch ein, die einzelne Kreditentscheidung von der Bank erklärt zu bekommen.“