Vollautonome Fahrzeuge, KI-gestützte Diagnostik, intelligente Verkehrssteuerung, personalisierte Werbung – aber auch Wahlmanipulation, Deepfakes, oder Social Scoring. Die enormen Chancen und Risiken, die mit künstlicher Intelligenz einhergehen, erfassen sämtliche Lebensbereiche. Die Technologie entwickelt sich dabei so rasend schnell, dass ihre Regulierung kaum Schritt halten kann.

Der EU-Gesetzgeber hat Mitte März dennoch einen Versuch unternommen und ein umfassendes Gesetz zur Regulierung künstlicher Intelligenz vorgelegt – nach Angaben des EU-Parlaments das weltweit erste seiner Art. Die KI-Verordnung, die Anfang Juni verabschiedet werden und dann innerhalb der nächsten drei Jahre in Kraft treten soll, legt diverse Pflichten für Anbieter von KI-Systemen in Abhängigkeit von den damit einhergehenden Risiken fest.

Daneben ist der EU-Gesetzgeber dabei, auch andere Rechtsbereiche im Hinblick auf KI-Systeme umfassend zu überprüfen. Ein zentraler, aber in der breiten Öffentlichkeit bisher weniger wahrgenommener Bereich ist das Produkthaftungsrecht. Im Kern geht es dabei um die Frage, wer wie für fehlerhafte Produkte haftet, die künstliche Intelligenz einsetzen – und wie diese Frage im Rahmen zivilrechtlicher Prozesse geklärt werden soll.

Die EU-Kommission hat im September 2022 zwei umfassende Regelungsvorschläge unterbreitet: eine neue Produkthaftungsrichtlinie und eine Richtlinie über die außervertragliche Haftung für künstliche Intelligenz. Mit den beiden Vorschlägen sollen die unterschiedlichen Regelungen über die zivilrechtliche Haftung für KI-Systeme in den Mitgliedstaaten harmonisiert werden. Es wird erwartet, dass die Entwürfe nun an die KI-Verordnung angepasst werden.

Nach dem neuen vorgeschlagenen Regime gelten sowohl physische Erzeugnisse als auch digitale Dateien als Produkte, die dem Anwendungsbereich der Richtlinie unterfallen. Das gilt unabhängig davon, ob die Software (bzw. KI-Anwendung) in ein anderes Produkt integriert ist oder vollkommen selbständig arbeitet. Gemeinsam setzen beiden EU-Richtlinienvorschläge ein verschuldensunabhängiges Haftungsregime um, mit weitreichenden Veränderungen für Hersteller und Nutzer von KI-Systemen.

Das neue Haftungsrecht soll einerseits die Durchsetzung von Verbraucherrechten erleichtern, indem der erheblichen Komplexität und fehlenden Transparenz von KI-Systemen Rechnung getragen wird. Gleichzeitig soll die Vorhersehbarkeit von Haftungsrisiken für KI-Systeme und damit die Rechtssicherheit erhöht werden. Ob dies gelingt, ist indes fraglich. Denn die Neuregelungen erweitern sowohl den Kreis der potenziell Haftenden als auch den möglichen Haftungsumfang erheblich.

Neben den schon bisher haftenden Herstellern und EU-Importeuren sollen nun auch weitere Unternehmen in der Lieferkette für fehlerhafte Produkte zur Verantwortung gezogen werden können. Darunter fallen zum Beispiel Unternehmen, die Lagerhaltung, Verpackung oder Logistikleistungen für die betroffenen Produkte erbringen. Unter engen Voraussetzungen können sogar Händler und Online-Plattform-Betreiber für fehlerhafte Produkte haften. Der weite Anwendungsbereich soll ermöglichen, dass geschädigte Verbraucher selbst dann einen Schuldner innerhalb der EU belangen können, wenn das betreffende Produkt von außerhalb bezogen wurde.

In prozessualer Hinsicht sehen die beiden Richtlinienvorschläge wesentliche Erleichterungen für Kläger vor, die Ansprüche wegen (vermeintlich) fehlerhafter Produkte geltend machen wollen. Zwar ist es weiterhin erforderlich, dass der Kläger das Vorhandensein eines Produktfehlers, eines erlittenen Schadens sowie des dazwischen bestehenden Kausalzusammenhangs nachweisen muss. Aufgrund der bereits erwähnten fehlenden Nachvollziehbarkeit vieler KI-Systeme (Blackbox-Problematik) enthält die Neuregelung allerdings einige weitreichende Beweiserleichterungen in Form widerleglicher Vermutungen zugunsten der Kläger. Diese Beweiserleichterungen sollen die technischen Besonderheiten von KI-Systemen und die bestehende Informationsasymmetrie berücksichtigen.

Darüber hinaus sehen die Richtlinienentwürfe umfassende Offenlegungspflichten für beklagte Unternehmen vor. Diese können verpflichtet werden, dem Kläger relevante Beweismittel offenzulegen, um seine Ansprüche beweisen zu können. Derart weitreichende, dem angloamerikanischen Discovery-System angenäherte Offenlegungspflichten sind dem kontinentaleuropäischen Zivilprozessrecht bislang fremd.

Die praktische Bedeutung der neuen Regelungsvorschläge ist immens: Es wird zukünftig stetig mehr Produkte geben, die künstliche Intelligenz einsetzen. Gleichzeitig riskieren immer mehr Unternehmen innerhalb einer Lieferkette, dem Haftungsregime zu unterfallen, selbst wenn sie nicht Hersteller oder Importeur sind. Die klägerfreundlichen Regelungen könnten in Zukunft zu Massenklagen oder Verfahren des kollektiven Rechtsschutzes führen. Unternehmen sollten diese Entwicklungen daher genau beobachten, um sich frühzeitig auf die Neuregelungen einstellen zu können.