Von Johannes Groß *)Nahezu jede Branche beschäftigt sich derzeit mit möglichen Anwendungsszenarien von künstlicher Intelligenz (KI) oder KI-basierten autonomen Systemen. Immer neue Geschäftsmodelle und Möglichkeiten der Wertschöpfung entstehen: Der Kühlschrank, der von selbst die zur Neige gehende Milch bestellt oder Algorithmen, die ohne menschliches Zutun eine Aktienorder an der Börse auslösen, sind nur der Anfang.Wesentlich komplexer sind die Entscheidungsprozesse selbstlernender Algorithmen. Ihnen werden keine festen Entscheidungsbäume vorgegeben; vielmehr können sie sich Fähigkeiten selber “beibringen”. Eine dritte Gruppe bilden bewusste, frei agierende Systeme, die vergleichbar einem Menschen handeln und Entscheidungen treffen können. Doch das ist Zukunftsmusik. Doch schon jetzt macht es künstliche Intelligenz möglich, dass autonom handelnde Maschinen Verträge schließen. Offen ist: Sind die dann auch rechtlich wirksam? Sind die Kriterien der übereinstimmenden Willenserklärungen durch Computerprogramme überhaupt erfüllt? Für die Rechtsberatung tut sich ein großes Feld neuer, spannender Fragen auf. Nicht als Maschine erkanntAllen Typen künstlicher Intelligenz ist gemein, dass sie von ihren Nutzern am Markt eingesetzt werden und für ihr Gegenüber nicht als Maschinen erkennbar sind. Autonome Systeme auf Basis von KI haben sich so weit entwickelt, dass sie den sogenannten Turing Test bestehen. Dies bedeutet, dass sie von Menschen nicht mehr als Maschinen identifiziert werden. Berühmtestes Beispiel dafür ist die KI mit dem Alias Eugene Goostmann: Der Chatbot imitiert die Persönlichkeit eines 13-jährigen ukrainischen Jungen. Chatbot ist ein textbasiertes Dialogsystem, das das Chatten mit einem technischen System erlaubt.Vergleichbare KI-Systeme werden im Rahmen dieser Chatbots eingesetzt. Dabei handelt es sich etwa um “freundliche Mitarbeiter, die einem Kunden via Chat weiterhelfen”. In der Regel befindet sich am anderen Ende kein Mensch mehr, sondern “nur” eine KI. Diese künstliche Intelligenz reagiert so natürlich und flexibel auf die Nachrichten des Kunden, dass er oftmals gar nicht merkt, dass er mit einer Maschine kommuniziert. Frage der WirksamkeitBietet das autonome System – in diesem Beispiel der Chatbot – dem Kunden zum Beispiel Produkte an und willigt der Kunde ein, stellt sich die Frage, ob im juristischen Sinne ein wirksamer Vertrag zustande gekommen ist. Voraussetzung dafür sind jedoch übereinstimmende Willenserklärungen beider Parteien. Wie der Begriff “Willenserklärung” nahelegt, muss es sich dabei um einen bewussten Willen handeln. Daran fehlt es dem KI-basierten autonomen System derzeit noch. Dies könnte bedeuten, dass die Erklärungen des autonomen Systems keinen rechtlichen Wert hätten. Dieses Ergebnis wäre sowohl für den Nutzer des autonomen Systems – beispielsweise des Chatbot – als auch für den Kunden enttäuschend.Um das Phänomen autonomer Vertragsschlüsse durch KI-Systeme juristisch zu erklären, gibt es eine Reihe Theorien. Ist das KI-System ein Bote des Nutzers oder dessen Stellvertreter? Könnte ein KI-System vielleicht sogar wie ein minderjähriges Kind des Nutzers behandelt werden? All diese Ansichten stellen auf den Nutzer und dessen Sphäre ab.Dabei sollte vielmehr die Sichtweise des menschlichen Vertragspartners ins Zentrum rücken. Der Mensch weiß in der Regel nicht, dass er mit einer Maschine verhandelt. Er glaubt vielmehr, einen Menschen auf der anderen Seite zu erkennen, und vertraut darauf, dass dieser “Mensch” befähigt und berechtigt ist, entsprechende Erklärungen abzugeben. Dieses Vertrauen ist schützenswert, da sich der Rechtsverkehr anderenfalls erheblich verkomplizieren würde.Dieser Vertrauensschutz geht aber noch weiter. Selbst wenn der menschliche Vertragspartner wüsste, dass er mit einer autonom handelnden Maschine verhandelt oder sogar zwei autonome Maschinen miteinander Verträge schließen, will der Vertragspartner darauf vertrauen können, dass der Nutzer der autonomen Maschine durch die Erklärungen des autonomen Systems gebunden wird. Diese Erwartungshaltung muss der Nutzer des KI-Systems antizipieren und sich entgegenhalten lassen. Wer durch den Einsatz autonomer Systeme im alltäglichen Geschäftsverkehr die Erwartung weckt, dass er sich durch die Erklärungen der künstlichen Intelligenz gebunden fühlt, muss sich daran festhalten lassen. An Kontrakt gebundenDie Verträge sind auch dann wirksam, wenn die KI beispielsweise durch fehlerhafte Programmierung zu viele Produkte bestellt, einen zu niedrigen Preis verlangt oder ähnliche Fehler begeht. Andernfalls käme es zu einer erheblichen Risikoverschiebung, von der der KI-Nutzer ungerechtfertigt profitieren würde.Bestellt also der Kühlschrank statt einem Liter Frischmilch zehn Liter H-Milch oder ordert der Algorithmus das Aktienpaket zu einem falschen Preis, kommt ein Vertrag mit dem Nutzer des autonomen Systems zustande und der Nutzer ist an diesen Vertrag gebunden. So künstlich die Intelligenz auch sein mag – als Vertragspartner ist sie sehr real. *) Johannes Groß ist Associate bei Hogan Lovells in Frankfurt.