Verträge mit KI
Im Internet schließen wir viele Verträge. Dabei kommt auch KI zum Einsatz – sei es die automatisierte Bepreisung oder der Abschluss einer Bestellung unter Mitwirkung eines digitalen Assistenten. Und voraussichtlich wird der KI-Einsatz in Zukunft zunehmen. Entsprechend spannend ist also die Frage, wie ein solcher Vertragsschluss überhaupt zustande kommt und welche Rolle die sogenannte Computererklärung dabei spielt.
Was ist ein Vertrag?
Wenn man von einem Vertrag spricht, denken die meisten Menschen zunächst an einen Stoß eng beschriebenes Papier, der am Ende die Unterschriften der jeweiligen Parteien trägt. Auch das kann ein Vertrag sein, doch die Grundform ist eine viel einfachere.
So schließen wir bereits einen Kaufvertrag gem. § 433 BGB, wenn wir in die Bäckerei gehen und dort zwei Brötchen kaufen. Denn ein Vertrag sind zunächst einmal nur zwei aufeinander gerichtete und inhaltlich übereinstimmende Willenserklärungen mit dem Inhalt, ein Rechtsgeschäft abschließen zu wollen.
Eine so genannte Willenserklärung ist dabei eine private Willensäußerung, die auf die Erzielung einer Rechtsfolge gerichtet ist.[1] Sie besteht aus zwei Teilen, einem äußeren (objektiven) und einem inneren (subjektiven) Teil, die sich in der Äußerung und dem Willen des Erklärenden widerspiegeln. Eine Willenserklärung baut entsprechend auf der Willensbildung, also bewusstem, „finalem“ menschlichem Verhalten auf.[2]
Dabei kann die Erklärung ausdrücklich oder auch konkludent, also durch schlüssiges Verhalten, erfolgen. Ferner ist es für den Inhalt der Willenserklärung nicht von Bedeutung, in welchem Medium sie abgegeben wurde. Lediglich wenn eine Formerfordernis vorliegt, kann die konkrete Form – beispielsweise die Schriftform nach § 126 BGB – notwendig werden.
Zurück zu unserem Beispiel: Sie erklären, zwei Brötchen kaufen zu wollen und geben dadurch eine Willenserklärung gerichtet auf den Abschluss eines Kaufvertrages ab. Mit dem Überreichen der Brötchen und der Entgegennahme des Kaufpreises wird die entsprechend korrespondierende Willenserklärung zum Verkauf der zwei Brötchen abgegeben. Ein Kaufvertrag (und die jeweiligen Verfügungsgeschäfte) wurde abgeschlossen.
Computererklärung und Automaten
Nun gehören auch Automaten, an denen Leistungen zu erwerben sind (ob der Fahrkartenautomat der Bahn oder der Automat mit Snacks für die Reisenden) zu unserem Geschäftsleben. Und wir wollen uns darauf verlassen können, dass ein am Automaten geschlossener Vertrag – beispielsweise zur Beförderung von A nach B – genauso wirksam ist wie derjenige, der am Schalter mit dem Personal des Beförderungsanbieters geschlossen wurde.
Doch wie kann das Funktionieren, wenn doch ein Vertrag nur zustande kommen kann, indem zwei Willenserklärungen abgegeben werden, die wiederum auf einem konkreten menschlichen Entschluss beruhen müssen? Hier kommt die sogenannte Computererklärung ins Spiel.
Das Kennzeichen der Computererklärung ist die Abgabe einer Erklärung ohne aktuellen menschlichen Bezug durch – wie der Name schon sagt – einen Computer bzw. Software.[3] Die Erklärung soll rechtsbindenden Charakter haben, also dieselbe Wirkung wie eine reguläre Willenserklärung entfalten. Dabei wird vor allem auf das voluntative Element der Willenserklärung abgestellt. Demnach wird nicht die gesamte Äußerung als ausschlaggebend betrachtet, sondern nur der Teil der Willenserklärung, der die Willensbildung verkörpert. Da ein Computer keinen Willen bildet, bezieht sich das voluntative Element daher auf den Verwender des Systems. Zwar ist der Handlungswille nicht im Zeitpunkt der Computererklärung gegeben, aber im Rahmen des arbeitsteiligen Prozesses der Inbetriebnahme des Automaten wird dieser durch den Verwender antizipiert.[3]
Hinter jeder Entscheidung des Computers bzw. des eingesetzten Algorithmus liegt also der Wille, dass in der konkreten Situation das eingesetzte System die entsprechende Erklärung abgibt. Damit kann diese Erklärung dem Verwender des Systems zugerechnet werden. Somit schließen wir am Getränkeautomaten regelmäßig Verträge mit dem Betreiber des jeweiligen Automaten, wenn wir Geld einwerfen, um eine Getränkedose zu erhalten.
Was macht KI
Warum genau ist KI problematisch, wenn es um den Abschluss von Verträgen geht? KI-Systeme können ein hohes Maß an Eigenständigkeit besitzen. Zunehmend können sie auch autonome, von menschlichem Einfluss unabhängige Entscheidungen treffen. Dabei können diese Entscheidungen, beispielsweise wenn sie auf die Abgabe von Willenserklärungen gerichtet sind, rechtliche Folgen mit sich bringen. Somit stellt sich die Frage, wie rechtlich mit derartigen KI-basierten Entscheidungen umzugehen ist, ob und wen diese Erklärungen binden und wie sich im Zweifel von ihnen gelöst werden kann.[4]
Aufgrund der höheren Komplexität einer von KI getroffenen Entscheidung und den damit verbundenen Erklärungen wird argumentiert[5], dass die Figur der Computererklärung jener nicht mehr gerecht werden könnte. Dem ist entgegenzuhalten, dass auch herkömmliche Software bereits einen enormen Grad an Komplexität aufweist, der häufig schon von Verwendern und Kunden nicht mehr nachvollzogen werden kann. Eine Zurechnung zu dem Verwender findet dennoch statt.
Im Falle des Einsatzes von KI zum Abschluss von Verträgen wird diese nicht um ihrer selbst Willen eingesetzt, sondern um die Ziele des Verwenders zu erreichen – beispielsweise ein Vertragsschluss zu besonders günstigen Konditionen, Vertragsschlüsse unter automatisierter Einbeziehung der konkreten Vertragsumstände oder der Vertragsschluss von einer Vielzahl von Verträgen innerhalb kürzester Zeit. Dabei hat der Verwender der KI jedoch immer zumindest einen Zielrahmen vor Augen, in dem die Verträge geschlossen werden (wie es bei herkömmlicher Software ebenso der Fall ist). Sollten Abweichungen von diesem Rahmen auftreten, kann dies einer technischen Fehlfunktion geschuldet sein, etwa einem Programmierfehler oder der fehlerhaften Implementation. Die Erklärung wird dennoch dem Verwender zugerechnet.
Diese Argumentation ist auch beim Einsatz von KI möglich, wobei hier eine entsprechend gefestigte Rechtsprechung aussteht.
Fazit
Ein Vertragsschluss unter Verwendung einer KI ist durchaus möglich. Durch die Figur der Computererklärung kann die für den Abschluss eines Vertrages notwendige Willenserklärung dem Verwender der KI zugerechnet werden. Gerade unter der aktuell verwendeten sogenannten „schwachen KI“ sollte dies keine Probleme bereiten. Die Behandlung von Willenserklärungen einer „starken KI“, die ihren Rahmen eigenständig festlegt[6], steht jedoch auf einem anderen Blatt – ist jedoch derzeit noch in weiter Ferne.
- Brox/Walker, Allgemeiner Teil des BGB 44 Rn. 14.
- Armbrüster, Münchener Kommentar zum BGB Vorbemerkung (Vor § 116) Rn. 22.
- Spindler in Spindler, Schuster, Recht der elektronischen Medien Vorbemerkung zu §§ 116 ff. Rn. 6.
- Pieper in Kaulartz/Braegelmann (Hrsg), Rechtshandbuch Artificial Intelligence und Machine Learning 239 Rn. 1.
- Specht/Herold, Multimedia und Recht 2018, 40.
- Gesmann-Nuissl, Innovations- und Technikrecht 2018, 105.
