In den Räumen des Amtsgerichts Frankfurt am Main wurde Ende Juni das Urteil in einem sehr speziellen Fall verkündet: Echte Richter, Anwälte und Sachverständige agierten über Monate hinweg in einem simulierten Gerichtsverfahren. Sie verhandelten einen Präzedenzfall, der in Wirklichkeit frühestens erst in etwa einem Jahrzehnt vor Gericht kommen kann. Ziel ist, zu zeigen, wie die Parteien bei Verträgen, die KI ohne Menschen schließt, zu ihrem Recht kommen. Die Simulationsstudie, die der Praxis jetzt als Vergleichsfall dient, leitet Professor Georg Borges vom Institut für Rechtsinformatik der Universität des Saarlandes im Projekt „Industrie 4.0 Legal Testbed“, das die Industrie der Zukunft rechtssicher machen soll.
Professor Georg Borges, geschäftsführender Direktor des Instituts für Rechtsinformatik an der Universität des Saarlandes. Fotos: Iris Maurer
In der Zukunft wird künstliche Intelligenz in der Industrie viele alltägliche Abläufe automatisieren. Ersatzteile und Rohstoffe werden automatisch bestellt, wenn die Vorräte zur Neige gehen, oder Firmen automatisch beauftragt, Reparaturen auszuführen. Waren werden autonom ausgeliefert, LKWs smart beladen. Aber auch hier werden Dinge schief gehen. Lieferungen kommen zu spät, gar nicht oder werden nicht benötigt. Dinge gehen kaputt, nehmen Schaden – das Spektrum der Möglichkeiten ist ebenso vielfältig wie heute. „Dann braucht die Industrie rechtssichere Lösungen dieser Streitfälle – sonst wird sich die künstliche Intelligenz wegen des hohen Risikos überhaupt nicht erst durchsetzen können“, sagt Professor Georg Borges. „Nur wenn es gelingt, reale und virtuelle Welt wieder zusammenzubringen, können wir diese Rechtssicherheit gewährleisten“, erklärt der Direktor des Instituts für Rechtsinformatik der Universität des Saarlandes.
Ein Knackpunkt dabei sind Verträge, die völlig ohne Zutun des Menschen nur von Maschinen ausgehandelt und geschlossen werden. „Vertragsschlüsse mit Maschinen gibt es schon, man denke nur an die Warenautomaten. Allerdings ist in der Industrie 4.0 die Rechtslage ungleich komplizierter. Schon heute können Maschinen mit Maschinen kommunizieren und selbstständig Entscheidungen treffen, an denen kein Mensch mehr beteiligt ist. Technisch ist es bereits möglich, dass Maschinen allein miteinander verhandeln, Verträge abschließen und Leistungen erbringen“, sagt der Saarbrücker IT-Rechtsexperte. „Verträge können künftig durch sogenannte Smart Contracts, also Software zur automatisierten Vertragsdurchführung, durchgeführt werden. In Kombination mit sogenannter Blockchain-Technologie kann die Vertragsausführung kryptographisch gesichert und parallel auf mehreren Computer-Servern gespeichert und überwacht werden“, erklärt Georg Borges. Dadurch ist die Vertragsausführung vor Manipulationen sicher, die Rechtssicherheit wird gewahrt.
"Die Industrie braucht rechtssichere Lösungen, sonst wird sich die künstliche Intelligenz wegen des hohen Risikos überhaupt nicht erst durchsetzen können."
Aber auch hier wird es zu Rechtsstreiten kommen. Wer zahlt, wenn Maschinen irren? Wer trägt die Verantwortung für Schäden durch Maschinen? Wer haftet? Wie können Verträge vollständig automatisch rechtssicher ausgehandelt und abgewickelt werden? Wie steht es um IT-Sicherheit, Datenschutz und Nachweisbarkeit? Einen solchen Fall, der so viel an offenen Fragen wie möglich enthält, aus dem die Praktikerinnen und Praktiker in Industrie und Recht also besonders viele Erkenntnisse für künftige Rechtsfälle herausziehen können, hat Georg Borges erdacht. In einer Simulationsstudie exerzierten jetzt echte Richter, Anwälte und Sachverständige diesen Musterfall durch, als sei er echt. Nur, dass hier alles offenliegt und die Thematik heute schon aufgezeigt und dokumentiert wird, samt Sachverständigengutachten und Beweislastproblemen. Für Industrie und Juristen wird demonstriert, wie man in Zukunft seine Ansprüche, die auf solch smarten Verträgen beruhen, durchsetzen kann, wo die Risiken liegen, wie die Beweislast-Problematik aussieht und vieles mehr.
Solch einen Fall wird es „in echt“ erst in Jahren, frühestens wohl erst in einem Jahrzehnt, geben, bis die Technologie für smarte Verträge in der Praxis verbreitet ist. „Ziel dieser Simulationsstudie ist es, heute schon aufzuzeigen und nachvollziehbar zu machen, wie Rechtssicherheit in einer automatisierten und vernetzten Zukunft aussehen kann – ein Labor oder eine Art Sandbox für Industrie und Juristen also“, erklärt Rechtsinformatiker Georg Borges. Es sollen typische Rechtsprobleme aufgezeigt werden, an denen es haken könnte, damit zügig nachgebessert und entwickelt werden kann – und damit die Industrie dieser Technologie vertrauen und sie infolge auch einsetzen kann.
Über Tausend Stunden Arbeit stecken in diesem Projekt. Die Dokumentation umfasst einige Hundert Seiten und eine mehrstündige Filmaufnahme der simulierten Gerichtsverhandlung.
Ein zusammenfassender Kurzfilm ist auf der Internetseite des Instituts für Rechtsinformatik zu finden:
https://www.rechtsinformatik.saarland
Interview Mit Professor Georg Borges auf Youtube
Hintergrund
Projekt „Industrie 4.0 Legal Testbed“
Das Projekt leitet Georg Borges im Rahmen des Projekts „Industrie 4.0 Legal Testbed“ (legaltestbed.org), das vom Bundeswirtschaftsministerium mit mehreren Millionen Euro gefördert wird. Hier arbeitet ein interdisziplinäres Forschungskonsortium unter anderem an einem Softwareagenten, der vollautomatisiert Verträge abschließt. Beteiligt sind neben dem Institut für Rechtsinformatik der Universität des Saarlandes die Fraunhofer-Institute für Materialfluss und Logistik (IML) sowie für Software und Systems Engineering (ISST) und das Horst Görtz Institut für IT-Sicherheit der Ruhr-Uni Bochum (HGI).
Im Recht-Testbed entwickeln die Partner ein digitales Experimentierfeld für automatisierte Geschäftsprozesse. Das Recht-Testbed dient dazu, Politik und Unternehmen Handlungsempfehlungen für neue rechtliche Standards zu geben. Die Forscherinnen und Forscher betrachten hierfür sämtliche Geschäftsprozesse und entwickeln technische Agenten, die vom automatisierten Kennenlernen über Vertragsverhandlungen bis hin zu Abschluss und Vertragsausführung alles rechtssicher unter Dach und Fach bringen.
Georg Borges und sein Team am Institut für Rechtsinformatik erarbeiten hierbei Lösungen für vertragliche, haftungsrechtliche und datenschutzrechtliche Aspekte sowie für Beweisfragen der Industrie 4.0 einschließlich der IT-Sicherheit und juristischen Bewertung im Rahmen des Zivilrechts.