Recht

Rechtliche Rahmenbedingungen für den Einsatz von intelligenten Robotern

Industrieroboter verrichten schon lange ihren Dienst in den Produktionshallen. Doch handelt es sich dabei bislang um "dumme" Maschinen, die stur ihrer Programmierung folgen. Mit einer gewissen künstlichen Intelligenz ausgestattet, sind die Maschinen jedoch in der Lage, eigene Entscheidungen zu treffen, die von ihren Programmierern nicht unbedingt vorhergesehen wurden. Welche rechtlichen Auswirkungen das mit sich bringt und wie die Lösungsansätze hierzu aussehen, zeigt dieser Beitrag.
Der Markt für Roboter, insbesondere für intelligente Industrieroboter, boomt. Die technische Entwicklung im Bereich der Robotik schreitet dynamisch voran und beflügelt die Phantasien der Anwender. Die Einsatzbereiche sind äußerst vielfältig. Hierzu gehören nicht nur Industrieroboter, die in der Produktion eingesetzt werden, sondern zum Beispiel auch Drohnen und fahrende Lieferroboter in der Logistik und Lagerhaltung, Healthcare-Roboter, autonome Fahrzeuge und Haushaltsroboter.

Entscheidend für den Erfolg der Robotik ist dabei nicht allein die Weiterentwicklung der physischen Bewegungsfähigkeit und Autonomie der Geräte, sondern auch der Fortschritt im Bereich der künstlichen Intelligenz (KI). Gerade die Fähigkeit, zu lernen und eigene Entscheidungen zu treffen, erhalten die Roboter erst durch das neuronale KI-Netz. Die Wirtschaft, das Arbeitsleben und auch das gesellschaftliche Leben werden sich durch den verbreiteten Einsatz von Robotik und KI ändern.

Die Entwicklung und Nutzung der Robotik, die grundsätzlich eine Erleichterung für den Menschen darstellt, birgt allerdings eine Reihe vonRisiken und Spannungspunkten und wirft natürlich auch juristische Probleme auf. Aus rechtlicher Sicht sind im Hinblick auf die Robotik und die KI noch viele Fragen ungeklärt, vor allem, wenn Roboter, die über einen sehr hohen Autonomiegrad verfügen, im Alltag mit Menschen interagieren. Die damit zusammenhängenden Fragen werden schnell sehr bedeutsam werden, zunächst vermutlich im Zusammenhang mit dem autonomen Fahren.

Europäisches Parlament: Eigener Rechtsstatus für Roboter
Auf europäischer Ebene hat sich das Europäische Parlament erstmals mit den rechtlichen Fragen rund um die Robotik beschäftigt. Am 16. Februar 2017 verabschiedete das Parlament einen Beschluss mit Empfehlungen an die Kommission zu zivilrechtlichen Regelungen im Bereich Robotik (2015/2103(INL)). In seinem Beschluss macht das Parlament zahlreiche Vorschläge zur Gesetzgebung im Bereich der Robotik und fordert die Kommission zu gesetzgeberischem Tätigwerden auf und dazu, noch offene Haftungsfragen beim Einsatz autonomer Systeme zu klären, insbesondere im Hinblick auf selbstfahrende Fahrzeuge.

Wichtige Kernpunkte des Beschlusses sind außerdem die Festlegung ethischer Grundsätze für die Entwicklung und den Gebrauch von KI-gestützter Robotik und gegebenenfalls auf lange Sicht auch die Einführung eines eigenen rechtlichen Status für intelligente Roboter, die von einigen bereits als "Elektronische Personen" bezeichnet werden. Die Kommission wird auch dazu aufgefordert, über die Einrichtung einer europäischen Agentur für Robotik und künstliche Intelligenz nachzudenken. Sie soll dazu dienen, das erforderliche technische, ethische und regulatorische Fachwissen zur Verfügung zu stellen, um rechtzeitig und fundiert Antwort auf die Herausforderungen und Chancen zu geben, die sich aus der Entwicklung der Robotik ergeben. Vorgeschlagen wird zudem, ein unionsweites Roboter-Register einzurichten sowie eine Registrierungspflicht und eine Versicherungspflicht für intelligente Roboter einzuführen.

Besonders der Vorschlag des Parlaments, langfristig die Einführung eines eigenen Rechtsstatus für Roboter zu erwägen, dürfte nicht nur bei Juristen für große Diskussionen sorgen. Was zunächst sehr fremd und eigenartig klingt, ist bei genauer Betrachtung aus sehr praktischen Erwägungen heraus motiviert: Sobald ein Roboter einen eigenen rechtlichen Status hat, kann er auch für seine Handlungen und Entscheidungen verantwortlich gemacht werden. Verursacht er zum Beispiel einen Schaden, kann man den Roboter auch direkt auf Schadensersatz verklagen. Das macht natürlich nur Sinn, wenn diese Schäden dann auch über eine Versicherung abgedeckt sind. Deshalb schlägt das Parlament in seinem Beschluss auch eine Versicherungspflicht für intelligente Roboter vor.

Einstufung als elektronische Person
Aus juristischer Sicht könnte die Einführung einer solchen "elektronischen Person", gepaart mit einer Versicherungspflicht für intelligente Roboter, gerade mit Hinblick auf die Klärung von Verantwortlichkeiten und Zurechnungsfragen Sinn ergeben: Die Entwicklung hochintelligenter vollautonomer Systeme scheint nur noch eine Frage der Zeit zu sein. Je weiter aber der Grad an Eigensteuerung zunimmt und je mehr Maschinen ihre eigenen Entscheidungen treffen, desto mehr wird die Verantwortung der Menschen in den Hintergrund rücken.

Der Mensch wird seine Verantwortung immer öfter mit dem Hinweis darauf bestreiten, dass er sich doch voll und ganz auf die intelligente Technik verlassen durfte. Und das, so die potenzielle Argumentation, sei ja gerade der Sinn der Automatisierung und der KI. Man wird sich darauf berufen, dass die mit KI ausgestatteten Geräte nicht mehr fortwährend überwacht werden müssen.

Es ist fraglich, ob eine menschliche Kontrolle bei intelligenten und autonom agierenden, komplexen Systemen überhaupt noch machbar sein wird. Hinzu kommt, dass es gerade bei der Interaktion mehrerer intelligenter Systeme miteinander teilweise nicht mehr möglich sein wird, im Schadensfall die verantwortliche Person oder den Verantwortungsbeitrag überhaupt zu ermitteln.

Hier tun sich Lücken auf, die mit heutigem Rechtsverständnis nicht zu schließen sind. Denn das Zivilrecht kennt nur die natürliche und die juristische Person, nicht aber die "E-Person". Es ist auch zu beachten, dass sich durch Roboter verursachte Schäden nicht immer auf Fehler bei der Produktion oder dem Einsatz der Roboter zurückführen lassen werden. Es ist vorstellbar, dass es auch in Fällen zu Schäden kommen kann, in denen ein Roboter fehlerfrei funktioniert und doch bei der autonomen Entscheidungsfindung eine Fehlentscheidung trifft, die zu einem Schaden führt.

Obwohl ein eigener Rechtsstatus für Roboter Musik aus einer noch fernen Zukunft ist, könnte ein solcher Status auch auf dem Gebiet des Vertragsrechts nützlich sein. Geben Roboter Erklärungen im eigenen Namen ab und handeln sie dabei mit eigener Rechtspersönlichkeit, so werden sie selbst Vertragspartner und damit Träger von Rechten und Pflichten. Damit würden Roboter auch mit ihrem eigenen Vermögen haften und wären vor Gericht zu verklagen.

Diese Überlegung birgt natürlich noch zusätzlichen Klärungsbedarf: So stellt sich die Frage, ob und wie ein Roboter eigenes Vermögen aufbauen könnte? Soll er für seine Arbeit entlohnt werden? Das hört sich aus heutiger Sicht noch sehr utopisch an. Es kann aber wirtschaftlich Sinn machen, da ein Roboter dann aus seinem Lohn auch Steuern zahlen könnte. Für die Aufrechterhaltung der Sozialsysteme könnte dies essenziell werden. Auch Versicherungsbeiträge für die Roboterhaftpflichtversicherung könnten aus diesem Lohn bestritten werden.

Nach dieser Charta sollen sich Forscher auf dem Gebiet der Robotik selbst zu dem höchsten ethischen und professionellen Verhalten verpflichten. Sie sollen sich an die Grundsätze von Benefizienz (Roboter sollten im besten Interesse der Menschen handeln), Schadensvermeidung, Autonomie (Möglichkeit der autonomen Entscheidung über die Bedingungen der Interaktion mit Robotern) und Gerechtigkeit bei der Verteilung der Nutzen, die mit Robotik verbunden sind, halten. In welcher Form die vorgeschlagene Charta über Robotik letztendlich Gesetz werden könnte, ist noch offen. Die in der Charta enthaltenen Grundsätze sind sehr weit und allgemein gefasst. In der konkreten Ausgestaltung wird es noch viel Diskussionsbedarf geben.

Fazit
Der im Februar 2017 verabschiedete Beschluss des Europäischen Parlaments macht erste Vorschläge zu rechtlichen Regelungen über Maschinen, die aufgrund ihrer Ausstattung mit KI und ihrer physischen Bewegungsfreiheit sehr autonom agieren und alleine Entscheidungen treffen können. Aber es werden vermutlich noch Jahre vergehen, bevor Gesetze tatsächlich verabschiedet werden. Die technische Entwicklung dürfte die rechtliche Diskussion damit schon bald überholen.

Dr. Markus Häuser ist Rechtsanwalt und Partner bei CMS in Deutschland. Er ist Experte im Technologierecht und Mitherausgeber der Studie "Digital Economy & Recht" zu den rechtlichen Auswirkungen der digitalen Transformation.
1.05.2017/Dr. Markus Häuser/dr

Nachrichten

Hacker-Angriff auf Marriott möglicherweise politisch motiviert [14.12.2018]

Berichten zufolge steckt hinter einer massiven Cyberattacke in einer Marriott-Hotelkette ein chinesischer Geheimdienst, der die persönlichen Informationen von bis zu 500 Millionen Kunden erbeutete. Dies meldet das IT-Sicherheitsunternehmen Vectra. [mehr]

Sicherheitslücken in verbreiteten IoT-Protokollen [14.12.2018]

Trend Micro warnt Unternehmen vor möglichen Sicherheitslücken in ihrer Betriebstechnologie. Forscher des japanischen IT-Sicherheitsanbieters entdeckten massive Schwachstellen und gefährdete Anwendungen von zwei weit verbreiteten Protokollen für die Machine-to-Machine-Kommunikation. [mehr]

Tipps & Tools

Statusseite für Systemausfälle [16.12.2018]

Bei Störungen oder Ausfällen kann PRTG Network Monitor über das interne Benachrichtigungssystem automatisch die zuständigen Mitarbeiter in der IT-Abteilung verständigen. Zusätzlich lassen sich beim Ausfall bestimmter Dienste, beispielsweise eines webbasierten CRM-Systems oder des Intranets, alle notwendigen Informationen automatisiert auf einer Statusseite darstellen. Um diese Option umzusetzen, sind jedoch einige Dinge zu beachten. [mehr]

Hände beim Tippen warm halten [15.12.2018]

Wer den ganzen Tag am Rechner verbringt, kann sich in der kalten Jahreszeit auch mal kalte Finger holen oder sogar erste Anzeichen von Rheuma verspüren. Nachdem sich die wenigsten Handschuhe für die PC-Tätigkeit eignen, sollten Sie sich die praktischen Handwärmer im witzigen Toast-Format ansehen. Diese werden mittels USB-Anbindung mit Energie versorgt und lassen die Finger für das Hämmern auf den Eingabegeräten frei. [mehr]