Wer haftet, wenn Roboter Menschen töten?

In Florida stirbt 2016 der Lenker eines selbstfahrenden Tesla, nachdem das Auto mit einem LKW kollidierte. Im selben Jahr beschädigt ein autonomes Mini-Postauto in Sitten einen parkierten Lieferwagen. Es hatte dessen Heckklappe übersehen.

Technikerin Wanda H. führt 2015 in der Montagestrasse eines Autozulieferers im US-Bundesstaat Michigan routinemässige Wartungsarbeiten an einem Schweissroboter durch. Doch plötzlich greift ein benachbarter Roboter in ihren Arbeitsbereich ein, um Anhängerkupplungen zu montieren. Dabei verletzt er H. tödlich am Kopf.

Unfälle verursacht von Robotern passierten in den letzten zwei Jahren immer wieder – und es könnte noch mehr davon geben, denn in Zukunft werden die intelligenten Maschinen in der Arbeits- und Alltagswelt vermehrt Aufgaben übernehmen. «Die nächste Generation der Roboter wird in zunehmendem Masse selbstlernend sein», sagt die luxemburgische EU-Abgeordnete Mady Delvaux. Zu den Prestigemodellen zählten selbstfahrende Autos. Ausserdem gebe es Drohnen, Industrieroboter, Pflegeroboter, Unterhaltungsroboter, Roboter, die in der Landwirtschaft eingesetzt werden, oder Feuerwehr-Roboter.

Doch wer für Unfälle mit Robotern haftet, ist bislang nicht geklärt. Das Europäische Parlament fordert deshalb in einer Empfehlung an die EU-Kommission sogenannte Robotergesetze: klare Haftungsregeln für autonome Fahrzeuge sowie einen speziellen rechtlichen Status für Künstliche Intelligenz etwa in Form einer «elektronischen Person». «Menschen müssen sichergehen können, dass sie entschädigt werden, wenn Schaden entsteht», sagt Delvaux.

Auch Schweizer Sicherheitspolitiker machen sich für ein Robotergesetz stark. «Im Gesetz muss klar definiert sein, dass die Firma, die den Roboter programmierte, bei Unfällen haftet», fordert GLP-Nationalrat Beat Flach. Mit dem Einsatz von Robotern gingen brenzlige Situationen einher. «Wer ist schuld, wenn eine Päckli-Drohne einer anderen spontan ausweichen muss und dann dafür aber in einen Menschen hineinfliegt?» Auch stelle sich die Frage, was passiere, wenn ein Roboter einen Hund Gassi führe, der Hund wegrenne und dabei einen Menschen beisse.

Einen Paragraphen für «elektronische Personen» zu schaffen, hält er jedoch für sinnlos. Der Mensch würde sich so aus der eigenen Verantwortung ziehen. «Auch hinter dem intelligentesten Roboter steht menschliche Verantwortung.»

Auch FDP-Nationalrat Marcel Dobler ortet eine Gesetzeslücke. Zurzeit führe er Gespräche zu diesem Thema. «Es ist zumindest in den Anfangszeiten eine Illusion, zu glauben, dass mit Robotern keine Unfälle passieren», warnt er. Sobald ein Computer etwas steuere, sollten Produzent und Entwickler im Falle von Unfällen und Schäden verantwortlich gemacht werden. «Ein Roboter im Gefängnis bereut nicht.»

Um die Gefahr von Unfällen bei Robotern einzuschränken, müssen in der Schweiz laut Dobler klar definierte Testprozesse erlaubt sein. «Wir können keine Fortschritte machen, wenn bei Testfahrten mit selbstfahrenden Autos immer ein Fahrer an Bord sein muss, wie es das Wiener Abkommen vorschreibt.» Für Innovationen brauche es Ausnahmen.

In der Schweiz sind bereits Bestrebungen in diese Richtung im Gange. Der Bundesrat nahm am Donnerstag eine Motion an, die einen rechtlichen Rahmen für selbstfahrende Fahrzeuge schaffen will. Beim Unfall mit dem Postauto in Sitten übernahm die Haftpflichtversicherung den Schaden am Lieferwagen. «Die Situation müsste neu beurteilt werden, wenn das Gesetz dereinst autonome Busse ohne Begleitperson erlaubt», hiess es von der Postauto Schweiz AG gegenüber der Zeitschrift «Chip».

Richard Hüppi, wissenschaftlicher Mitarbeiter am Institut für Mechatronische Systeme an der Zürcher Hochschule für Angewandte Wissenschaften, erachtet ein Robotergesetz hingegen als voreilig. «Von autonomen Robotern sind wir noch weit entfernt. Das ist Science-Fiction», sagt er. Ohnehin liessen die Entwickler Mensch und Roboter erst interagieren, wenn die Roboter für die Umgebung absolut keine Gefahr sein könnten. «Um ein solch sicheres System zu gestalten, ist ein grosser technischer Aufwand nötig.»

Roboter seien derzeit noch Zukunftsmusik, sagt auch Fredy Greuter, Sprecher des Schweizerischen Arbeitgeberverbands. «Eine Regulierung auf Vorrat einzuführen, ist unvernünftig und lähmend.»

Der Arbeitgeberverband rechne mit einem schnellen technologischen Wandel mit vielen neuen Chancen für die Schweizer Wirtschaft. «Zudem hat sich das Haftungsrecht trotz zunehmender Automatisation bewährt.»

Zentral sei, dass die Mitarbeiter für den Umgang mit Robotern optimal qualifiziert seien. Das gewährleiste die in der Schweiz sehr gut verankerte praktische Aus- und Weiterbildung. «Je besser man einen Roboter im Griff hat, desto weniger kommt es zu Unfällen und Fehlmanipulationen.»

Der ANYmal-Roboter der ETH Zürich gehört zu den besten Laufrobotern der Welt: