15.01.2020 · Künstliche Intelligenz

Künstliche Intelligenz: Wehe, wenn sie losgelassen

Bild: © by-studio - stock.adobe.com

von Alexandra Buba M. A., Wirtschaftsjournalistin, Fuchsmühl

| Selbstlernende Systeme können Produktionsprozesse straffen, Wartungszeiten verkürzen und Fehler eigenständig ausmerzen. Im Idealfall. Denn greifen ERP-Lösung und Maschinensoftware ineinander und werden z. B. Bestellprozesse automatisiert, kann das auch zu unerwünschten Ergebnissen führen. Doch wer haftet dann wann und wofür? |

1. Ausgangslage

„In die Ecke, Besen, Besen! Seids gewesen. Denn als Geister ruft euch nur zu seinem Zwecke, erst hervor der alte Meister“, heißt es in Johann Wolfgang von Goethes Zauberlehrling, als am Ende der Zaubermeister eingreifen und die von unkundiger Hand entfesselten Mächte wieder einfangen muss. Wer sich mit selbstlernenden Systemen und Künstlicher Intelligenz (KI) beschäftigt, muss kein Zauberlehrling sein, um schnell zu erkennen, dass deren Entscheidungen und die daraus resultierenden Konsequenzen oft nicht mehr eindeutig einer Einzelperson zuzuordnen sind. Denn das Zauberwort für moderne Softwarearchitektur heißt Integration. Je enger die einzelnen Systeme verzahnt sind, desto größer der Nutzen für den Unternehmer. Doch das bedeutet auch, dass es äußerst schwierig sein kann, die Ursache etwa einer fehlerhaften Bestellung auszumachen, die aus einer Kaskade von Daten und zugeordneten Folgen ausgelöst wurde.

2. Schadenersatz und Schmerzensgeld noch nicht geregelt

„Grundsätzlich gilt: Schadenersatz und Schmerzensgeld sind im Hinblick auf KI noch nicht klar geregelt. Die EU hat bereits ein Recht auf Softwareupdates festgeschrieben ‒ genauso muss jetzt das Thema Produkthaftung gelöst werden“, erklärt der Rechtswissenschaftler Nicolas Woltmann, der an der Julius-Maximilians-Universität Würzburg zu diesen Fragen forscht.