BMVI-Ethik-Bericht über automatisiertes Fahren weicht Datenschutzfragen aus

Stellungnahme der FG Informatik und Ethik der GI zum Abschlussbericht der Ethik-Kommission Automatisiertes und Vernetztes Fahren, berufen vom BMVI

Die Fachgruppe Informatik und Ethik begrüßt die Veröffentlichung der Arbeit der Ethik-Kommission „Automatisiertes und Vernetztes Fahren“ mit Einschränkungen (Der Bericht zum Herunterladen). Wichtige Grundsatzfragen des jungen post-algorithmischen Zeitalters wurden in 20 Thesen adressiert; in einigen Bereichen haben die Autoren und die Autorin auch klar Stellung bezogen, so etwa bei der wichtigsten Frage des Schutzes von Leib und Leben eines Menschen. Die erarbeitete Vorzugsregel „Mensch vor Tier vor Sache“ scheint dem gesellschaftlichen Konsens zu entsprechen, freilich stecken da optimistische Annahmen über die Funktionsweise von Technik dahinter. Das Problem ist ja gerade, dass die Maschine nicht „weiß“, ob es sich um einen Menschen, ein Tier oder eine Sache handelt, sie kann nicht „entscheiden“; ein informationstechnisches System entscheidet nicht, es führt (hoffentlich zuverlässig und korrekt) eine Berechnung aus.

Die Autoren und die Autorin tragen dieser Tatsache Rechnung, indem bestimmte anthropomorphe Begriffe teilweise in Anführungszeichen gesetzt werden, etwa „Entscheidungssysteme“ oder „Künstliche Intelligenz“. Im Laufe des Textes verschwinden diese Anführungszeichen, besonders gegen Ende, wo es vermehrt um Geschäftsmodelle und Wertschöpfungsketten (deutscher) Unternehmen geht. Die technischen Annahmen der Zuverlässigkeit und Korrektheit von IT-Systemen sind nicht nur optimistisch, auf die grundsätzliche Frage wurde nicht eingegangen: Kann und darf man ein System so programmieren, dass ein Mensch zugunsten eines anderen zu Schaden kommt?

< Die technische Expertise wurde zwar eingeholt, sie spiegelt sich im Bericht allerdings nur in den offenen Fragen wider. Zudem fahren mit den LKWs bereits mehrere hoch assistierten Systeme herum, die bereits einige der hier angeführten Herausforderungen (und mögliche technische Lösungen) des vollautomatisierten, autonomen Fahrens aufzeigen.

Die Fachgruppe Informatik und Ethik übt scharfe Kritik an der Verwendung des zentralen Begriff der Informationellen Selbstbestimmung, der ja nicht nur eine juristische, sondern auch eine moralische Dimension besitzt. Dieses Grundrecht wurde seinerzeit an nichts weniger als der Menschenwürde festgemacht, wird jedoch im vorliegenden Kommissions-Bericht  höchst eigenwillig interpretiert. Weitere grundlegende Konzepte wie Datensparsamkeit, Datenvermeidung, aber auch Datensicherheit werden ungenau und zum Teil widersprüchlich verwendet, was angesichts der hochkarätigen Besetzung verwundert. Insgesamt bleibt der Bericht im ethisch relevanten Bereich des Datenschutzes und der IT-Sicherheit zu vage und zieht sich immer wieder auf die juristische oder gar ökonomische Ebene zurück.

Die im Ethik-Kommission-Bericht geforderten rechtskonformen Lösungsansätze führen nicht automatisch zu moralisch gebotenen Lösungen, wie ein kurzer Blick auf Staatstrojaner belegt. Das Erfordernis eines Ausgleichs von persönlichen und ökonomischen Interessen wird nicht mit Ethik begründet, sondern mit „Wettbewerbsgerechtigkeit“ (S. 24) und „globalisierten Wertschöpfungsmodellen“ (S. 24).

Für einen Ethik-Bericht sind unseres Erachtens erstaunlich wenige ethische Leitlinien erarbeitet, die nicht schon vorher an anderer Stelle erarbeitet wurden, man denke nur an die Stellungnahmen und Empfehlungen des Deutschen Ethikrates, der sich übrigens parallel mit genau diesem Thema beschäftigt hat. Die offenen Fragen sind spannend, allein fehlen Empfehlungen, wie es von einer Ethik-Kommission zu erwarten gewesen wäre. Wobei das ohnehin keine Rolle für das laufende Gesetzgebungsverfahren gespielt hätte: Das BMVI hat den entsprechenden Gesetzesvorschlag bereits vor dem Abschluss der eigens eingesetzten Kommission dem Gesetzgeber vorgelegt, aber auch das scheint inzwischen Usus am Ende der Legislaturperiode zu sein, wie die Gesellschaft für Informatik nun schon mehrfach beobachten konnte.

Allgemeine Prinzipien der Menschenrechte müssen Leitbilder der IT-Innovation sein bzw. bleiben. Weder die körperliche Unversehrtheit, noch Informationelle Selbstbestimmung und IT-Sicherheit dürfen einem „Fahrgenuss“ (S. 21) oder einer „Wettbewerbsgerechtigkeit“ (S.24) geopfert werden. Der Datenhunger der Unternehmen in Bezug auf diesen riesigen neuen Markt „Mobilität“ ist immens; ein Markt, der mit Förderprogrammen und Privatisierungsmaßnahmen weiter aufgebläht wird. Wenn moralische Gebote im Widerstreit mit ökonomischen Interessen stehen, besitzt der Staat – gerade in Infrastruktur-Fragen wie der Mobilität – einen politischen, juristischen und moralischen Schutzauftrag zur Gewährleistung von Grundrechten. Der Bericht ist fertig, nun beginnt jedoch die eigentliche Diskussion.

Die Ethischen Leitlinien der GI für das Handeln von Informatikerinnen und Informatiker finden Sie hier.