Bundesverkehrsminister Alexander Dobrindt hat dem Auftrag des Bundeskabinetts und seiner Kanzlerin folgend eine Ethik-Kommission einberufen. Sie soll unter anderem klären, wer für Unfälle haftet, die von autonomen Fahrzeugen verursacht werden – der Fahrer oder der Hersteller.

🙂 Könnte doch sein, dass so ein durchgeknallter autonomer Computer einen Unfall aufgrund von Raserei verursacht. Wer bekommt dann das Bußgeld – oder die Strafanzeige?

Die Ethik-Kommission soll aber wohl auch untersuchen, ob es ethische Normen gibt, denen das autonome Fahrzeug in Konflikt-Situationen folgen muss. Der ehemalige Bundesverfassungsrichter Udo di Fabio wird die Leitung dieser Kommission übernehmen. Der Wirtschaftswoche hat der Minister dazu auch ein Interview gegeben.

11348857_10206989802848252_348583267_oDas Thema Ethik beschäftigt mich seit meinem ersten Seminar bei Rupert Lay Anfang der 80iger Jahre wesentlich. Nach meinem Verständnis beschäftigt sich Ethik unter anderem auch mit moralischen Dilemmas. Ein grundlegendes Beispiel für so etwas ist das Trolley-Problem.

Ich zitiere dazu aus dem entsprechenden Artikel in Wikipedia:

Ein Güterzug droht wegen falscher Weichenstellung auf einen vollbesetzten stehenden Personenzug aufzufahren. Ein Weichensteller erkennt die Gefahr und leitet den Güterzug auf ein Nebengleis um, so dass dieser in eine Gruppe von Gleisarbeitern rast, die alle zu Tode kommen. Wie ist die Strafbarkeit des Weichenstellers zu beurteilen?

Diese Frage ist wohl von Welzel 1951 gestellt worden. In den Folgejahren bis heute wurden viele „Gedanken-Experimente“ dieser und ähnlicher Art formuliert. Eines der schärfsten, das mich zumindest meisten beeindruckt hat, ist folgendes:

Ein Arzt hat zehn Patienten in seiner Praxis. Jeder davon ist dem schnellen Tode geweiht, denn eines seiner Organe (bei jedem ein anderes) ist komplett zerstört. Um gesund zu werden braucht jeder innerhalb kürzester Zeit „sein“ Spenderorgan.  Es besteht aber keine Aussicht, dass diese verfügbar sind.

Zufällig kommt ein gesunder Mann in die Praxis. Der enthält genau all die Organe, die der Arzt zur Rettung sämtlicher seiner Patienten bräuchte. Soll der Arzt den Mann (den Menschen) töten, um die anderen (10 Menschen) zu retten?

Hier wird das Thema auf die Spitze getrieben. Obwohl es ethisch durchaus überlegenswert scheint, einen Mensch zu töten um zehn Menschen zu retten, wird diese Lösung von den meisten Menschen komplett ausgeschlossen. Warum? Ich vermute, weil dann sich niemand mehr „zum Arzt gehen“ trauen würde.

Das scheint mir der wirkliche Zweck von Moral zu sein: Wir wollen Dinge unmöglich machen, vor denen wir für uns Angst haben. Und die uns selber auf keinen Fall passieren dürfen. Deshalb soll für all das gelten: Das tut man nicht! Und schon der Gedanke wird zum Tabu.

Das macht dieses „Gedanken-Experiment“ für mich so wertvoll, weil es vielleicht lehrt, was hinter der Moral (Das tut man nicht!) stecken könnte.

Auch das öffentliche Fernsehen handelt jetzt mit Ethik. So hat die ARD am 17. Oktober 2016 das TV-Experiment „Terror – Ihr Urteil“ gezeigt. Und dann die Zuschauer abstimmen lassen, wie der Film ausgehen soll (Verurteilung oder Freispruch für den Piloten im ethischen Dilemma). Die Kritiken, die ich gelesen habe, waren aber von diesem Experiment nicht so begeistert.

Das Arzt-Beispiel erscheint mir übrigens sehr viel sinnvoller als das vom Trolley. Ärzte kann, so kann ich es mir vorstellen, stehen schon eher mal von einem ähnlichen Dilemma, zum Beispiel wenn sie bei einer Katastrophe wie dem Zugunglück in Bad Aibling entscheiden müssen, um welchen Patienten sie sich zuerst kümmern müssen. Wobei auch dieser Vergleich sehr hinkt.

Aber zurück zu den vielen Gedankenexperimenten mit Trolleys, Straßenbahnen, Güterzügen usw. All das ist spannend für eine intellektuelle Diskussion. Nur für die praktische Anwendung erscheint mir das alles völlig sinnlos.

All diese Konstrukte stammen aus dem Beispielraum des an Schienen gebundenen Verkehrs. Dort ist mir aber kein belegbares Ereignis bekannt, wo so etwas in der Realität passiert wäre. Das heißt, das wohl auf der ganzen Welt kein einziger Fahrdienstleister vor so einer Entscheidung gestanden hätte. Wir diskutieren und arbeiten uns also intellektuell-ethisch an reinen Kopfgeburten ab.

In der Wochenendausgabe der SZ finden wir einen gut gemachte „digitale“ Reportage zum Zugunfall nahe Bad Aibling. Da gab es am Morgen des 9. Februar zwölf Tote und 89 Verletzte. Die digitale Reportage hat den Titel Chronologie eines vermeidbaren Unglücks. Ich empfehle, diese Reportage unbedingt anzuschauen und auf den Link zu gehen.

Da wird gezeigt, dass die Realität ganz anders ausschaut. Besonders wenn es zu Unfällen kommt. Wir lernen, dass

  • in elektronischen Stellwerken, die technisch auf dem aktuellen DB-Stand sind, der Fahrdienstleiter deutlicher auf seine erste Freigabe hingewiesen worden wäre: Zumindest durch einen dicken, roten und leuchtenden Pfeil. Im Bad Aiblinger Stellwerk aber fehlt eine solche Anzeige, da die Technik älter war. Da war  ein Sicherheitsrisiko, das der Deutschen Bahn seit langem bekannt war. Eine interne Richtlinie würde seit den 80er-Jahren empfehlen, die alten Relaisstellwerke entsprechend nach zu rüsten. Bei einer „Digitalisierung des Stellwerkes“ auf den „aktuellen technischen Stand“ hätte es eine gute Chance gegeben, dass der Unfall nicht passiert wäre, bei einer kompletten Digitalisierung wäre er wohl nicht möglich gewesen. Ob so etwas ethisch ist, das wäre nach meiner Meinung durchaus diskussionswürdig.

Was erfahren wir noch?

  • Schichtarbeit ist nicht gut!
    Dienstbeginn für den Fahrdienstleister war 5 Uhr. Eine dreiviertel Stunde dauert die Fahrt von dem Bauernhof, auf dem er mit seiner Familie lebt, bis zu seinem Arbeitsplatz am Bahnhof von Bad Aibling, zehn Kilometer westlich von Rosenheim. Wegen eines vom Deutschen Wetterdienst noch in der Nacht angekündigten Sturms hat sich der Fahrdienstleister an diesem Tage wohl früher als sonst auf den Weg in die Arbeit gemacht. Daraus schließe ich, dass bei ihm irgendwann nach 3:00 der Wecker geklingelt. Da kann die Nacht nicht lange gewesen sein.
    Schichtarbeit ist generell ein Problem. Sie ist schädigt die Gesundheit. Dafür gibt es viele Belege. Und immer wenn ich morgens (damit meine ich aber eher vor 6:00) in der S-Bahn sitze, sehe ich nur graue Gesichter (außer die aufgekratzten Mädels und Jungs, die am Ostbahnhof vom Kunstpark Ost kommend zusteigen). Und so richtig fit ist der Mensch halt dann auch nicht. Zumindest ich bin es nicht. Hier aber gute Nachricht:
    Computern (digitalen Systemen) macht Nachtschicht nichts aus!

Weiter lernen wir, dass man am Arbeitsplatz nicht spielen soll.

  • Computerspiele sind gefährlich!
    Um 5:11 startet der Fahrdienstleiter auf seinem Smartphone das Videospiel „Dungeon Hunter 5“. In dem Fantasie-Rollenspiel jagt er als Kopfgeldjäger Monster und Schurken. In den Dienstvorschriften der Bahn steht: Fahrdienstleiter dürfen ihre privaten Smartphones bei der Arbeit nutzen, wenn es für ihre Tätigkeit erforderlich ist. Spiele sind ausdrücklich verboten. Und jeder wird sagen, natürlich darf man während der Arbeit nicht auf dem Computer spielen.
    Aber, ist das realistisch? Nur, wer hält sich daran?  Denn wir bekommen immer mehr Standby-Arbeitsplätze. Das beste Beispiel ist die hoch bezahlte Berufsgruppe der Piloten. Das sind Spitzenverdiener und Leute mit einem harten Job. Wechselnde Arbeitszeiten, Nachtdienste, Klima-Wechsel usw.
    Nur hat man mir berichtet, dass der Pilot auf einem Langstreckenflugzeug von z.B. 8 Stunden nur zwei mal 5 Minuten etwas zu tun hat. Was macht man in solcher einer grausamen Situation? Saufen? Das darf man auch nicht. Also bleibt nur Spielen.
    Ich erinnere mich auch gerne an Messen, auf denen das gelangweilte Standpersonal auf allen neuen PC’s Solitär spielte – und ich gestehe hier, dass ich auch mal Solitär-süchtig war. Nicht wegen der Spielesucht, das kann jedem passieren. Sondern weil dieses Spiel wahrscheinlich erst Windows zum großen Durchbruch verholfen hat. Die gute Nachricht ist wieder:
    Computer (digitale System ) spielen nicht! Sondern konzentrieren sich auf ihre Arbeit!

Insofern sollten wir zuerst mal die Digitalisierung richtig machen, um das Leben gesünder und sicherer zu machen.

Nur – die Autos der Zukunft sollen sich jetzt mit solchen Problemen beschäftigen und sie per Programm lösen – zumindest in Gedanken einer Ethik-Kommission. Und zum BEispiel entscheiden, welchen Radfahrer sie überfahren sollen, wenn sie situativ (Gedankenexperiment!) keine andere Wahl haben als einen von beiden zu überfahren. Wir nehmen mal an: Der/die eine Radler*In ist ein Mann und trägt keinen Helm. Die andere ist eine Frau, die brav einen Helm trägt. Soll das System jetzt entscheiden, die Frau zu überfahren, weil sie – mit Helm – die besseren Überlebenschancen hat? Oder den Mann, zur Strafe weil er keinen Helm trägt? Oder aufs Geschlecht oder Alter schauen. Oder auf die soziale Verantwortung, die die beiden haben …

Ich halte das für Unsinn. So halte ich von der Dobrindt’schen Ethik-Kommission nichts. Wahrscheinlich ist sie eh nur ein kleines Mosaik-Steinchen im Wahlkampf zur nächsten Bundestags-Wahl, mit dem die große Koalition zeigen will, welche wichtige Themen sie – weltweit als einzige Administration wie wohl auch beim Datenschutz – so mutig und umsichtig angeht und so eine besonders verantwortungsvolle Position im Rahmen der Digitalisierung einnimmt. Auch wenn diese Position den Realitäten der Zeit beliebig fern ist.

Wie hat mal einer gesagt: Alle Politiker sprechen vom digitalen Wandel und werfen mit Begriffen wie block chain und big data um sich. Sie wissen aber nicht, was das ist! Wie sie auch Reformen wollen, aber keine Veränderung (Reform ist gewaltfreie Veränderung). Und Innovation wird gefordert, aber bloß keine Zerstörung. Nur: Innovation ist halt kreative Zerstörung. Ich habe immer den Verdacht, dass wenn Politiker die Geschichten von Bloggern und Blogs hören, sie heimlich an den Blockwart, der aufpasst, dass nichts passiert.

Wenn, dann würde ich mir eine Ethik-Kommision im Ministerium von Frau van der Leyen wünschen, die mal bewertet, wie ethisch vertretbar der Einsatz von Kampf-Drohnen und –Robotern zum Beispiel zum freien Töten von Menschen ist. Auch das Problem, dass im Internet wohl das Motto gilt „The winner takes it all“ und ob es sein darf, dass irgendwann mal Konzerne wie Google das Alphabet der Welt bestimmen werden könnte mal eine Ethik-Kommission beschäftigen, gerne im Wirtschafts- und Sozialministerium.

RMD

1 Kommentar zu “#Digitalisierung – Die „Ethik“ von IT und „Künstlicher Intelligenz“.”

  1. Guido Bruch (Sonntag, der 6. November 2016)

    Im Buch Silicon Germany wird die ethische Dimension diskutiert: Beispiel: Kind läuft von rechts auf die Straße. Links geht ein Rentner mit Rollator. Der Mensch würde entweder zufällig oder bewußt entscheiden, wen er umfährt, wenn er nicht mehr bremsen kann. Welche Vorgabe soll man aber einer Maschine geben? Immer das Kind schützen und somit eine Auslese betreiben(und dies bei Deutschlands Vergangenheit) oder einen Zufallsgenerator einbauen. Ich denke, hierum geht es.
    Aber sicherlich sind dies nur theoretische Fragen, da die Anzahl der potentiellen Unfälle gering sein dürfte. Vermutlich würde sich die Thematik hierdurch selber regeln. Gab es schon vergleichbare Unfälle?
    Eine andere Frage wäre, was die Autohersteller tun, wenn sie in anderen Ländern andere Auflagen bekämen? Z.B. in bestimmten Golfstaaten Einheimische schützen und zur Not Gastarbeiter überfahren.

Kommentar verfassen

*