Beim CeDoSIA Summer get together am 31. Juli 2008 durfte ich einen Vortrag zum Thema Ethik und Informatik halten. So war mein Vortrag angekündigt:
Schon in den 70iger Jahren haben systemkritische Geister der Neuzeit gewarnt, dass die Verbreitung der Computer zwangsläufig die Orwell’sche Vision wahr werden lässt. Jetzt stehen wir an der Zeitenwende vom auto-mobilen zum i-mobilen Zeitalter. IT und Informatik sind die dominanten Wirkungskräfte der Gesellschaft geworden. Unsere Zukunft wird davon abhängen, ob die Architekten des neuen Zeitalters – die Informatiker – in der Lage sind, ethisches Verhalten einzuüben.
Hier für die Zuhörer das Manuskript zu meinem Vortrag. Es ist ein wenig länglich. Einige meiner 16 Statements in diesem Vortrag werde ich als Einzelbeiträge ausführlicher in IF-Blog formulieren, so dass eine Lektüre nicht notwendig ist.
Hier geht der Vortrag los!
Als Vorgedanke ein Text von Bertrand Russel, einem britischen Philosoph, Mathematiker und Logiker:
Jeder Zuwachs an Technik bedingt,
wenn damit ein Zuwachs des menschlichen Glücks verbunden sein soll,
einen entsprechenden Zuwachs an Weisheit!
Dieses schöne Zitat habe ich bei einem Vortrag von Prof. Dr. Christoph Wamser vom Institut für Management und Technik der DGMF gehört und gebe es gerne weiter. Bertrand Russel war einer unserer Idole in den 60iger, 70iger und 80iger Jahren des letzten Jahrhunderts.
- Ethik: Ethik bedarf keiner Definition. Ethik steht für sich selbst. Jeder Mensch ist in der Lage, eine Handlung als ethisch oder “unethisch” zu bewerten. Allen Menschen ist bewusst, dass Ethik eine subjektive wie eine objektive Komponente hat. In der Anwendung wie in der Qualität gibt es sicherlich “unterschiedliche Ethiken”, aber alle Ethiken bedürfen eines gemeinsamen Nenners, wie er z.B. in der UN-Charta hinterlegt wurde. Auch über die Grenzen der Kirchen hinaus gibt es Gemeinsamkeiten wie im Biophilie-Gebot (tue keinem das an was du dir nicht selbst angetan haben willst und helfe mit, dass sich Leben in allen Dimensionen entfalten kann).
- Informatik: Der Begriff “Informatik” wurde von einer Gruppe von IT-Pionieren um Professor F. L. Bauer kreiert. Informatik ist ein schlüssiges Wort, wahrscheinlich entstanden als Akronym des Wortes Informationstechnik. Die Informatik umfasst alle Technologien, die den Austausch, die Verbreitung und die Verarbeitung von Informationen und Wissen aller Art betreffen. Die Erfindung des Buchdrucks hat die Welt total verändert und ist frühe Informatik, ebenso wie später Rundfunk und Fernsehen. Mathematische Tabellenwerke, mechanische Rechenmaschinen und der analog funktionierende Rechenstab sind technische Vorläufer der Informatik. Das mobile Zeitalter geht zur Neige. Die Informatik kompensiert die zurückgehende Mobilität. “Informatik” ersetzt “Mobilti(c)k”, das wäre ein Wortspiel, wenn die Pioniere von Auto und Eisen diesen Begriff (der Mobiltechnik) so geprägt hätten. Die Informatik wird die Sozialität der Gesellschaft in den nächsten 100 Jahre beeinflußen, wie die Verkehrstechnologie die letzten 200 Jahre geprägt hat. Wesentliche zivilisatorische Errungenschaften von ähnlicher Tragweite wie die Mobilität und die heutige Informationsvernetzung sind die Erfindung von Ackerbau und Viehzucht, die Nutzung des Feuers in geschlossenen Öfen und Motoren (Dampfmaschine), die Entdeckung der Zeit und der Bau von Zeitmessern (genannt Uhren) ein, vielleicht auch noch Teile der Medizin.
- Belege für die gesellschaftliche Relevanz der Informatik: Hier ein paar Beispiele, welchen Einfluss die Informatik und Informations-Technologien schon heute haben:
- Der unvorstellbar schnelle Aufstieg von Unternehmen der Informationstechnologie wie z.B. Google, Microsoft, Oracel, SAP, Ebay und vielen anderen
- Der Erfolg von utopischen Unternehmensprinzipien wie OpenSource am Beispiel von Linux und der LAMP-Welt oder MySQL
- Das Wirklichkeit werden von völlig neuen kollaborativen Arbeitsmodellen, die z.B. physische Anwesenheit im Projekt unnötig machen.
- Die erfolgreiche Bewältigung von IT-Projekten und Entwicklung von relevanten Software-Systemen, die deutlich komplexer sind als z.B. die Entwicklung eines klassischen PKW
- Das Entstehen neuer Methodiken für Projekte der Softwarentwicklung (Scrum), Organisation und Qualitätssicherung
- Der gesellschaftliche Wandel durch die mobile Nutzung des InternetsEin Beispiel: Früher wurde die Mehrzahl der Ehen in der Eisenbahn, heute im Netz begründet
- Der radikale strukturelle Wandel des geschäftlichen Lebens durch WEB2
- Frühe Diskussionen (I): Bei InterFace fand die erste “Ethik-Diskussion” schon wenige Jahre nach der Gründung 1984 statt. Wir hatten eine junge Mitarbeiterin, eine Doktorin der Mathematik, die heute übrigens an einer Hochschule Mathematik lehrt. Ich nenne sie mal Gabi. Gabi hatte – wie viele junge Menschen damals – eine Sympathie für alternative Lebensformen und wohnte auf einem Bauernhof im Münchner Norden in einer Art Kommune. Gabi war bei InterFace sehr schnell recht erfolgreich. Reziprok zu ihrem Erfolg bei uns im Unternehmen sank ihr Ansehen in ihrer Wohngemeinschaft. Ihre Mitbewohner waren ganz schlicht der Überzeugung, dass der Einsatz von Computern die Verwirklichung eines unmenschlichen Überwachungsstaates im Sinne der Orwell’schen Utopie über kurz und lang bewirken müsste. Und der Geschäftszweck der InterFace war schon damals die Einführung von IT-gestützten Prozessen auch z.B. bei Behörden. Und in einem solchen Unternehmen dürfe man aus ethischen Gründen nicht mitarbeiten, so der Vorwurf gegen Gabi. Gabi war ein Mensch mit idealistischen Grundmotiven, für sie war der permanente Vorwurf der Mitbewohner ein großes Problem – und so entsteht in einem mittelständischen Unternehmen mit freundschaftlichen Strukturen eine ernsthafte ethische Diskussion. Vielleicht hat Gabi zum Teil deswegen später die vielleicht ethisch nicht so bedenkliche mathematische Laufbahn an der Hochschule eingeschlagen.
- Frühe Diskussionen (II): Jahre später flammte die ethische Diskussion im Unternehmen noch heftiger auf. Bei der Entwicklung von sozialen Gesellschaften haben ja die Individuen prinzipiell der Gewalt abgeschworen und den sozialen Systemen, sprich dem Staat das Gewaltmonopol übertragen. Natürlich hat das nie komplett funktioniert, Restbestände von Gewalt blieben bei den Individuen (siehe Gewalt gegen Frauen oder Kindern in der Familie, Schlägereien am Stammtisch …), im wesentlichen war das Gewaltmonopol beim Staat ein großer Fortschritt. Jetzt waren wir mit unserem Produkt CLOU/HIT zum ganz schnellen und IT-unterstützten Generieren von Dokumenten gerade bei den Behörden vertreten, die die Kette des Gewaltmonopols bilden: Polizei – Staatsanwaltschaften – Gerichte – Vollzug – Resozialisierung. Das war einigen Kollegen nicht so ganz recht. Und wie dann die Bundeswehr als nächster Kunde für unser Produkt dazu kommen sollte, dann ging es diesen Leuten zu weit. Darf unser Produkt bei einem Militärgerecht eingesetzt werden, das Unrechtsurteile fällt (damals war die Affäre Filbinger in aller Munde)? Man würde ja auch bei keinem Unternehmen arbeiten, das Tabakwaren oder Minen herstellt.
- Die ethische Diskussion an diesem Beispiel:Vielleicht sollten wir auch heute solche Themen mehr diskutieren. Da würde sich eine für uns in Deutschland schwierige Diskussion entwickeln, immerhin stehen wir weltweit an 3. Stelle der Waffen exportierenden Nationen und allein die Verkäufe in die ärmsten Länder haben wir zuletzt vervierfacht. Aber was soll der Familienvater machen, wenn er z.B. in einer wirtschaftlich schwachen Region lebt und nur die Waffenfabrik Jobs anbietet? Man man denke nur an den Werbespot, der regelmäßig bei den Spielen der Fussball-EM lief (Tore schießen für ein neues Bein für afghanische Minenopfer) und der mich persönlich immer sehr berührt hat. Wir versuchen den Opfern zu helfen, die durch unsere Produkte zu Schaden gekommen sind!?
- “Unethische” Produkte und Ziele: Auch IT-Unternehmen können “unethische” Produkte herstellen. Man denke nur an Software zur Ausspähung oder Kontrolle. Man denke an den RFID-Chip im Blaumann oder an mobile Endgeräte mit NFC (near field connection)! Die Orwell’sche Vision zwingt uns, hier sehr vorsichtig zu sein. Interessant ist auch die aktuelle Diskussion, die entstanden ist, weil Google systematisch drei deutsche Städte filmte. Auf der anderen Seite gibt es die Besorgnis, dass IT-Unternehmen sich aufgrund der Besonderheit des Gutes Software ein Weltmonopol schaffen oder sich besonderes Weltwissen exklusiv aneignen könnten (Microsoft, Google). Auch Ausnahme-Unternehmen der alten Branchen hatten es da schwieriger. CocaCola hat immer PepsiCola und viele kleine Getränkehersteller als Mitwettbewerber. Bei Intel gibt es AMD und weitere Konkurrenten, z.B. Hersteller von Graphikprozessoren. Aber wo stände Microsoft ohne die Konkurrenz der Open-Source-Community?
- Ethik im Unternehmen: Es ist sicher hilfreich, wenn es einem ethischen Unternehmen gelingt, Kundennutzen und sozialen Nutzen zu vereinen. Produkte können einem Unternehmen zu einer Sinngebung verhelfen. Die Berechtigung für die Existenz des Unternehmens ist einfach darstellbar, wenn die Produkte des Unternehmens dem Gemeinwohl dienen. Unternehmen ohne Sinngebung sind jungen und kritischen Mitarbeitern schwer zu vermitteln. Ethik darf nicht nur betrachen, welchen Zweck und welches Ziel ein Unternehmen hat. Ob ein Unternehmen “ethisch funktioniert”, hängt davon ab, wie das Unternehmen “sozial” tickt. Und das ist ein mehrdimensionales Thema. Selbst ein Unternehmen, das so verabscheuungswürdige Produkte wie Minen herstellt, kann als Unternehmen ethisch funktionieren, auch wenn ich mir dies kaum vorstellen kann.
- Ethik und Manager: Manager vergessen oft, dass Unternehmen soziale Systeme sind. Sie sind vom Wesen her näher biologischen Wesen als determiniert funktionierenden Maschinen. Wie gehen die Menschen im Unternehmen mit einander um? Sind die Chefs Systemagenten, deren Selbstverständnis darin besteht, festgelegte Prozesse durchzusetzen und vorgegebene Wachstums- und Ergebnisziele zu erreichen? Werden Mitarbeiter ausschließlich als Mittel zum Zweck gesehen? Sind sie als Ergebnis der Industrialisierung der Arbeitswelt nur noch ein n-Tupel (Vektor) mit technischen Fähigkeiten, das mit einer Leistungs-Ampel versehen ist (Rot bedeutet unterperformant, Orange meint geht so und Grün steht für “den Überperformaner”). Und geht es nur noch darum, den richtigen “Skill” zum richtigen Zeitpunkt an den richtigen Ort zu bringen? Ist das mit Menschenwürde zu vereinbaren? Und schafft es das mittlere Management (seit Sommer 2008 auch als Lehmschicht bezeichnet), das Unternehmen geistig mobil zu halten? Ein funktionaler Führungsstil wird das fachliche und soziale Leben im Unternehmen reduzieren. Gerade bei Informatik-Unternehmen wird dies langfristig zum Schaden auch des Unternehmens sein.Oder sind die Chefs Führungskräfte, die sehr wohl wissen, dass Menschen sehr komplexe Wesen sind, die über ganz differenzierte Werte, Erwartungen, Interessen und Bedürfnisse (Eselsbrücke WEIB) verfügen? Sehen sie sich als Multiplikatoren, deren Aufgabe es ist, fachliches und soziales Leben im Unternehmen zu mehren? Kreativität Können sie zuhören, sind sie im Denken “alterozentriert”? Verstehen sie den Unterschied zwischen einer Gruppe und einem Team. Sind sie in der Lage zu verstehen, dass “richtig” eingesetzte Mitarbeiter zu enormen Wertbeiträgen in der Lage sind. Ist ihnen klar, dass der Begriff “Leistung” kaum zu definieren und “Benchmarking” nur eine sehr trügerische Sicherheit gibt? Wie gehen die Vertreter des Systems mit Partnern, Lieferanten und Kunden um?
- Ethisches Handeln: Ethische Theorien entwickeln und dann mit angelernter Technik in die Praxis umsetzen – das geht nicht. Wir müssen ethisches Handeln im Alltag einüben. Als Voraussetzung müssen wir alte Fähigkeiten neu entwickeln: Die Kunst des Zuhören muss entfaltet werden. Wir müssen wieder lernen, unsere Umgebung achtsam zu beobachten. Und wenn wir als Manager täglich bewusst ethisch handeln, dann entwickelt sich auch die notwendige Sinngebung eines Unternehmens parallel mit dem sonstigen Erfolg. Wahrscheinlich stellen so geführte Unternehmungen Produkte her, die den Kunden einen echten Nutzen bringen.
- Vision: Teams arbeiten an Aufgaben. Ihr Gegner ist das zu lösende Problem, nicht die Menschen im Projekt. Sie konzentrieren sich auf die Herausforderungen der Aufgabe und wollen das Ziel erreichen. Systemische und bürokratische Hindernisse werden schnell aus dem Wege geräumt. Sinnvolle Regeln werden aus Einsicht eingehalten. Die Mitarbeiter wählen die Aufgaben, die sie übernehmen selber aus und stimmen sie im Team ab. – Jeder macht das, was er am besten kann. – Weiterbildung folgt dem eigenen Interesse.– Motivation ist intrinsisch begründet.– Alle Entwickler sind gleichzeitig Nutzer.– Der Kundennutzen wird selbst erlebt.– Die Organisationen ist einfach und klar.– Die Projektarbeit folgt eindeutigen Regeln.– Die Ziele sind transparent.– Der Erfolg der Arbeit wird fair geteilt.
- Vertrauenskultur: Können wir nicht in unseren Projekten fachlich präsent und leistungsstark sein, dies auch ohne persönliche Anwesenheit? Jeder im Team arbeitet im gemeinsamen Vertrauen, dass alle Teammitglieder ihre Aufgaben genauso motiviert und zuverlässig erfüllen. Täglich wird neues Vertrauen aufgebaut, es entwickelt sich eine Vertrauenskultur. Diese Vertrauenskultur ist in vielen OpenSource-Projekten vorhanden, sie hat den Erfolg dieser Entwicklungsgemeinschaften begründet. In der OpenSource-Welt ist die oben beschriebene Vision Realität geworden. Die aktuell sehr beliebte Methode “SCRUM” lebt auch von Vertrauenskultur. Und der RFID-Chip im Blaumann ist es nicht …
- NGO’s: Neue Kräfte werden in Politik und Gesellschaft wirksam. NGO’s (non governement organisation) wie Greenpeace, AI, Attac … spielen immer wichtigere Rollen in Gesellschaft und Politik. In Entwicklungsländern bringen sie oft mehr konkrete Hilfe für die Menschen als die nationalen Regierungen, ihr Ansehen ist dementsprechend höher. Um erfolgreich zu sein, müssen sie Abstand zu Politik und Wirtschaft halten. Die großen OpenSource-Produkte waren oder sind NGO-ähnlich. Wie würden wir die Welt ohne die großen OpenSource-Initiativen heute dastehen? Vielleicht werden Vereine wie der CCC (Chaos Computer Club) die nächsten wichtigen NGO’s des Informatik-Zeitalters.
- Zeitenwende: Sind wir fähig, aus den Fehlern der Vergangenheit zu lernen? Die Einführung des Automobils hat verheerende Schäden angerichtet. Noch nie zuvor ist für eine Technologie soviel Umwelt geopfert worden. Der Blutzoll war und ist hoch. Allein in Deutschland sterben immer noch jedes Jahr mehr als 5000 Menschen durch die “automobile” Gesellschaft. Das sind mehr Verluste als die deutsche Wehrmacht im 1. Jahr des 2. Weltkriegs hatte. Die Amerikanische Streitmacht im Irak hatte in den 5 Jahren vom Beginn des Krieges bis zum Juli 2008 “nur” einen Blutzoll von 4000 Menschen zu beklagen. Vor einem Jahrzehnt waren sogar 10.000 automobile Opfer und mehr pro Jahr in Deutschland. Hätte man da nicht als verantwortlicher Entwickler früher Weichen stellen können oder gar müssen? Wie schaffen wir es als Informatiker, durch kluges Mitdenken und ethisches Handeln, andere aber wahrscheinlich ähnlich gravierende Fehlentwicklungen zu vermeiden? Meine Sorge gilt hier nicht nur den “virtuellen gated communities”.
- “gated communitiy”: Das ist ein ursprünglich positiv besetzter Begriff aus den USA: Eine (bessere) Wohngegend wird eingezäunt, Zugang und Zufahrt zentralisiert und kontrolliert. Als erwünschte Folge lebt es sich innerhalb der Zäune sicherer. Das ist sicher notwendig in einem Land, in dem jeder Schusswaffen besitzen darf und dies zu mehr als 30.000 Toten im Jahr führt. Aber ist das die Gesellschaft die wir uns wünschen? Ich bin ein Gegner von “eingezäunten Gesellschaften”. Schon als Kind wird – zu unserem Besten – unsere Freiheit im Kindergarten begrenzt. Schulen sollen eingezäunt und kontrolliert werden, die Hochschule der Bundeswehr ist es schon. Auch die Townships in Südafrika und Westberlin waren “gated communities”, wenn das für manche auch vorteilhaft war, so war das sicher kein schöner Zustand. Wie ich zur Siemens AG kam, war ich in der Hofmannstraße, einer eindeutig “gated community”. Neuperlach war Vision und Hoffnung: Hier sollte ein Forschungspark nach amerikanischen Muster entstehen, ohne Zäune aber mit integrierten Kindergärten, Geschäften, Cafés und Restaurants. Leider hat sich schon damals die Angst vor dem Terror durchgesetzt. Auslöser war wahrscheinlich der Mord am Forschungsleiter der Siemens AG, Kurt Beckurtz. Und so entstand eine weitere “gated community” – wie ich meine zu unser aller Schaden. In der neuen IT-Welt werden wir von virtuellen “gated communities” bedroht. Totalitäre Staaten kontrollieren ihre Bürger bei der Nutzung des Internets und schränken diesen systemgerecht ein. Private Unternehmen bauen technologische Zäune in ihre Software ein um Konkurrenten auszugrenzen. Andere entwickeln Wissens-Monopole. Staatliche Organisationen von demokratischen Staate sind bereit zur elektronischen Ausspähung, fördern sogar anonyme Anzeigen über das Internet (Denunziation), schaffen den transparenten Bürger und erzeugen Zäune der Angst und des Misstrauens. Unternehmen meinen, Sicherheitsmaßnahmen bis zum IT-Overkill ausbauen zu müssen, Privatleute sperren aus Angst vor dem Missbrauch durch Hacker ihr WLAN ab. Unser Denken wird von paranoiden Ängsten beherrscht, wir vergessen die realen Risiken, denen wir ganz normal als natürliche biologische Menschen und zusätzlich als Teil einer kompliziert kultivierten Zivilisation ausgesetzt sind. Wir Informatiker haben wirklich eine große Aufgabe vor uns und sind fürwahr verpflichtet uns in Ethik zu üben!
- Appell: Im Bayerischen Rundfunk gibt es eine Sendung “Musik und Politik”. Musiker spielen Jazz für die Demokratie. Ich wünsche mir Informatiker für Demokratie. Musiker sind Künstler, sie handeln mit Emotionen. Musiker sind sehr oft freie “Menschen”. Ihnen gelingt es – vielleicht auch aus Not – sehr oft, ihr Leben in Eigenverantwortung zu führen. Ich wünsche mir Ingenieure für Demokratie. Die Freiheit ist ein hohes Gut – sie ist die Basis für ethisches Handeln. Informatiker sind die Ingenieure der Welt von morgen. Und ich wünsche mir keine Informatiker, die glücklich aber unfrei sind, denn “The greatest enemy of freedom are happy slaves”. Also seien Sie alle frei-denkende Menschen und keine glücklichen Sklaven!
RMD
Wird geladen ...
Eine Antwort
Ethics & Informatics
Computer scientists have little effect on the use of computers. It is the ethics of all people that matters. Politicians are particularly important. Democratic politicians are generally better than the others. But all politicians behave worse towards foreigners. This is sometimes justified, since otherwise the more ethical countries would lose out. But I find it sad that so many normal people are happy about this. Although Germany is better than most countries, I guess I am sensitized to this through living outside England. Arms exports from developed countries greatly exceed development aid. Asylum seekers are sent back to misery. Dozens of „collateral“ deaths seem less important than one „own“ dead soldier.
The computer is a rather neutral tool. One cannot hope that Chinese technicians will refuse to implement internet censoring. There was a slight chance that Google would refuse to cooperate, but this was decided by businessmen, (some of whom were admittedly originally computer scientists). In areas such as child-pornography computer scientists have even less influence.
All growth in technology, if it is to increase human happiness, requires a corresponding increase in wisdom!
I too like Bertrand Russell, but cannot agree with this quotation.
(This version was doubly translated; can someone find the original)?
For instance the advent of bicycles reduced the number of handicapped (especially mentally handicapped) in villages. The young men could get to another village after work, so inbreeding was greatly reduced. I do not see that wisdom was needed. Riding a bike requires skill, but not wisdom, and there is a natural tendency to avoid inbreeding.
Do washing machines and safety razors require wisdom?
Russell was probably emphasizing the need for care with nuclear reactions, and also referring to the industrial revolution. The latter was belatedly bringing a general increase in wellbeing, at least in developed countries, when he was young.
„We can all judge whether an action is ethical or unethical“.
This is very dubious. Who are „we“? The sentence hints that „we“ have a common opinion about ethics, which is nonsense. No two people really agree, and different religions have very different opinions. The UN charter is not a common denominator; I doubt whether half the people in the world agree with it. There is a common element in Churches, but it does not include general biophilie. It concentrates on people.
I find it strange that the discovery of time is regarded as important, but not the discovery of space. Also medicine is naturally very important; it has increased the problem of the population explosion.
After this niggling criticism, I want to express my admiration for the energy and vision that Roland brings to postings about current German ethical and management problems. I hope that plenty of people will take his words to heart.
For a universal long-term view of ethics see
https://www.if-blog.de/en/cw/ethik-nach-dem-humanismus/#more-215