Wie lässt sich die Handreichung anwenden?

1 University of Bamberg Press Düchs, Martin ; Illies, Christian ; Sakata, Tomoki Wie lässt sich die Handreichung anwenden? In: Düchs, Martin; Illies, Christian; Sakata, Tomoki (Hrsg.), Smart in the City•: eine ethische Handreichung für die Digitalisierung der Stadt, Bamberg : University of Bamberg Press, S. 141-153. 2023. DOI: 10.20378/irb-93383 Beitrag im Sammelwerk - Verlagsversion DOI des Beitrags: 10.20378/irb-94758 Datum der Veröffentlichung: 18.04.2024 Rechtehinweis: Dieses Werk ist durch das Urheberrecht und/oder die Angabe einer Lizenz geschützt. Es steht Ihnen frei, dieses Werk auf jede Art und Weise zu nutzen, die durch die für Sie geltende Gesetzgebung zum Urheberrecht und/oder durch die Lizenz erlaubt ist. Für andere Verwendungszwecke müssen Sie die Erlaubnis der Rechteinhaberinnen und Rechteinhaber einholen. Für dieses Dokument gilt die Creative-Commons-Lizenz CC BY. Die Lizenzinformationen sind online verfügbar: https://creativecommons.org/licenses/by/4.0/ Kapitel 9. Wie lässt sich die Handreichung anwenden? Martin Düchs 0000-0003-4333-2438, Christian Illies G 0000-0002-1344-8301 und Tomoki Sakata 0000-0002-1850-7809 Wer nicht weiter weiß, bittet den Arzt, den Automechaniker, den Computerspezialisten oder den Psychotherapeuten um Hilfe, je nachdem, welcher Art die Probleme sind. Wen aber fragen wir, wenn wir bei moralischen Fragen nicht weiter wissen? Wen fragen wir, wenn wir eine argumentativ gesicherte Antwort auf unsere Frage nach dem moralisch Richtigen suchen? Hier bietet sich der Gang zum Seelsorger, Ethiker, Paarberater oder Psychotherapeuten an. Aber aus mehreren Gründen ist es nicht ganz so einfach, ethisches Expertenwissen zu finden. So ist es bereits kompliziert genug, die moralischen Probleme genau zu identifizieren oder zu beschreiben, manchmal auch zu erkennen, ob es überhaupt welche gibt. Zudem scheint fast jeder trotz der Komplexität der Sache eine eigene Meinung zu haben und viele sind – gefragt oder ungefragt – gerne bereit, uns ihre zu sagen, also was wir tun können oder sollen oder was auf keinen Fall getan werden darf. Auf Übereinstimmung dürfen wir dabei allerdings nicht zwingend hoffen, wie gerade die moralischen Diskussionen im politischen Bereich zeigen. Kurzum: Bei moralischen Fragen ist die Lage kompliziert. Um dennoch praktisch weiterzukommen, gibt es in der Tradition aller Kulturen Zusammenstellungen der moralischen Grundeinsichten und Weisheiten, seien es Gebotslisten (wie die 10 Gebote), ausführliche Regelwerke (wie der Talmud) oder Weisheitsbücher (wie die Lehren des Konfuzius). Sie stellen das kondensierte Wissen oder wenigstens die zusammengefassten Erfahrungen einer Tradition dar oder beanspruchen göttliche Gebote zu sein und dienen so als geteilte Grundlage für moralische Entscheidungen. Oft erheben sie den Anspruch, für alle Menschen zu gelten bzw. universal verpflichtend zu sein. Von Epiktet, einem stoischen Philosophen der römischen Kaiserzeit, ist beispielsweise ein „ethisches Handbüchlein“ überliefert (ἐγχειρίδιον, wörtlich „etwas (kleines), das man in der Hand hält“). In diesem geht er Martin Düchs, Christian Illies und Tomoki Sakata davon aus, dass die Philosophie vor allem allgemeine Prinzipien im Zentrum hat, auf die sie ihre Analysen und Explikationen praktischer Handlungen, aber vor allem deren Ausführung stützt bzw. stützen sollte (Epiktet 1865, S. 388f.).54 So rät Epiktet, sich auf die Dinge zu konzentrieren, die man kontrollieren könne, das Unveränderliche aber zu akzeptieren; oder, nicht auf äußerliche Dinge stolz zu sein, sich zurückzuhalten und nicht zu lügen. Auch betont er, dass man nicht voreilig über andere urteilen solle und ihnen möglichst keine Vorwürfe mache. Vor allem ist nach Epiktet das richtige Handeln wichtiger als das Reden und Urteilen über das Gute. Diese Einsicht finden wir bei ihm in vielen Variationen: Die Verwirklichung des Guten ist das Ziel des ethischen Nachdenkens; es kommt immer auf die Praxis an, um derer willen wir über Grundsätze philosophieren und diskutieren. Es geht nicht um ein Nachdenken um des Nachdenkens willen. Zum anderen stellt sich hier bereits die Forderung nach einer Ethik der Ethik55, welche sich damit befasst, inwiefern man moralische Gebote auf moralische Weise umsetzen kann. Eine Ethik soll sich selbst treu sein, könnte man auch sagen; die Implementierung ethischer Prinzipien muss ihrerseits im Einklang mit den zur Orientierung angebotenen Prinzipien stehen. So ist es in diesem Sinne unethisch, Menschen mit Peitschenhieben zu zwingen. Von Epiktets Handbüchlein lassen sich drei grundsätzliche Forderungen an jede moralische Handreichung lernen: Sie stellen die ethischen Orientierungen in einen (möglichst wohl begründeten) Gesamtzusammenhang, sie müssen auf die Praxis, die Umsetzung zielen, und sie sollten, drittens, als Handreichung selbst den Forderungen einer Ethik der Ethik entsprechen (auch wenn Epiktet es noch nicht so nennt). Die Handreichung muss also selbst die moralischen Ratschläge beherzigen, die sie anderen als Orientierung empfiehlt. Der letzte Punkt mag 54 Epiktet greift das Prinzip vom Nicht-lügen auf and führt ein Gegenbeispiel an, dass wir trotzdem lügen, obwohl wir uns bereitwillig demonstrieren, dass wir nicht lügen dürfen. Das Prinzip wird zwar intensiv angesprochen, aber in diesem Prozess gar nicht praktiziert. Dies zeigt deutlich, dass der Gebrauch des Prinzips das Ziel sein soll, auf den der Diskurs ausgerichtet ist. 55 Zu dem Konzept einer „Ethik der Ethik“, siehe Hösle 1999, S. 116-125. 142 Kapitel 9. Wie lässt sich die Handreichung anwenden? bei einem Buch trivial erscheinen, da Bücher allgemein sehr freundliche und umgängliche Gesprächspartner sind, die niemanden zwingen, sie zu öffnen und sich auf sie einzulassen. Die dritte Forderung wird aber dort brisant, wo wir moralische Regeln nicht nur gedruckt auf den Tisch legen, sondern etwa durch Erziehung oder technische Mittel wie eine KI gestützte App verbreiten. Denn gerade bei technischen Hilfsmitteln lassen sich zur Steigerung der Wirkung sehr wohl Tricks, undurchschaubare Manipulationen oder Verschleierungsstrategien einsetzen, die von einer Ethik der Ethik verurteilt würden. So alt Epiktets Handbüchlein ist, sein Anliegen ist also keineswegs verstaubt. Auch unsere Handreichung, die sie als Buch oder auf dem Bildschirm sehen, setzt sich als Ziel, Orientierungen in einem systematischen Zusammenhang zu geben (in Form des Grundprinzips und der Bereichswerte), um umgesetzt zu werden – und das in einer Weise, die der genannten Ethik der Ethik genügt. Diese Anwendung lässt sich perspektivisch in drei aufeinander aufbauende Schritte unterteilen: 1. Unmittelbarer Ausblick: Die Handreichung als Reflexionshilfe Das erste, naheliegende Ziel dieser Handreichung ist, ein brauchbares Modell für eine Ethik der Smart City zur Verfügung zu stellen, also moralisch relevante Gesichtspunkte und Orientierungen anzubieten. Unser Büchlein soll den Betroffenen wie auch allgemein jedem Leser und jeder Leserin damit ein besseres Nachdenken und die Beantwortung von ethischen Fragen und Problemen rund um Smart Cities ermöglichen. Das hier vorgeschlagene Konzept des Guten ist einerseits universal und insofern unveränderlich und überzeitlich, da die Menschenwürde mit guten Gründen als notwendige Grundlage jedes Nachdenkens über das Gute betrachtet werden kann.56 Und auch ganz praktisch ist die Menschenwürde die Basis jedes verwirklichten Guten: Kein Mensch kann gut leben, aber auch keine Gemeinschaft in ethischer Weise zusammenleben und ihren Lebensbereiche (wie Städte) organisieren, 56 Siehe etwa Gewirth 1978 oder Illies 2003. 143 Martin Düchs, Christian Illies und Tomoki Sakata wenn die Menschenwürde nicht beachtet wird. Andererseits gibt es jedoch eine Vielfalt der Möglichkeiten, wie diese universale Grundforderung zum Ausdruck gebracht und verwirklicht werden kann. Jeder ethischen Betrachtung liegt ein bestimmtes System oder eine Grammatik zugrunde, welche das Gute oder die Würde und ihre Verwirklichungsbedingungen ausformuliert. So hat z. B. Aristoteles verschiedene Tugenden wie Gerechtigkeit, Tapferkeit, Freundschaft usw. definiert und beschrieben, deren Ausbildung die Voraussetzung eines guten Menschen sind, der wiederum die Voraussetzung der tätigen Achtung der Würde anderer ist (es braucht etwa die Tugend der Gerechtigkeit für ein rücksichtsvolles Zusammenleben). Denn ethische Theorien erzeugen nicht, mindestens nicht unmittelbar, gute Menschen, sondern sind idealerweise Aufforderungen, darauf hinzuarbeiten, indem sie uns helfen, die Merkmale eines guten Menschen zu artikulieren und darüber ein klares Verständnis zu erreichen. Auch das Postulat der Menschenrechte lässt sich als eine dieser ethischen Sprachen verstehen, mit der sich die Forderung nach der Achtung der Menschenwürde in konkrete Orientierungen übersetzt, hier vor allem in Rechte, die dem Einzelnen zugestanden werden müssen. Wie Habermas in einem Aufsatz betont: Ich möchte zeigen, dass veränderte historische Umstände nur etwas thematisiert und zu Bewusstsein gebracht haben, was den Menschenrechten implizit von Anbeginn eingeschrieben war – nämlich jene normative Substanz der gleichen Menschenwürde eines jeden, die die Menschenrechte gewissermaßen ausbuchstabieren. (2010, S. 345) In gleicher Weise ist Ziel unserer Konzeption der Smart City Ethik, der Würde des Menschen als Grundprinzip samt ihrer Bereichswerte eine feste Struktur (im Sinne von notwendigen Verwirklichungsumständen) zu geben und dadurch sowohl ihr Gesamtbild, als auch ihre Teile in deren komplexen Zusammenhang sichtbar zu machen. Und natürlich auch mögliche Gefährdungen der Menschenwürde: Unsere Handreichung (sowie eine darauf aufbauende zukünftige App) dient idealerweise dazu, blinde Flecken im Planungsprozess von Smart-CityProjekten aufzudecken und diese bei der Umsetzung zu vermeiden, damit ein Projekt ethisch robust wird. 144 Kapitel 9. Wie lässt sich die Handreichung anwenden? Die Handreichung nimmt so die analoge Rolle eines Reiseratgebers ein. Während letzterer Touristen erklärt, warum ein Gebäude sehenswert, eine Aktivität erstrebenswert oder insbesondere unter kulturellem Gesichtspunkt beachtenswert ist,57 Ist es das Ziel unserer ethischen Handreichung, Bewohner und Planer einer Smart City zu ethischen Erkundungen anzuregen. Die Handreichung soll sensibilisieren, Denkanstöße geben und Betroffene dazu auffordern, sich über unterschiedliche Problemfelder und Regeln bewusst zu werden. Dadurch sollen diese Problemfelder in der Praxis näher betrachtet werden, damit sie schnell als solche identifiziert und umgehend gehandhabt werden können. Denn wie schon Epiktet betont hat, muss jedes ethische Nachdenken letztlich auf eine Verwirklichung des Guten zielen. Die sichere Strukturierung und ausführliche Orientierung der ethischen Reflexion konstituieren zwei Säulen unseres Projekts. 57 Zu vermerken ist aber, dass jede ethische Handreichung in zweierlei Hinsichten qualitativ anders gestaltet ist als ein Reiseführer, etwa der Baedeker. Das liegt am besonderen Charakter der Ethik. Erstens ist die Ethik immer zugleich eine energische Handlungsaufforderung; jedes Bewusstsein eines Wertes impliziert, dass er unbedingt zu beachten ist. Der Baedecker lässt uns frei, ob wir ein Bauwerk besichtigen wollen, selbst wenn er ihm noch so viele Sterne gibt oder es als „must see“ bezeichnet; eine ethische Handreichung fordert die Verwirklichung. Zweitens liest sich ein ethisches System anders, denn es setzt letztlich eine Art ethischer Einfühlung und Bereitschaft voraus, etwa die Smart City mit moralischer Sensibilität zu betrachten. Und diese Sensibilität muss sich durchaus bewusst sein, dass sie auch einem historischen Wandel und Entwicklung unterliegt. So war der universale Charakter der Menschenwürde für Aristoteles noch keineswegs offensichtlich, während wir ihn als absolute Selbstverständlichkeit begreifen. Rudolf Steiner (1984, S. 260f) macht hier eine interessante Beobachtung: „Goethe war nicht ohne weiteres davon überzeugt, daß er so die Griechen nachfühlen kann wie heute einer, der mit dem Baedeker reist und die griechischen Kunstwerke anschaut oder in ein Museum geht und die griechischen Kunstwerke anschaut und glaubt, ohne weitere Einstellung dieses Griechentum auch zu verstehen. [...] Und hat man sich wirklich auf griechische Kunst oder auf griechische Philosophie eingestellt, sich durch seinen ganzen Menschen eingestellt, und kann die innere Einstellung dann prüfen, da merkt man, daß man ja bei dieser anderen Einstellung eine Farbe ganz anders sieht oder Wärme ganz anders empfindet, als heute der Mensch Farbe sieht oder Wärme empfindet. Solche an das Seelenleben gebundenen Experimente liebt nur der moderne Mensch nicht.“ 145 Martin Düchs, Christian Illies und Tomoki Sakata 2. Mittelfristiger Ausblick: Bürgerdialoge Als zweites geht es darum, dass diese Handreichung mittelfristig Bürgerdialoge unterstützt, diese ordnet, belebt und vielleicht sogar neue initiiert. Der Begriff „Bürgerdialoge“ ist bewusst weit gefasst, weil das gemeinsame Suchen nach einer ethischen Ausgestaltung der Smart City viele Formen des Austausches annehmen kann. Aber dass die ethische Betrachtung der Smart City ein Gemeinschaftswerk sein muss, dürfte nicht überraschen. Denn sowohl die Identifikation von ethischen Problemen in der Smart City wie die Suche nach Lösungsmöglichkeiten und die gestalterische Umsetzung der besten Lösungen ist eigentlich nur als Gemeinschaftsbemühen denkbar. Daran kann uns schon Sokrates erinnern, der Gründungsvater der abendländischen Philosophie, weil er in seinen überlieferten Schriften zeigt, wie Gespräche zu Einsichten führen. Für die Smart City heißt das ganz konkret: Es braucht die Einsichten und Aufmerksamkeit von vielen Menschen, weil nur so die vielen Details durchdacht werden können und weil auch nur so der erforderliche Sachverstand und Erfahrungsberichte in zahlreichen Bereichen umfassend genug ist, um Herausforderungen für die unterschiedlichsten Betroffenen identifizieren zu können. Wie bereits ausführlich dargestellt, sind die Bereichswerte zwar allgemeingültig als Ideale, müssen aber zugleich in den konkreten Situationen des gelebten Lebens angewendet werden, wie auch des antizipierten Lebens, um möglichen Schwierigkeiten vorausschauend begegnen zu können. All das erfordert die vielen Augen der vielen Betroffenen mit ihren oft sehr unterschiedlichen Perspektiven – Kinder und Alte, Behinderte, junge Familien, Stadtverwaltung, Busfahrer, Fußgänger oder Jogger. Deswegen scheinen Gesprächsforen unterschiedlicher Art, Bürgerbefragungen und alle möglichen Weisen der Beteiligung der sehr unterschiedlichen Betroffenen unabdingbar. Die Struktur und Orientierung, die wir mit dieser Handreichung für die individuelle Reflexion über Smart Cities unmittelbar anbieten, können dabei die Ausgangspunkte sein, die ein Fragen und Suchen systematisch leiten können. Aber Denkanstöße sind zugleich Anstöße zu Kommunikation, weil diese Aspekte zwei Seiten einer Medaille sind. Bürgerdialoge sind nicht nur wichtig, um mit vielen Augen auf die neue 146 Kapitel 9. Wie lässt sich die Handreichung anwenden? Stadt zu schauen, sondern auch, weil Rede und Widerrede, das offene, aber auch kontroverse Gespräch helfen können, Einseitigkeiten, Kurzsichtigkeit oder Parteilichkeit bei der Identifikation ethischer Probleme oder bei Lösungsvorschlägen zu überwinden. Hannah Arendt sah im inneren Gespräch die Keimzelle jeder Ethik, weil ein moralisches Bewusstsein gerade damit beginne, sein eigenes Wollen, seine Interessen und Handlungen nicht für allzu selbstverständlich zu nehmen, die eigenen Gedanken und Überzeugungen sich bewusst zu machen und zu reflektieren. Erst so könnten wir überhaupt zu wirklichen moralischen Einsichten und Sensibilitäten gelangen und uns frei machen vom bloßen Folgen des Üblichen und dem unbedachten, oft blinden Akzeptieren dessen, was gerade geschieht. Moralische Verantwortung braucht zweifellos diese innere Distanz. Der tatsächliche Dialog mit den anderen Menschen, etwa in der Smart City, steigert diese Möglichkeit der Selbstdistanz und Verantwortung noch: Er öffnet das Bewusstsein für ganz andere Standpunkte, Bedürfnisse, aber auch Gefährdungen und Nöte, die eine moralische Antwort erfordern. (Allerdings, selbst wenn es offensichtlich erscheint, haben solche Dialoge auch Grenzen, weswegen sie klug geführt und organisiert werden müssen. Manchmal werden sie derart missbraucht, dass Lösungen absichtlich verschwiegen oder auch gekapert werden von Teilnehmern, die vor allem sich gerne reden hören.) Dazu kommt schließlich, dass die Umsetzung keine Leistung eines Individuums sein kann. Spätestens auf dieser ganz praktischen Ebene wird deutlich, wie sehr gerade die Ethik der Smart City darauf angewiesen ist, auf vielen Schultern zu ruhen. Sie kann nicht auf den Handlungszusammenhang eines Individuums reduziert werden, sondern gelingt nur als ein gemeinsames Bemühen und muss deswegen in die zwischenmenschliche Handlungssphäre eingebettet werden. 3. Langfristiger Ausblick: Mensch-Maschine-Interaktionen (MMI) und das Vertrauen Die Handreichung bietet eine Struktur und Orientierung beim ethischen Denken, sei es individuell oder darauf aufbauend bei interpersonalen Bürgerdialogen. Und sie erstrebt sowohl in ihrem Inhalt, als auch in ihrer Umsetzung ein gelingendes Zusammenleben. So wie es in der 147 Martin Düchs, Christian Illies und Tomoki Sakata Einleitung (Kap. 1) am Beispiel von Torontos „Sidewalk-Labs“ illustriert wurde, ist die „Partizipation“ der Bürger an Planungsgesprächen der Eckstein für den Erfolg eines Projekts. Rein selbstbezogene, an eigenem Profit orientierte Entscheidungen der Ingenieure zerstören die „Solidarität“ einer Stadtgemeinschaft, ebenso wie überzogene Erwartungen der Bürger, die Stadt habe ausschließlich ihren persönlichen Bedürfnissen zu dienen. Nicht die abweisende „Privatheit“, sondern die vertrauensstiftende „Transparenz“ ist essenziell für das harmonische Gemeinschaftsleben. Das besondere Merkmal der Smart City als technisches Phänomen ist nun, dass in ihr die Beziehungen zwischen Menschen und Maschinen intensiviert werden. Langfristig werden immer mehr Vollzüge in dieser Stadt von Maschinen übernommen, automatisiert und damit der unmittelbaren menschlichen Entscheidung und Kontrolle entzogen. Was bedeutet das für eine Ethik der Smart City in langfristiger Sicht? Welche Rolle dabei die Künstliche Intelligenz spielen wird, gehört zu den Herausforderungen der Gegenwart. Schon heute werden zahlreiche Abläufe sehr erfolgreich mit KI gesteuert, vom selbstbestellenden Kühlschrank bis hin zu autonom fahrenden Autos. Derartige MenschMaschine-Interaktion (MMI) werden bereits in der Fachliteratur kritisch thematisiert und als Teil des strategischen Handelns verstanden.58 Dass die KI dabei moralische Regeln beachten sollte, ist bereits ein Thema der angewandten Ethik. Aber kaum bedacht wird bisher, welche Rolle die KI bei den ethischen Reflexionen selbst einnehmen könnte. Kann die KI dem Einzelnen helfen und kann sie auch bei den Bürgerdialogen und anderen interpersonalen Geschehen eine konstruktive Rolle spielen? Und was würde das für die hier entwickelte Ethik bedeuten? Da wir von einer allgemeinen Ethik der Menschenwürde ausgehen, ist deren Geltung durch neue Techniken natürlich nicht in Frage gestellt. Auch die genannten Bereichswerte dürften weiterhin beanspruchen, 58 Münchow 2021, S. 77: „Im Sinne Habermas’ könnte die MMI als kommunikatives Handeln angesehen werden, wobei durchaus Charakteristiken strategischen, erfolgsorientierten Handelns festgestellt werden könnten. Eine strikte Einordnung der MMI in die Lebenswelt oder Systeme nach Habermas erscheint schwierig und je nach Kontext und Gefüge der MMI unscharf.“ 148 Kapitel 9. Wie lässt sich die Handreichung anwenden? Orientierung geben zu können. Dennoch ist ein Aspekt hier von zunehmender Bedeutung: Je intensiver das Leben der Menschen wie auch die Vision eines guten Lebens von technischen Artefakten bestimmt wird, einen desto bedeutenderen Stellenwert müssen wir den MenschMaschinen-Interaktionen zusprechen. Und entsprechend wird die Forderung nach einer vertrauenswürdigen Technik immer wichtiger wie auch die Bedeutung des Vertrauens der Nutzer im Umgang. Wir finden hier eine sich bedingende Abhängigkeit: Vertrauen in MMI wird allerdings nur dort aufkommen können, wo grundsätzlich gewährleistet ist, dass Artefakte vertrauenswürdig arbeiten. Und eine jede solche Gewährleitung wird ihrerseits nur möglich sein, wo die technischen Geräte moralischen Forderungen genügen. Das langfristig sicherzustellen, ist eine große und fortwährende Aufgabe. Dabei lassen sich zwei Typen von Technikverständnissen unterscheiden, bei denen entsprechend andere Bereichswerte im Vordergrund stehen werden. Entweder man geht davon aus, dass in jedem Fall die technischen Artefakte bis hin zur KI rein instrumentell zu betrachten sind (i) oder man sieht die Interaktionen mit den Artefakten eher als eine Art Austausch (ii).59 Entsprechend würden auch unterschiedliche Bereichswerte langfristig eine größere Bedeutung bekommen. Schauen wir auf die zwei Technikverständnisse etwas näher:60 (i) Wenn auch komplexeste Artefakte und KI immer als bloß instrumentell verstanden werden, so bleibt die ethische Reflexion auf den Menschen fokussiert. Als Grundsätze finden sich hier Stichwörter wie „human-centred solutions” bei Smart Cities (Helbing et al. 2021) oder “human-centric” KI-Systeme (High-Level Expert Group on Artificial 59 Gegen diese zweite Sichtweise spricht allerdings, dass es sich schwerlich begründen lässt, wieso Artefakte ein Innenleben haben sollten. Ohne dieses haben wir aber keine Entsprechung zur Personenhaftigkeit des Menschen und eine wirklich geleichwerte Begegnung ist nicht realistisch (Illies und Meijers 2009) 60 Ferner ist rein formallogisch noch eine dritte Relationsform möglich, in welcher die Maschine dem Menschen höhergestellt wird. Diese wird hier jedoch nicht weiter analysiert, da wir die radikal dystopische Ansicht der Technologie, wie sie etwa bei Heideggers Beschwörung des „Ge-stells“, nicht teilen (vgl. Heidegger 1994). 149 Martin Düchs, Christian Illies und Tomoki Sakata Intelligence 2019). Obwohl in der Praxis immer Verdachtsfälle auftreten können, wie bei unserer Fallanalyse des E-Scooters mit dem Blick auf ein digitales Handicap, wird in der Theorie die MMI durch das Primat der menschlichen Entscheidung charakterisiert. Maschinen sind bloß brauchbare Werkzeuge, die dazu da sind, uns nützlich zu sein; in der Ethik geht es vor allem um einen verantwortlichen Umgang mit ihnen. (ii) Alternativ werden, wie oben gesagt, Mensch und Maschine eher als in einer wechselseitigen Bezogenheit verstanden. Dieses Verhältnis vor allem bezüglich der humanoiden Roboter ist vor allem in Japan stark ausgeprägt (vgl. McStay 2021). Aber auch gewöhnliche Technik wird so verstanden: Smarte Hausapparate wie Heizung und Kühlschrank verhalten sich nicht mehr bloß passiv auf menschliche Einstellungen, sondern aktiv, indem sie autonom die optimale Lösung finden und unseren Entscheidungen vorwegnehmen (vgl. Aydin et al. 2019). Entsprechend der hier vorgeschlagenen Ethik würden je nach Sichtweise unterschiedliche Bereichswerte wichtig werden: Für den ersten, anthropozentrischen Ansatz sind primär die Bereichswerte des Individuums einschlägig und werden darüber hinaus von denen der Gesellschaft ergänzt. Die Maschine soll die Freiheit des Menschen (sowohl körperlich als auch geistig) nicht beeinträchtigen, seine Privatheit schützen und ihn zu gerechtem Handeln motivieren. Sie soll aber auch transparent und völlig erklärbar sein, damit sie zum transparenten, soliden und partizipatorischen Gemeinschaftsleben des Menschen beitragen kann. Die europäische Richtlinie der KI-Entwicklung verkörpert deshalb vier Prinzipen, nämlich „respect for human autonomy, prevention of harm, fairness and explicability“ (High-Level Expert Group on Artificial Intelligence 2019, S. 2). (ii) Bei der zweiten Form einer MMI dagegen, die auf einer gewissen Wechselseitigkeit fußt, kann man eine weiterführende Applikation unserer Bereichswerte erkennen. Roboter sind normalerweise vom Menschenkreis ausgeschlossen oder radikal abgegrenzt, da wir ihnen Autonomie, Gerechtigkeit und Privatheit nicht zugestehen. Hingegen können wir ihnen als Gegenüber vertrauen, wenn der Mensch und die Maschine gegenseitig teilhaben, sich ergänzen und ihr Handeln transparent machen können. Wenn einmal dieses Vertrauen gestiftet ist, wird die Hemmschwelle gesenkt, Androiden eine Art Autonomie zuzuer150 Kapitel 9. Wie lässt sich die Handreichung anwenden? kennen, auch wenn sie Handelnde ganz anderer Art sind. Ferner lässt sich dieses vertrauensvolle Verhältnis auf die Mensch-UmweltBeziehung übertragen, welche, sei es künstlich oder natürlich, durch die Reziprozität von Geben und Nehmen geregelt ist. Dem Menschen ist es durch die Umweltkrise bewusst geworden, dass diese Balance des Austausches zwischen Mensch und Umwelt unabdingbar ist, damit die Menschheit noch über Generationen hinweg bestehen bleiben kann (vgl. Jonas 1984). Der Einsatz der Technologie im menschlichen Umfeld ist und bleibt letzten Endes ein entscheidendes Hilfsmittel für dieses Ziel, da sie Ressourcen umweltschonender, umweltfreundlicher und umweltfördernder gebrauchen kann. Der Mensch bildet somit eine Solidarität mit der Umwelt aus und erkennt auch ihre Eigendynamik (des Ökosystems oder der Smartness der Umwelttechnologie) an. 4. Fazit: Fernblick Unser Handbuch hat drei Meilensteine im Visier. Als immanente Auswirkung sehen wir die Bereitstellung einer handhabbaren Struktur und Orientierung für die ethische Reflexion, welche das allgemeine Konzept der Menschenwürde konkretisiert und kodifiziert. Die nächste Folge sollte die enge Kommunikation der Stadtgesellschaft über Werte und Probleme der Smart City sein, da die Ethik in besonderer Weise der sozialen, interpersonalen Reflexion bedarf. Dieser Schritt wiederum könnte die Basis sein für eine erweiterte Mensch-Maschine-Interaktion, welche unsere Zukunft prägen wird. Dieser sich stetig erweiternde Bereich technischer Interaktionen sollte nicht nur selbst moralischen Vorgaben folgen (und die genannten Bereichswerte dürften dabei weiterhin eine entscheidende Rolle spielen), sondern wird natürlich bei der moralischen Gestaltung unserer Welt, und vor allem in Form von KI, sogar bei der ethischen Reflexion eine wichtige Rolle spielen können. Aber das wird nur gelingen, wenn die Technik sich in einer vertrauenswürdigen Weise entwickelt, also so, dass die Menschen bzw. die Bürger in der Smart City ihr und den Interaktionen mit der Technik vertrauen können. Langfristig werden wir nur so mit der Technik eine gute Weise des Zusammenlebens, eine gute Smart City befördern können. 151 Martin Düchs, Christian Illies und Tomoki Sakata Damit ist Vertrauen im Grunde der Schlüsselbegriff, weil Vertrauen sowohl die Grundlage, als auch das Ziel des gesamten Unterfangens der ethischen Umsetzung der Technologie ausmacht. Nur so können wir zwischen Scylla und Charybdis in die Zukunft steuern, zwischen einer naiv-optimistischen Annahme der monströsen Technikversprechungen und dem dunklen Strudel einer Furcht vor einer technischen Herrschaft, die uns jede Autonomie nimmt. Denn seit Beginn der Industrialisierung kommen immer wieder düstere Untergangsstimmungen zum Vorschein. Stattdessen lohnt es sich hier, wie es oft in der dialektischen Philosophie beansprucht wird, den Mittelweg zu erkunden. Und das kann dadurch gelingen, dass wir ein gerechtfertigtes Vertrauen zwischen Menschen einerseits und zwischen ihnen und Maschinen andererseits in den Mittelpunkt stellen. Dieses gerechtfertigte Vertrauen als Basis eines guten Zusammenlebens in einer technischen Welt und smarten City hat aber zwei Bedingungen: Es braucht die Bereitschaft, sich positiv auf die Innovationen einzulassen, aber es braucht auch den guten Willen, technische Innovationen transparent und auf streng verantwortliche, moralische Weise zu realisieren. Erst das macht die neuen technischen Möglichkeiten, allen voran die der Künstlichen Intelligenz vertrauenswürdig. Das ist die Aufgabe, vor der wir stehen: Ein Vertrauen zu begründen und dauerhaft zu erhalten. Wir hoffen, mit der Handreichung einen kleinen Beitrag dafür geleistet zu haben. Literaturverzeichnis Aydin, C, González Woge, M. und Verbeek, P.P. (2019) „Technological Environmentality: Conceptualizing Technology as a Mediating Milieu“. Philosophy & Technology 32 (2), 321-338. Epictetus. (1865). The Works of Epictetus. Übersetzt von T. W. Higginson. Boston: Little, Braun and Company. Gewirth, A. (1978) Reason and Morality. Chicago: University of Chicaco Press. Habermas, J. (2010). „Das Konzept der Menschenwürde und die realistische Utopie der Menschenrechte“. Deutsche Zeitschrift für Philosophie 58 (3), 343-358. https://doi.org/10.1524/dzph.2010.58.3.343 152 Kapitel 9. Wie lässt sich die Handreichung anwenden? Heidegger, M. (1994). „Das Ge-Stell“. In: Bremer und Freiburger Vorträge (Gesamtausgabe, Band 79). Frankfurt a.M.: Vittorio Klostermann, 24-45. Helbing, D., Fanitabasi, F., Giannotti, F., Hänggli, R., Hausladen, C. I., van den Hoven, M. J., Mahajan, S., Peeschi, D. und Pournaras, E. P. (2021). „Ethics of Smart Cities: Towards Value-sensitive Design and Co-evolving City Life”. Sustainability 13 (20), 11162. https://doi.org/10.3390/su132011162 High-Level Expert Group on Artificial Intelligence. (2019) Ethics guidelines for trustworthy AI. European Commission. https://digitalstrategy.ec.europa.eu/en/library/ethics-guidelines-trustworthy-ai Hösle, V. (1999) Moral der Politik. München: Beck. Illies, C. (2003) Grounding Right and Wrong. Transcendental Arguments in Ethics. Oxford: Oxford University Press. Illies, C. und Meijers, A. (2009) „Artefacts without Agency“. The Monist 92(3), 422-443. Jonas, H. (1984) Das Prinzip Verantwortung. Versuch einer Ethik für die technologische Zivilisation. Frankfurt a.M.: Suhrkamp. McStay, A. (2021) „Emotional AI, Ethics, and Japanese Spice: Contributing Community, Wholeness, Sincerity, and Heart“. Philosophy & technology 34 (4), 1781-1802. https://doi.org/10.1007/s13347-02100487-y Münchow, M. (2021) Interaktionswelten. Gestaltungswissenschaftliche Perspektiven auf Innovationen und Konventionen in der MenschMaschine-Interaktion. Bielefeld: transcript Verlag. Steiner, R. (1984) Innere Entwicklungsimpulse der Menschheit. Goethe und die Krisis des neunzehnten Jahrhunderts. Dornach: Rudolf Steiner Verlag. 153