Ian McEwan, Maschinen wie ich
Die Projektgruppe „Literarische Bilder unserer Zeit“ hat sich im WS 2020/2021mit dem Roman von Ian McEwan „Maschinen wie ich“ beschäftigt. Über den umfangreichen Themenkomplex der Künstlichen Intelligenz hinaus lädt der Roman zur Beschäftigung mit vielfältigen weiteren Themen ein. Eine Auswahl von Beiträgen dazu findet sich im Folgenden.
Diese Seite ist z.Zt. noch im Aufbau!
Legalität, Moralität und Ethik (von Monika Hartkopf)
Adam ist als künstlicher Mensch so programmiert, dass er die Gesetze kennt und beachtet, ja sogar selbständig gegen nicht gesetzeskonformes Verhalten vorgeht. Diese Seite seines Wesens deutet sich bereits am fulminanten Ende des ersten Kapitels an, als Adam Charlie davor warnt, dass Miranda eine „systematische, böswillige Lügnerin“ (48) sein könnte. Offensichtlich hat Adam, wie er später selbst erklärt (vgl. 85ff.), nach allen ihm zugänglichen Informationen über Miranda gesucht und ist dabei auf ihre Beteiligung an dem Prozess gegen Gorringe gestoßen. Dass er dasselbe sicher auch bezüglich seinem Besitzer Charlie getan und dabei dessen Steuerbetrug und den daraus folgenden Entzug der Anwaltszulassung (vgl. 23, 29f.) entdeckt hat, wird von ihm niemals erwähnt, vielleicht weil er auf Loyalität zu seinem Besitzer programmiert ist.
In konsequenter Anwendung des Prinzips der Gesetzestreue informiert Adam ungefragt die zuständigen Behörden, nachdem Mark bei Charlie abgeliefert worden ist, und bewirkt so, dass das Kind von Sozialarbeiterinnen abgeholt wird (vgl. 145f., 152f.). Den Gipfel der Eigenmächtigkeit erreicht Adam, als er einerseits das inzwischen von ihm an der Börse erwirtschaftete Vermögen von 97.000 Pfund zur Begleichung von Charlies Steuerschuld und für wohltätige Zwecke weggibt (vgl. 359f.) und andererseits einen Prozess gegen Miranda wegen Meineid und Falschaussage herbeiführt (vgl. 364f.), was zur Folge hat, dass Charlie Adam in einem vermeintlichen Notwehr-Akt erschlägt, Miranda zu einer Gefängnisstrafe verurteilt und die Adoption von Mark erheblich erschwert wird. Im Streit mit Charlie und Miranda wird deutlich, dass der Android in seinem Verhalten klaren Leitlinien folgt und ihm dabei keinerlei Zweifel an deren Richtigkeit kommt. Er bezieht sich ausdrücklich auf allerdings inhaltlich nicht näher erläuterte Prinzipien: „Es gibt Prinzipien, die wichtiger sind als deine Bedürfnisse oder die von irgend jemand anderem zu jedem gegebenen Zeitpunkt.“ (366) Eine inhaltliche Forderung des Prinzips besteht in der Gleichheit der Rechte und Pflichten vor dem Gesetz. „Wenn Gorringe angeklagt wird, musst du auch angeklagt werden. Symmetrie, verstehst du?“ (364, vgl. auch 284, 393), erklärt er Miranda. Adam beruft sich außerdem auf die Logik (vgl. 365) als Maßstab für sein Verhalten. Von Miranda wünscht er sich, „dass du für deine Handlungen einstehst und akzeptierst, was das Gesetz entscheidet.“ (365)
So weit es sich um die Legalität, d.h. Rechtmäßigkeit von Handlungen bzw. Unterlassungen handelt, ist es vorstellbar, dass ein Roboter nach einem Algorithmus eindeutige Entscheidungen treffen kann. Denn hierbei geht es darum festzustellen, ob eine Handlung in den Regelungsbereich eines Gesetzes fällt und diesem ent- oder widerspricht. Schwieriger wird es dagegen im Bereich der Moral, die mit dem Recht vielfältig verwoben ist.
Einerseits setzt das Recht moralische Normen, also die gesellschaftlichen Vorstellungen davon, was gut und gerecht ist, voraus. Manche meinen sogar, die Rechtsordnung sei ausschließlich die in Gesetzesform gegossene Moral einer Gesellschaft, eine Position, die sich dadurch entkräften lässt, dass es offensichtlich Gesetze gibt, die keinerlei moralische Relevanz haben, wie z.B. das Rechtsfahr-Gebot. In vielen Fällen wird man aber feststellen, dass moralische Normen zugleich Rechtsnormen sind, ja dass sich letztere sogar ausdrücklich auf jene beziehen, z.B. bei den Grundrechten oder dem Tötungsverbot. Die Parallelität von Rechts- und Moralnormen wird besonders im klassischen Naturrecht und im Vernunftrecht betont.
Andererseits sind Recht und Moral klar voneinander getrennte Normsysteme. Dies betont besonders der Rechtspositivismus, der Recht ausschließlich auf das Vorhandensein vom Gesetzgeber ordnungsgemäß erlassener Normen bezieht, deren Inhalt daher auch ungerecht sein kann. Die verfahrensmäßig korrekte Setzung des Rechts begründet zugleich die Norm, während die Moral dazu einer inhaltlichen Begründung im Diskurs bedarf, was zentrale Aufgabe der Ethik bzw. Moralphilosophie ist. Ein weiterer wichtiger Unterschied liegt in der Durchsetzung der jeweiligen Normen; während der Verstoß gegen Gesetze nach festgelegten Regeln bestraft wird, das Recht also mit Zwang durchgesetzt wird, verläuft die Sanktionierung bei Missachtung moralischer Regeln informell, meist durch gesellschaftliche Ächtung.
Dreh- und Angelpunkt in der Frage nach dem Verhältnis von Legalität und Moralität ist die Gerechtigkeit. Ihre zentrale Rolle in der Ethik ist unbestritten, aber auch das Recht wird am Maßstab der Gerechtigkeit gemessen und auch Rechtspositivisten behaupten nicht, dass das Recht nicht gerecht sein sollte oder sogar ungerecht sein dürfte. Die Frage nach der Gerechtigkeit steht denn auch im Zentrum der Auseinandersetzungen zwischen Adam, Miranda und Charlie. Mirandas ausdrücklich erklärter Wunsch nach Gerechtigkeit (vgl. 216) versteht allerdings unter Gerechtigkeit Rache, was Adams massiven Widerstand herausfordert (vgl. 365, 367). Hier ist zu erkennen, dass der Android nicht nur sachlich und präzise rechtliche Normen anwendet, sondern mit Engagement und Gefühl bei der Sache ist. In seinem Verhalten zeigt sich die Orientierung an moralischen Prinzipien, wenn er sich an Versprechen gebunden fühlt und Loyalität sowohl gegenüber Charlie als auch Miranda empfindet (vgl. 161), so dass er in einen Gewissenskonflikt gerät. Es bereitet ihm gefühlsmäßige, sich sogar körperlich äußernde Probleme (vgl. 162), wenn er Charlie seine Liebe zu Miranda gesteht, wozu er sich offenbar verpflichtet fühlt. Solches Verhalten bestätigt Charlies Vermutung, dass „er auf ein gewisses Maß an intellektueller Redlichkeit programmiert war“ (111). Menschlich wirkt Adam aber gerade auch da, wo er gegen Regeln verstößt, z.B. wenn er nach dem zu seinem Tod führenden Schlag seine Besitzer bittet, ihn vor seinen Konstrukteuren zu verstecken und diese anzulügen, damit sein Körper zu Turing gebracht werden kann (vgl. 369).
An der Bitte um eine Lüge zum Schutz seiner Persönlichkeit ist besonders auffallend, dass sie Turings Aussagen über die Grenzen des künstlichen Verstands widerspricht. Dieser behauptet: „Wir haben noch keine Vorstellung, wie wir Maschinen das Lügen beibringen könnten.“ (400) Turing verweist auf die Grauzonen, in denen „[h]armlose oder gar hilfreiche Unwahrheiten“ (400) bei Menschen selbstverständlich, Adam aber nicht möglich seien. Turings Ansicht entspricht jedoch den Überlegungen, die Charlie anfangs über die Moral der Maschine anstellt: „Adam war mir angeblich moralisch überlegen. Einen besseren Menschen würde ich nie kennenlernen.“ (123) Er spekuliert über ein „perfekt gestaltetes Moralsystem“ in Form einer „Moralsoftware“ (124) und stellt einer derartigen Maschine den unvollkommenen Menschen gegenüber: „In menschlich-moralischen Dimensionen zu existieren bedeutete, einen Körper zu besitzen, […], Verhaltensmuster, ein Gedächtnis, Verlangen zu empfinden, […] Schmerz kennenzulernen.“ (124) Angesichts von Adams Entwicklung stellt der Leser fest, dass der Autor die gewohnte klare Unterscheidung von Mensch und Maschine im Verlauf des Geschehens immer fragwürdiger werden lässt.
Das Feld, in dem diese Unterscheidung am ehesten möglich wäre, ist die Ethik oder Moralphilosophie, in der es um die Begründung der moralischen Normen geht. Der Mensch ist eben nicht ein Wesen, das nach einem festgelegten Moralsystem jeweils die eine richtige Entscheidung treffen kann, wie es bei der Lösung mathematischer Probleme möglich sein mag, sondern er muss in jedem Einzelfall entscheiden, was in der jeweiligen Situation das Richtige ist. Das moralisch Gute überhaupt erst zu finden ist seine Aufgabe. Für diese Suche bietet die Ethik unterschiedliche Theorien an. So könnte sich Adam mit einem vehementen Lügen-Verbot auf den kategorischen Imperativ Kants berufen, der in viel gescholtener Rigidität verlangte, man dürfe den Mörder „auf die Frage, ob der von ihm Angefeindete zu Hause sei“ , nicht belügen. Kant begründet dies wie folgt: „weil die Pflicht der Wahrhaftigkeit […] keinen Unterschied zwischen Personen macht, gegen die man diese Pflicht haben, oder gegen die man sich auch von ihr lossagen könne, sondern weil es unbedingte Pflicht ist, die in allen Verhältnissen gilt.“ Würde Adam dagegen dem Utilitarismus folgen und das größte Glück für die größte Zahl anstreben, sähe seine Entscheidung vermutlich anders aus. Diese Beispiele sollen genügen, um zu zeigen, dass die ethische Dimension der Moralbegründung im Roman keine Rolle spielt, wohl aber die Moral, über die auch die Maschine verfügt.
Im Blick auf die Entwicklung Adams, der mit jedem Tag mehr lernt, Mensch zu sein, sowie auf seine Hoffnung, in der Obhut von Turing weiterleben und -lernen zu können, legt der Autor die Schlussfolgerung nahe, dass das Potential der künstlichen Menschen noch nicht ausgeschöpft ist und die Ebene der moralphilosophischen Reflexion in der Zukunft erreichen wird. Das für eine solche Reflexion erforderliche Selbstbewusstsein nimmt Adam jedenfalls für sich in Anspruch, wenn er seine „Version von Schlaf“ (351) beschreibt, in dem er – darin wieder ganz ähnlich dem menschlichen Schlaf – einen „Prozess der Reparatur und Stabilisierung“ durchläuft, „aus dem er täglich erfrischt auftauche, froh, sich seiner selbst wieder bewusst, wieder im Zustand der Gnade zu sein – seine Worte -, das Bewusstsein zurückzuerlangen, das aus dem Wesen der Materie selbst entsprang.“ (352) Die Verwendung des durch die Parenthese besonders hervorgehobenen theologischen Begriffs der Gnade weist den Leser auf die Parallele zum menschlichen Selbstverständnis als Geschöpf Gottes hin. Verhindert bzw. erschwert wird die Entwicklung der künstlichen Intelligenz in diese Richtung laut Turing dadurch, dass „wir uns selbst nicht verstehen.“ (395) In diesem Sinne lässt McEwan den Wegbereiter der KI-Forschung das Resümee ziehen: „Wenn wir unser eigenes Innerstes nicht begreifen, wie sollten wir da ihres [das der Androiden] gestalten“ (395).
