Kazuo Ishiguro, Klara und die Sonne: Unterschied zwischen den Versionen

Aus Literarische Altersbilder
KKeine Bearbeitungszusammenfassung
(Anmerkungen)
Zeile 55: Zeile 55:


Adams Verhalten führt also in beiden Fällen zu rechtlich und/oder moralisch zweifelhaften Ergebnissen.  Das verbessert die Welt sicher nicht.
Adams Verhalten führt also in beiden Fällen zu rechtlich und/oder moralisch zweifelhaften Ergebnissen.  Das verbessert die Welt sicher nicht.
==Anmerkungen==

Version vom 18. Februar 2022, 15:55 Uhr


Schutzumschlag der deutschen Erstausgabe

Perspektive und Sprache (von Monika Hartkopf)

Der Roman wird ausschließlich aus der Perspektive der Humanoidin Klara erzählt, deren Name deshalb auch den Titel bestimmt und – wie könnte es anders sein – deren Sprache die Sprache des gesamten Romans ist, abgesehen natürlich von den Dialogen. Damit nimmt Ishiguro als erster Autor das Wagnis auf sich, nicht nur eine Figur mit künstlicher Intelligenz in einen Roman aufzunehmen oder überhaupt das Thema künstliche Intelligenz belletristisch zu bearbeiten[1], sondern sich gewissermaßen in den Androiden hineinzuversetzen. Die damit verfolgte Absicht des Autors gilt es zu untersuchen.

„Als wir neu waren, standen Rosa und ich in der Ladenmitte […] und hatten den größeren Teil des Schaufensters im Blick.“ (9)[2] – so lautet der erste Satz des Romans, mit dem der Leser unvermittelt den Blickwinkel des künstlichen Menschen einzunehmen gezwungen wird, denn Menschen sind nicht „neu“, sondern klein, jung, alt … und stehen auch nicht in einem Laden zum Verkauf. Selbst wenn man diese Signale übersehen sollte, wird die Künstlichkeit der sog. „KFs“ (= Künstliche/r Freund/in) in den folgenden Abschnitten dadurch veranschaulicht, dass sie ihre Energie aus dem Sonnenlicht beziehen und deshalb um die hellsten Plätze konkurrieren. Dabei wird schnell deutlich, dass die KFs nicht wissen, wie die Energieübertragung funktioniert, so dass Klara, als sie versucht, das direkte Sonnenlicht mit ihren Händen zu berühren und genau in diesem Moment offenbar Wolken die Sonne verdunkeln, sich bemüht durch Klopfen und Reiben über den Boden das Sonnenlicht zurückzuholen (vgl. 10). Das völlige Fehlen von Naturerfahrung und Wissen um natürliche Zusammenhänge erinnert an kleine Kinder.

Das gesamte 1. Kapitel, immerhin 49 Seiten, spielt in diesem Laden, in dem die durch Aussehen, Geschlecht und Namen individualisierten Modelle auf ihren Verkauf warten bzw. in Klaras Worten „ein Zuhause“ (26) finden. Das sich über Wochen hinziehende Warten ermüdet zwar den Leser, nicht aber die durch „höchstentwickelte Auffassungsgabe“ (56) gekennzeichnete Klara. Sie beobachtet unentwegt mit nicht nachlassender Ausdauer ihre Umgebung und stellt darüber Überlegungen an. Hierbei mischen sich antrainiertes Verhalten einerseits, z.B. für den Umgang mit Kunden (vgl. 16) und kindliches Unwissen und Naivität andererseits. Letzteres zeigt sich eindrücklich in der Sprache, in der die Außenwelt beschrieben wird.

(wird fortgesetzt)



Perfekte Diener: Ishiguros Klara und Schraders Tom (von Ilse Noy)

Der humanoide Roboter Klara wird in der Welt von Ishiguros Roman als KF, ‚Künstliche Freundin‘, bezeichnet. Die Aufgabe einer solchen KF ist es, als Begleiterin eines jugendlichen Menschen dessen Einsamkeit zu lindern, und als solche ist sie von Josie ausgesucht worden. Die ‚intellektuelle‘ Ausstattung der kindlich unwissenden Klara, ihre eingeschränkte Wahrnehmungs- und Bewegungsfähigkeit und ihr auf „Harmonie“ hin programmiertes Wertesystem erscheinen jedoch derart begrenzt, dass sie unmöglich als ebenbürtiges Gegenüber und ernsthafte Gesprächspartnerin von Josie infrage kommen kann. Es ist ein Euphemismus, sie eine ‚Freundin‘ zu nennen, eher wäre sie als zwar ganz und gar emphatisch ergebene, aber auch wohl nur begrenzt einzusetzende Dienerin zu bezeichnen. Es ist daher kaum verwunderlich, dass Klara, als Josie erwachsener wird, zunächst in der Abstellkammer des Hauses, dann auf einem öffentlichen Schrottplatz „verlöscht“, wie es wieder euphemistisch heißt. Die Gesellschaft, in der Josie und ihre Mutter leben, erscheint nur noch wie die äußere Hülle einer vergangenen Zeit, in der die Liebe zwischen Mutter und Tochter, Freundschaft und auch die Betrachtung eines Wasserfalls mit Erlebnisinhalt gefüllte Begriffe, lebendige Erfahrungen waren. Die euphemistische Bezeichnung KF versucht das Defizit an Beziehungsfähigkeit zu vertuschen, das die Gesellschaft zu bestimmen scheint. Die KF Klara ist weder eine Freundin, noch ist sie als Dienerin von großem praktischen Nutzen. Das eigentliche Projekt der Mutter, die Josies Tod befürchtet, und Klaras wirkliche Aufgabe bestehen darin, Josie nach deren Tod als perfekte Kopie weiterleben zu lassen. Unerwarteterweise wird Josie gesund, Klara wird als künstliches Double nicht mehr gebraucht, die Probe, ob die Mutter die von Klara dargestellte künstliche Josie hätte lieben können, muss nicht abgelegt werden.

Indirekt gibt vielleicht Maria Schraders Film „Ich bin dein Mensch“ eine Antwort. Nur widerwillig ist Alma bereit, sich im Rahmen eines wissenschaftlichen Tests auf den Kontakt mit einem humanoiden Roboter einzulassen. Tom ist in allen Aspekten der ideale künstliche Partner für Alma, deren Wunschvorstellungen zuvor aufwendig ermittelt wurden und nun in ihm verkörpert werden. Es stellt sich heraus, dass Tom für Alma tatsächlich eine so perfekte Ergänzung ist, so sehr die Erfüllung aller Sehnsucht darstellt, so sehr Glück erfahrbar sein lässt, dass das Ende des Films vermuten lässt, dass sich Alma für ein Leben mit Tom entscheiden wird, obwohl jederzeit klar ist, dass er nicht menschlich, sondern nur ein Roboter ist. Sie erkennt selber klar, dass es ihre eigenen Wünsche und Projektionen sind, die sie dazu verleiten Tom zu vermenschlichen, ein perfektes Frühstück zuzubereiten, wider das bessere Wissen, dass Tom keine Nahrung zu sich nehmen bzw. sie schmecken kann. Andererseits besaßen wahrscheinlich auch die Küsse, die sie sich vor vielen Jahren von ihrer Jugendliebe Thomas erträumte, kaum mehr Gehalt an Realität. Auch die Liebe zu realen Menschen ist Projektion, wo also wäre der Unterschied?

Sowohl Klara als auch Tom sind nur geschaffen, um Menschen zu dienen. Sie besitzen keine eigenen Ansprüche, sind völlig bedürfnislos. Klara ist überzeugt, ihre Aufgabe gut erfüllt zu haben und „verlöscht“ ohne Widerstand. Toms einzige Aufgabe ist es, Alma glücklich zu machen, sollte das nicht möglich sein, bleibt auch ihm nur die Entsorgung. Er tröstet Alma, sie solle sich um ihn keine Sorgen machen, da er nicht lebe, könne er auch nicht sterben. Dennoch möchte man in freier Abwandlung des Brecht-Zitats (aus dem „Leben des Galilei“ -über Helden) in diesem Fall sagen: „Unglücklich das Land, das Diener nötig hat.“ bzw. „Unglücklich der Mensch, der Diener nötig hat.“



Verbessern Humanoiden die Welt? (von Christoph Hübenthal)

Klara, Tom, Adam und die alte Frage, ob der Mensch alles tun sollte, was er technisch kann – Eine Annäherung


Mit Humanoiden werden große Hoffnungen, teilweise sogar Heilserwartungen verbunden, aber auch große Befürchtungen, insbesondere die, eines Tages von Robotern beherrscht zu werden. Unter diesen Aspekten sollen Funktion und Entwicklung der Humanoiden in den Romanen „Klara und die Sonne“ von Kazuo Ishiguro, „Maschinen wie ich“ von Ian McEwan sowie dem Film „Ich bin dein Mensch“, Regie Maria Schrader, betrachtet werden. Welche Funktionen sind Klara, Adam und Tom, den Humanoiden in den genannten Werken, bei der Herstellung mitgegeben worden, wie entwickeln sie sich im Zusammenleben mit Menschen und wie ergeht es den Menschen dabei? Wird ihr Leben besser?

Klara ist eine KF, eine künstliche Freundin. Die Funktion der KFs wird im Buch schnell deutlich: sie sind als Unterstützung für Jugendliche vorgesehen, die wegen der herrschenden gesellschaftlichen Verhältnisse zum einen von Einsamkeit bedroht sind, zum anderen aus dem gleichen Grund aber auch in sozialem Verhalten eingeübt werden müssen. Klara ist von den Humanoiden in den drei Werken am weitesten von einer Menschengleichheit entfernt. Das beginnt beim „Körper“: Einerseits sieht sie „irgendwie französisch aus“, also wie ein reales Mädchen, insbesondere wegen ihrer Frisur[3]. Andererseits ist Klara aber körperlich etwas unbeholfen und hat zumindest gelegentlich Wahrnehmungsstörungen. Hinsichtlich ihrer „geistigen“ Fähigkeiten erfährt der Leser schnell, dass Klara als lernende Maschine angelegt ist. Sie ist in der Lage, durch Beobachtung zu lernen und will das auch (15). Dies gilt auch und insbesondere für die Entwicklung von Empathie[4] Bei ihr ist also der Schritt von der künstlichen Intelligenz zur emotionalen[5] künstlichen Intelligenz vollzogen[6]. Dies ist bei ihr aber nicht gekoppelt mit kognitiven Höchstleistungen, im Gegenteil: Klara weiß praktisch nichts von der Welt. Trotzdem ist sie für ihren eng umgrenzten Auftrag (eine jugendliche Person, Josie, beim Erwachsenwerden zu begleiten) hinreichend ausgestattet. Und sie erfüllt ihren Auftrag gut, Josies Sozialverhalten zu verbessern . Sie rettet auch durch ihre Empathiefähigkeit[7] die Freundschaft zwischen Josie und Rick, dem Nachbarjungen und einzigen Freund, den sie hat. Sie bringt sich selbst in Gefahr, weil sie glaubt, durch ein Opfer für die Sonne diese dazu bewegen zu können, Josie zu heilen. Dies alles entspricht dem Klara implementierten Konzept und kommt daher aus ihr selbst. Dieses Konzept hat weder etwas Bedrohliches noch begegnet es ethischen Bedenken. Als Zwischenergebnis kann man also festhalten, dass Klara (und andere KFs) die im Buch existierende Welt tatsächlich verbessern[8].

Eine neue Situation entsteht durch den Wunsch der Mutter, dass Klara Josie nach ihrem Tod „fortsetzen“ soll. Erst das führt den Roman zu einer Kernfrage der KI-Forschung: Stimmt es, dass – in Capaldis Worten - „nichts in Josie [ist], das die Klaras dieser Welt nicht fortsetzen könnten“(242)? Den Beweis für diese These muss Capaldi im Roman nicht antreten, da Josie gesund wird. Bei genauer Betrachtung besteht die These von Capaldi aus zwei aufeinander aufbauenden Fragen: 1. Kann eine KI eine menschliche, z.B. wegen ungewollter Kinderlosigkeit nicht existente Tochter ersetzen? 2. Wenn ja, kann diese KI auch eine real existiert habende menschliche Tochter ersetzen? Im Roman gibt Klara am Ende eine Antwort, die nur Frage 2 verneint: „Mr. Capaldi glaubt, es gebe nichts Besonderes in Josies Innerem, das sich nicht fortsetzen ließe…Aber ich glaube jetzt, er hat am falschen Ort gesucht. Es gab nämlich sehr wohl etwas Besonderes, aber nicht in Josie. Es war in denen, die sie geliebt haben.“(242)

Adam, der KI aus „Maschinen wie ich“ und Tom aus „Ich bin Dein Mensch“ sind dagegen „Superhirne“. Sie sind nicht nur in der Lage blitzschnell absurde Rechenaufgaben zu lösen[9], sondern haben auch Zugang zum gesamten Wissen im Internet[10]. Auch äußerlich sind die beiden nahezu perfekte „Menschen“[11]. Es liegt also nahe, nach einer Antwort auf die erste Frage, ob ein KI einen Menschen ersetzen kann, möglicherweise sogar der „bessere Mensch“ ist, im Film und im Roman von McEwan zu suchen.

Toms Funktion im Film ist eindeutig: er soll, wenn auch nur als Test , Alma einen (menschlichen) Partner ersetzen[12]. Die dieser Funktion zugrundeliegenden Programmierungen erscheinen im Film im Einklang mit den allgemein akzeptierten Werten im menschlichen Zusammenleben. Sein Werben um Alma ist durchaus sozialadäquat, er ist sogar in der Lage, die Gelegenheit verstreichen zu lassen, mit Alma Sex zu haben, als diese ihn dazu durchaus offensiv, aber in betrunkenem Zustand, auffordert. Der Film gibt mehrere Antworten auf die Frage, ob ein Humanoid ein (besserer) Partner für einen Menschen sein kann. Almas Urteil im Gutachten ist eindeutig. Sie stellt die Frage, ob es nicht gerade die unerfüllten Sehnsüchte, das Streben nach Glück sind, was uns zum Menschen macht. Sie fürchtet, es entstehe eine Gesellschaft von Abhängigen, „satt und müde von der permanenten Erfüllung ihrer Bedürfnisse“. Die Menschen hätten keinen Antrieb, sich selbst zu hinterfragen, Konflikte auszuhalten, sich zu verändern. „Es steht zu befürchten, dass jeder, der länger mit einem Humanoiden gelebt hat, unfähig sein wird zum normalen menschlichen Kontakt“. Der Film bleibt bei dieser Antwort allerdings nicht stehen, sondern liefert weitere Aspekte und lässt die Frage damit letztlich offen. Zum einen durch den zumindest offenen Schluss. Alma beendet zunächst aus den im Gutachten genannten Gründen die Beziehung zu Tom. Ihre durch Tom ausgelösten Erinnerungen an eine unerfüllte Jugendliebe, die bezeichnender Weise Thomas heißt, veranlassen sie, nach Dänemark zu reisen, wo sie Thomas kennengelernt hat. Dort trifft sie Tom wieder, der das vorhergesehen hat. Alma steckt in einem Dilemma: Ihr Verstand sagt ihr, dass Humanoide nicht als Partner zugelassen werden sollten. Dabei gerät sie aber mit ihren Gefühlen in Widerstreit. Sie beschreibt den Widerspruch so, dass sie durch die Erfahrung mit Tom als Partner für herkömmlich Partnerschaften mit unperfekten Männern verdorben ist und ihr weiteres Leben immer eins „ohne dich“ sein wird – ihr also etwas fehlen wird, was sie vorher gar nicht vermisst hätte. Wie sie sich entscheidet, bleibt offen.

Einer, der sich entschieden hat, ist Dr. Stuber, der immer daran gescheitert ist, normale Beziehungen zu Menschen aufzubauen (sinngemäße Aussage: alle haben mich immer aus irgendwelchen, nicht erklärbaren Gründen abgelehnt). Er ist restlos glücklich mit seiner KI Chloé. Bedenken wie sie Alma geäußert hat, hat er offenbar nicht. Hier spaltet sich die Frage, ob KI das Leben besser machen, noch einmal auf: Hier das individuelle, subjektive Glück eines einzelnen Menschen, dort die Frage, was bedeutet das für die Menschheit? Anders gefragt: welche Nebenwirkungen hat das künstlich geschaffene Glück in der Partnerschaft? Nach Almas Statement in ihrem Gutachten wären die Folgen einer Zulassung von Humanoiden als Partner:innen verheerend. Eine Menschheit aus satten, nicht mehr veränderungsfähigen Menschen wäre wohl zum Untergang verurteilt. Dass man neben dem individuellen Glück auch das der Menschheit im Auge haben muss, ist auch in Toms Programmierung angelegt. Er versteht Almas Verzweiflung darüber, dass argentinische Forscher ihr mit einer Veröffentlichung zuvorgekommen sind und damit ihre Arbeit wertlos gemacht haben, überhaupt nicht. Er bezeichnet die Tränen, die Alma vergießt als „egoistische Tränen“. Entscheidend sei, dass die Erkenntnisse die Menschheit bereichern, nicht, wer die Erkenntnisse gewinnt. Tom ist insoweit als gespaltene Persönlichkeit konstruiert: Stellt er einerseits mit seiner Perfektheit als Partner das individuelle Glück über das der Menschheit, stellt er andererseits den Erkenntnisgewinn für die Menschheit über das individuellen Leid der „geliebten“ Partnerin.

Eine kleine Szene legt schließlich noch die Frage nahe, ob Tom nicht nur der bessere Partner, sondern auch der bessere Mensch sein soll. Er versteht Schadenfreude nicht. Im Café beobachten Tom und eine andere Besucherin Jugendliche, die recht krasse Videos über slapstickartige Unfälle betrachten und sie sehr lustig finden. Nachdem die Frau auf Toms Frage auch nicht erklären kann, was daran lustig ist, bringt Tom sie schließlich mit der Frage, ob auch tödliche Unfälle lustig seien, zum Nachdenken und sie verneint die Frage.

Im Film wird nur die relativ harmlose menschliche Schwäche „Schadenfreude“ in Toms Programm korrigiert, in McEwans Roman ist das Thema der ethischen Prägung und des ethischen Handelns ein ganz zentrales[13]. Charlie ist offenbar skeptisch: „Adam war mir angeblich[14] moralisch überlegen“ (123).

Es stellt sich daher die Frage, ob Adam tatsächlich mit seiner ethischen Handlungsfähigkeit die Welt verbessert. Zu betrachten ist vor allem, dass Adam der Polizei sämtliche Beweise dafür liefert, dass Miranda Gorringe zu Unrecht beschuldigt hat, sie vergewaltigt zu haben und Gorringe dafür zu Unrecht verurteilt wurde. Adams Anzeige führt zu einer Verurteilung von Miranda zu einer Gefängnisstrafe.

Die rechtliche Beurteilung der Tat von Miranda durch Adam ist (jedenfalls nach deutschem Recht) korrekt. Daran ändert auch der Umstand nichts, dass Gorringe Mirandas Jugendfreundin vergewaltigt hat und dafür nicht bestraft wurde. Das (deutsche) Recht kennt allerdings keine Pflicht zur Anzeige. Adams Verhalten geht also über die Einhaltung von Rechtsvorschriften deutlich hinaus. Seine Programmierung sah in der Situation also offenbar eine moralische Verpflichtung zur Anzeige[15]. Verbessert die Annahme einer moralischen Pflicht zur Anzeige in solchen Fällen die Welt? Es gibt gute Gründe, die rechtliche Regelung solcher Sachverhalte auch moralisch als abschließend zu betrachten. Es erscheint wenig erstrebenswert, unter moralischen Gesichtspunkten die gesamte Menschheit zu Hilfssheriffs zu machen. Das Gesetz geht auch an anderen Stellen davon aus, dass es Situationen gibt, in denen es dem einzelnen Menschen nicht zumutbar ist, zur Durchsetzung von – moralisch gerechtfertigten – Gesetzen aktiv beizutragen. Man denke an diverse Zeugnisverweigerungsrechte[16]

Daneben hat sich Adam des Geldes bemächtigt, dass er im Auftrag von Charlie bei Börsenspekulationen erwirtschaftet hat und überwiegend für wohltätige Zwecke verwendet. Natürlich kann man durchaus darüber streiten, ob es moralisch (und rechtlich) korrekt war, dass Charlie zunächst das gesamt Geld behalten hat. Hier hat Charlie offensichtlich selbst Zweifel: Als Adam eigenmächtig über einen kleinen Teil des Geldes für den Kauf von Kleidung verfügt und sich dafür rechtfertigt („Außerdem bin ich zu der Überzeugung gelangt, dass mir auch was von dem Geld zusteht, das du unterm Bett aufbewahrst“.) ändert sich Charlies Haltung zumindest etwas: „Okay“, sagte ich „Da ist was dran“ (269). Ein Einverständnis, dass Adam über das gesamte Geld verfügt, liegt darin sicher nicht. Es handelt sich daher zumindest bei der Aneignung der Teilsumme, die Charlie zustand, rechtlich um Diebstahl.

Adams Verhalten führt also in beiden Fällen zu rechtlich und/oder moralisch zweifelhaften Ergebnissen. Das verbessert die Welt sicher nicht.

Anmerkungen

  1. Derartige Versuche haben bereits eine längere Geschichte und in der heutigen Zeit zahlreiche Bespiele, vgl. https://de.wikipedia.org/wiki/Kulturgeschichte_der_Roboter
  2. Alle Seitenangaben in Klammern beziehen sich auf: Kazuo Ishiguro, Klara und die Sonne, Karl Blessing Verlag, München 20213
  3. So Josie, S. 21
  4. Im Fenster des Geschäfts stehend beobachtet sie die verschiedenen Stimmungen der sie betrachtenden Kinder und lernt, sie zu unterscheiden: „..nach unserem zweiten Tag im Fenster wusste ich den Unterschied schnell zu erkennen“, S. 17
  5. Hervorhebung von mir
  6. Zu Stand und Bedeutung der Forschung der automatisierten Emotionserkennung s. Misselhorn: Künstliche Intelligenz und Empathie, S. 20ff
  7. Ob Klara empathisch ist oder nur Empathie imitieren kann, spielt dabei keine Rolle. S. hierzu die Beschreibung der „Behandlung“ von Afghanistan-Veteranen der US Armee durch eine sehr einfach konstruierte künstliche Intelligenz. Die Probanden empfanden diese Behandlung als hilfreicher als die gängigen Behandlungen durch Menschen. Catrin Misselhorn Künstliche Intelligenz und Empathie, S. 73
  8. Dabei soll die Frage, inwieweit derselbe technische Fortschritt, vor allem in der Arbeitswelt und bei der Fähigkeit zu Genmanipulationen die Sinnhaftigkeit einer Unterstützung der Jugendlichen beim Erwachsen werden erst produziert hat, außer Betracht bleiben, weil sie den Rahmen sprengen würde.
  9. So testet gleich zu Beginn des Films Alma Tom
  10. Adam lüftet auf diese Weise das Geheimnis von Miranda, Charlies Freundin, und Tom findet die argentinische Forschungsarbeit, die Almas Arbeit zunichtemacht
  11. Tom hat allerdings gleich zu Beginn des Films einen technischen „Aussetzer“ und muss deshalb gewartet werden. Adam kauft sich eigenständig Kleidung und ist stolz darauf, als Mensch behandelt worden zu sein: „Ich wurde mit „Sir" angeredet“ (269)
  12. Dabei ist die Erwartung der Hersteller, dass die Maschine ein besserer Partner ist, als ein Mensch es sein könnte. Anders als Klara soll er also nicht eine existierende Person ersetzen, sondern nur die Rolle übernehmen, die ansonsten ein (beliebiger) Mensch hätte.
  13. Der Roman erläutert nicht, wie Adam zu seinen moralischen Urteilen und daraus folgenden Handlungen kommt. Zum Stand der Forschung und den verschiedenen Typen moralischer Akteure s. Cathrin Misselhorn, Maschinenethik S. 70 ff.
  14. Hervorhebung von mir
  15. Oder Adam ist bereits – in der Terminologie von James H. Moor, zitiert nach Misselhorn aaO. – vollumfänglicher moralischer Akteur, den es in der Realität als Maschine nicht gibt. Dies spielt aber für die hier behandelte Frage keine Rolle.
  16. §§ 52 ff StPO für Angehörige von Beschuldigten, aber auch für bestimmte Berufsgruppen, wo das auch im Interesse der Allgemeinheit liegt.