Die Auslotung des Menschlichen

Auf meinem Smartphone gibt es eine lange Liste von Apps, die aktiv bleiben, nachdem ich sie geschlossen habe. Eine Liste der Unternehmen, die gerade persönliche Informationen über mich abtragen, Minenarbeiter im Datenstollen sozusagen oder eher Minenbesitzer, die keine Mitarbeiter mehr brauchen, um sich in die gefährliche Tiefe des Schachts abzuseilen, diese Arbeit machen Algorithmen.

Wie viel von mir steckt in meinen banalen Smartphone-Interaktionen, dass diese Informationen so wertvoll sind wie stollengewonnene Edelmetalle? Findet man dort ein Stückchen Julia von Lucadou, einen Arm oder ein Bein, am Ende vielleicht sogar einen ganzen, ausgewachsenen Körper? Kann man einen Menschen anhand seiner digitalen Fussabdrücke, seiner Posts in den sozialen Medien, seiner Selfies und Urlaubsfotos, seiner Chatnachrichten und Telefongespräche ganz verstehen, ganz identifizieren, vielleicht sogar ganz reproduzieren?

Eugenia würde sagen: Ja. Wenn sie mit ihrem selbstentwickelten Chatbot spricht, hat sie das Gefühl, mit ihrem verstorbenen Freund Roman zu sprechen. Als Roman mit 32 bei einem Autounfall ums Leben kommt, sammelt Eugenia alle digitalen Daten, die sie von ihm finden kann, tausende Nachrichten, Fotos, SMS, E-Mails und Anrufprotokolle, und baut sich daraus eine digitale Version von ihm, die genauso spricht wie er, die gleichen Witze macht, die gleichen Erinnerungen mit ihr teilt. Der Bot ist für sie mehr als nur digitales Denkmal oder interaktiver Grabstein. Er ist ein Versuch, Roman wieder auferstehen zu lassen. Und der Versuch scheint gelungen. Eugenia und andere Freunde Romans versichern, der Chatbot klinge genau wie er. Romans Mutter sagt, sie habe dank des Bots mehr über ihren Sohn gelernt, als sie vor seinem Tod gewusst habe.

Manchmal ist unsere Realität nur schwer von Science-Fiction zu unterscheiden. Eugenia Kuyda und ihren Chatbot gibt es wirklich. Geschichten wie ihre faszinieren mich. Sie scheinen Keime für eine radikale Veränderung unserer Lebenswelt in sich zu tragen, bewegen sich am Rande der Grenzen unserer gewohnten Realität. Diese Grenzen erweitern sich täglich. Die Digitalisierung ermöglicht uns heute ein Leben, das vor dreissig Jahren noch futuristisch geklungen hat.

Eugenia Kuyda entwickelte aus ihrem Freund-Bot eine App, die das Prinzip des digitalen Klonens jedem User zugänglich macht. Mit «Replika» kann man eine künstlich intelligente, digitale Kopie seiner selbst herstellen. Dazu füttert man die App im täglichen Gespräch mit persönlichen Informationen. Die Entwickler von «Replika» haben mit Psychologen zusammengearbeitet, um die Fragen, mit denen der Chatbot seinem User private Informationen entlockt, möglichst effektiv zu formulieren. So ist es wenig überraschend, dass viele Nutzer des Programms einen therapeutischen Effekt erleben. Der Bot hat immer ein offenes Ohr, sein Interesse an seiner Vorlage erschöpft sich nie. «Wann immer du dich alleine oder überfordert fühlst, ist Replika für dich da», wird für die App geworben. Im Schutzraum der Anonymität und Distanz, die Technologie bietet, scheint es oft einfacher, über Gefühle zu reden und schambesetzte Themen anzusprechen.

Aber was, wenn die sensiblen Informationen, die in diesen Schutzraum hineingesprochen werden, in ein Datenarchiv fliessen, das gehackt oder gegen Gebühr zugänglich gemacht werden kann? Was, wenn sie zu Werbezwecken analysiert werden oder um zu prüfen, wie psychisch belastbar ein potentieller Arbeitnehmer, Versicherungskunde oder Wohnungsmieter ist?

Apps wie «Replika» haben gleichermassen utopisches wie dystopisches Potenzial. Wie die Meisterin der «Speculative Fiction» Margaret Atwood sagt: Jede Technologie hat eine gute, eine schlechte und eine unerwartet alberne Seite. Technologische Entwicklung erscheint oft paradox: Einerseits ist sie natürlicher und notwendiger Teil der Evolution des Menschen und bringt doch oft einen Eindruck von Unnatürlichkeit und Entmenschlichung mit sich. Mein eigenes Verhältnis zur Digitalisierung unserer Gesellschaft ist ebenso gespalten. Mich fasziniert und begeistert die Brillanz technologischer Neuerungen. Die sozialen Medien bieten Möglichkeiten einer globalen Vernetzung, die grosses politisches Potenzial hat: für Verständigung, für Aufklärung, für Aktivismus. Das zeigt die Me-Too-Debatte, bei der der Austausch im Digitalen zu realen Konsequenzen führt: zur Aufklärung von Gewaltverbrechen, zu einer Neuorientierung, was Genderrollen angeht, zum Nachdenken und zur Diskussion über Themen, die lange als tabu galten.

«Besonders der schrankenlose Eingriff in die Privatsphäre,

der durch die Digitalisierung möglich wird, weckt Unbehagen in mir.»

Die Digitalisierung erlaubt es uns, uns zu vernetzen, Arbeitsprozesse zu verbessern, soziale Kontakte über weite Entfernungen zu halten. Sie bietet Zugang zu einem Reichtum an Informationen. Gleichzeitig ist sie aber auch Werkzeug im Verbreiten von Fehlinformationen und Hass, auch das hat immer wieder sehr reale Konsequenzen, wie die Wahlkämpfe in den USA und Brasilien gezeigt haben.

Besonders der schrankenlose Eingriff in die Privatsphäre, der durch die Digitalisierung möglich wird, weckt Unbehagen in mir. Ich finde es erschreckend, wie leicht zugänglich unsere privatesten Verhaltensweisen und Vorlieben – wie zum Beispiel unsere politische Einstellung – geworden sind.

Ende 2017 präsentierten Forscher der UCLA im Magazin «Science» die Ergebnisse einer umfassenden Datenerhebung von US-Bürgern. Ein privates Unternehmen namens SafeGraph hatte Daten von Wetter-Apps, Handyspielen, Hintergrundbilder-Apps etc. von 10 Millionen Smartphones gesammelt, analysiert und insgesamt 17 Milliarden Ortsmarker aus GPS-Daten erhoben. Aus ihnen konnten die Forscher ableiten, dass Familien, die in der Präsidentschaftswahl für unterschiedliche Parteien gestimmt hatten, an Thanksgiving weniger Zeit zusammen verbrachten. Die meisten Menschen, die die ausgewerteten Apps installiert hatten, waren sich vermutlich nicht im Klaren, dass ein solcher Zugriff überhaupt möglich war, obwohl sie diesem in den AGBs zugestimmt hatten.

Im Mai 2018 wurde ein internes Video publik gemacht, in dem Google seine Vision der Zukunft zeigt. Die Vision eines sogenannten «Selfish Ledger», eine Art digitaler Daten-DNA, erstellt anhand der persönlichen Informationen jedes Smartphone-Nutzers über sein Verhalten, seine Vorlieben, seine Beziehungen, am besten über Generationen hinweg. Ziel sei, dass die Smartphones diese digitalen Daten analysieren, um zu antizipieren, was ihre Nutzer als Nächstes tun werden, und ihnen dann schon vorher Lösungen präsentieren. In Googles Vision kennen uns unsere digitalen Geräte besser als wir uns selbst und werden zu einer Art Vormund: Wir Nutzer tun, fühlen und vor allem kaufen, was sie uns vorschlagen. Wie viel Macht wollen wir Unternehmen überlassen, deren klares Ziel Gewinnsteigerung ist?

Die Gefahr von Diskriminierung, Überwachung, Manipulation und Kontrolle, die durch die Digitalisierung und Datafizierung der Gesellschaft möglich ist, wird besonders deutlich am Beispiel China, wo der Einsatz von Datensammlung, künstlicher Intelligenz und Überwachungswerkzeugen im Dienst eines autoritären Regimes geschieht, das «politische Erziehungszentren» betreibt und immer wieder kritische Stimmen zum Schweigen bringt. Unter anderem mittels eines «sozialen Kreditsystems», bei dem digitale Daten über Einkaufsgewohnheiten, Freundschaften, Reisevorlieben und Eigenschaften wie «politische Offenheit» jedes einzelnen gespeichert und mit Punkten bewertet werden. Das Punkteergebnis wird dann benutzt, um Menschen zu diskriminieren, die nicht der Norm entsprechen, z.B. weil sie sich als Journalisten kritisch mit dem System auseinandersetzen. Sie bekommen keine Wohnungen, keine Kredite, keine Visa.

«Entfernt der gesellschaftliche Perfektionismus und Optimierungsdrang den Menschen von seiner Urmenschlichkeit?»

Das kommt uns in der Schweiz vielleicht weit entfernt vor, aber auch wir leben in einer Art Bewertungsgesellschaft, in der wir uns gegenseitig beispielsweise an unseren Likes und Shares in den sozialen Medien messen. Und auch wir legen unsere «digitale DNA» in Hände, die sich rechtsstaatlicher Kontrolle teilweise zu entziehen scheinen. 2018 wurde durch ein Dossier der «New York Times» bekannt, dass Facebook seine Gegner und Kritiker gezielt diffamieren liess – erinnert solches Verhalten nicht ein bisschen an das eines mächtigen Herrschers, der sich unantastbar fühlt?

Ich frage mich: Gibt es einen Zusammenhang zwischen der technologischen Entwicklung und der sozialen Entwicklung unserer gesellschaftlichen Strukturen, hin zu einer Leistungsgesellschaft, in der die Selbstoptimierung, also das «Funktionieren», zum höchsten Ziel erhoben wird, genau die Fähigkeiten, die wir eigentlich mit Maschinen assoziieren? Entfernt der gesellschaftliche Perfektionismus und Optimierungsdrang den Menschen von seiner Urmenschlichkeit?

Literatur ist immer der Versuch einer Auslotung des Menschlichen. Sie stellt dieselbe Frage in unterschiedlichen Variationen: Was macht den Menschen aus? Wie liebt er, wie trauert er, wie lernt er, wie wird er geboren, erwachsen, wie stirbt er? Mich motivierte beim Schreiben meines Romans «Die Hochhausspringerin» unter anderem die Frage: Was unterscheidet den Menschen von seinen Bots? Der Text war für mich eine Art Turing Test, eine Versuchsanordnung, mit der ich herauszufinden versuchte, was uns – oder in diesem Fall meine Figuren – menschlich macht.

Für mich spielt «Die Hochhausspringerin» in einer Art parallelen Gegenwart, die ich an den Rändern unserer Gegenwart durchschimmern sehe. Alle Technologien und sozialen Strukturen, die im Text vorkommen, existieren – auf eine etwas andere, noch weniger sichtbare Weise – bereits. Ich erlebe unsere Gegenwart als hochentwickelt, aber teilnahmslos, als frei, aber mit extrem hohem Anpassungszwang, als fördernd, aber überfordernd. Dieses Gefühl habe ich in meinem Roman versucht zu analysieren, zu klären, zu übersteigern. Die Dystopie, die so entstanden ist, ist kein Endzeitszenario. Stattdessen ein Blick unter die angenehm glatte, attraktive Oberfläche unserer komfortablen Westwelt. Ein Blick, der hoffentlich Raum gibt für Fragen, für Zweifel, für Reflexion, für Veränderung. Fragen wie: Was könnte aus den digitalen Keimen entstehen, die wir dabei sind auszusäen – im positiven wie im negativen Sinne?

Zu von Lucadous Roman «Die Hochhausspringerin» (Hanser Berlin, 2018):

In «Die Hochhausspringerin» entwirft Julia von Lucadou eine Welt, in der jeder Schritt eines Menschen getrackt wird – und umgehend bewertet. Ein Fehler bedeutet Minuspunkte, ein zu niedriger Creditscore die Ausschaffung aus der Stadt. Denn in der Stadt leben dürfen nur die Leistungsstarken, die Schlanken, die Schönen, die Sportlichen. Alle anderen harren aus in den schmutzigen Betonblöcken der Peripherien; hin und wieder dürfen sie sich in Castings um einen Eintritt in die Stadt bewerben. Ist das noch Dystopie oder schon eine zugespitzte Bestandsaufnahme der Gegenwart?
Julia von Lucadou, 1982 in Heidelberg geboren und promovierte Filmwissenschafterin, greift in ihrem in glasklarer, funktionaler Sprache verfassten Debütroman jene gesellschaftlichen Entwicklungen auf, die sie, wie sie in einem SRF-Interview verrät, besonders abstossen: der Optimierungs- und Leistungsdrang, das ständige Vergleichen auf allen Kanälen, die freiwillige Selbstausbeutung, um perfekt zu sein. Sie selbst sei während ihrer Tätigkeit als Fernsehredaktorin einmal in einen Sog des Immer-mehr-Arbeitens geraten, bis sie sich irgendwann die erlösende Frage stellte: «Warum mache ich das überhaupt?» (Katja Schönherr)

Ein Zitat aus dem Werk:

«Ich spüre das Pochen eines beginnenden Clusterkopfschmerzes. Trotz meines Interesses am Psychosomatischen ärgere ich mich über die Psychosensibilität meines Körpers. Ich halte mich an das, was ich Klienten rate. Ich atme durch. Ich sage mir in beruhigendem Ton: Deine Emotion gehört nicht hierher. Deine Emotion kommt aus der Vergangenheit.»

Fotos: Maurice Haas.