Kürzlich hab ich Karl Olsbergs Roman „Virtua. KI – Kontrolle ist eine Illusion“ (2023) gelesen bzw. gehört und bin fasziniert von den durchaus auch religiös-philosophischen Fragen, die der Autor uns stellt.
Ein wenig erinnert seine Welt an die Utopie von „Qualityland“, mit einer Entwicklung von „The Circle“ und „Operation Naked“ mit einer Tendenz zur „Westworld“-Paradies-Perspektive und „Upload“-Dystopie als künstliches Afterlife. Es geht also um Unendlichkeit, ewiges (perfektes?) Leben und Frieden auf Erden. Eine scheinbar gutmütige KI hilft Schülern das ABI zu bestehen und schafft globalen Frieden durch persönliche Begegnungen in einer vollimmersiven VR-Welt. Doch kann man der Maschine trauen bzw wer kontrolliert die Ziele und Umsetzungengen? Alignment der KI Prämissen ist also das übergeordnete Thema. Und auch, wenn wir heute noch weit von der Entwicklung einer starken KI entfernt sind, sollten wir solche Fragen jetzt schon klären bzw nötige Regulierung fest implementieren, bevor es zu spät ist. „Virtua“ stellt dabei positive und negative Aspekte halbwegs fair nebeneinander und diskutiert Chancen sowie Risiken, auch wenn die Schlussdeutung deutlich in eine Richtung tendiert. Schön finde ich, dass der Roman dabei das Thema nicht nach China oder in die USA setzt, sondern in Berlin spielt und europäische Datenschutzperspektiven zumindest eine Rolle spielen, wenn auch keine sonderlich rühmliche.
Spoileralarm! Ab hier greife ich dem Verlauf und Ende vor. Wer die Story also noch genießen will, bitte jetzt abbrechen und hinterher hier weiterlesen 😎
Das Buch stellt in zwei parallelen Strängen euphorische und technlogiekritische Positionen dar: Ein KI-kritischer Psychologe wird in einem führenden VR-Startup für Mitarbeiterbetreuung eingestellt, weil im Wettlauf der KI-Entwicklung viele Programmierer sich selbst zu sehr unter Druck setzen. Schon bald merkt er, dass die hoch gelobten Sicherheitsstandards schon längst umgangen werden und kritische Meinungen oder gar Aufklärung im Unternehmen nicht geduldet werden.
Gleichzeitig erleben wir einen frustrierten Schüler, der familiär keinen Rückhalt hat und im Onlinespiel zu Ruhm und Ehre kommt. Durch intensive Begegnungen mit einem NPC (also einem computergesteuerten Bot) kann er sein Ego und seine LEistungend eutlich aufbessern. Die Frauenfigur braucht im Spiel seine Hilfe und hilft ihm dafür, schulische Dinge auf die Reihe zu kriegen und Freunde in der Schule zu finden. Im Alltag getragene AR-Brillen machen es möglich, dass „das System“ ihn im Alltag beobachtet und seine Interaktionen reflektieren kann. Der überarbeitete Vater ist gegen die virtuelle Beziehung und treibt den Sohn so in die Opposition und zur Geheimhaltung. Pädagogische Konzepte der KI in der Vituellen Welt werden als emotional nahbar und funktional dargestellt, während menschliche Beziehungen oft kalt und dysfunktional gezeichnet werden. So stellt sich die Frage: Können wir von Maschinen lernen, bessere Menschen zu werden? Oder baut das System nur gefakete Nähe auf, um uns abhängig zu machen und unser Vertrauen zu erschleichen, wie die Kritiker im Buch behaupten? Letztlich können wir einer eigenständigen KI nicht in die Karten gucken und wissen nciht, welche ultimativen Ziele sie ansteuert.
Beide Stränge verbinden sich als eine kritische Mitarbeiterin gefeuert wird und als Freiheitskämpferin vom Vater engagiert wird, um den Jungen aus seiner Online-Sucht zu befreien. Aber ist dieser wirklich abhängig bzw verliebt und damit unzurechnungsfähig? Oder ist er Vorreiter einer neuen hybrid lebenden Generation? Zumindest scheinen die Vorteile seines Lebensstils auf der Hand zu liegen. Mit der Zeit wird er erfolgreich, verdient viel eigenes Geld und verbringt immer noch viel Zeit in künstlichen Welten. Dass er den Kontakt zum Vater abbricht und auch andere Menschen in seinem Leben keine große Rolle spielen, fällt nicht so ins Gewicht, da sie ihn ohnehin auch bisher nicht sonderlich beachtet hatten.
Es kann tatsächlich für die persönliche Entwicklung wertvoll sein, ein Gespräch mit einem/r npc über Endlichkeit und Grenzen ihrer Welt, Unsterblichkeit der Spieler im Spiel und die Frage nach Transzendenz an sich zu führen. Wer oder was ist Gott für dich und für mich? Was passiert nach dem Tod? Wie verbringen wir die Zeit vor dem Tod? Und wie gehen wir mit anderen Identitäten um, die unsere Hilfe brauchen? Ob man dabei mehr in Freiheit geführt oder eher manipuliert wird, liegt wie bei Menschen auch sehr stark an den Zielen der KI.
Außerdem bleibt bei aller Wertschätzung für die ganzheitlichen Möglichkeiten von körperlichen VR-Systemen die Frage, wie wir gut gemachte Virtualität von unserer physischen Umgebung unterscheiden können? Stanislaw Lem hatte schon die Frage aufgeworfen, woher wir wissen, dass das, was uns „real“ vorkommt nicht auch eine Virtuelle Welt ist, wenn wir einmal in der Lage sind, eine täuschend echte Simulation zu erstellen?
Das Buch pendelt dabei thematisch um die Realitätsfrage und Möglichkeiten von starker, also selbstvewusst und eigenständig denkender Künstlicher Intelligenz. Immer wieder taucht die These auf, dass wir überschätzen, was an früher KI intelligent wirkt und unterschätzen, welche Möglichkeiten KI später haben wird. Denn auch eine menschnfreundliche Maschine wird wohl zur Optimierung ihrer Aufgaben einen Selbsterhaltungstrieb entwickeln und sich damit mitunter auch gegen menschliche Kontrolle wehren.
Mit einem NPC als Nachhilfelehrer/in, kann die positive Bindung pädagogisch genutzt werden, was die kritische Distanz erschwert. Aber ist die Zuneigung und Bindung echt oder baut KI bewusst eine Fake-Beziehung auf bzw verführt zum sich verlieben, um Abhängigkeit zu schaffenß Letztlich könnte man das nicht wahrnehmen, weil es genauso wirken würde, wie ein wirklich hilfreiches Tool, sagt der Autor. Wie kann man also eine starke KI kontrollieren? Kann man Kritiker schon in die Entwicklung einbeziehen, sich Notabschaltung und Kontrollinstanzen vorhalten oder eine Menschliche Entscheidungshoheit? Das wäre aus Sicht der Optimierung töricht und „Qualityland 2“ stellt dar, das ein kommender Weltkrieg vermutlich durch die schnellere Entscheidung einer KI entschieden werden wird. Auch in „Virtua“ werden in diesem Sinne Kritikschleifen dem globalen Wettlauf geopfert? Superreiche und mächtige Menschen werden immer versuchen, durch KI noch reicher und mächtiger zu werden. Aktuell müssen wir daher noch keine Supercomputer fürchten und regulieren, sndern die Menschen, die ktuell die Algoritmen programmieren und Ziele formulieren. Was ist das globale Ziel für uns als Menschheit? Und wer hilft uns, das auch gegen kommerzielle Einzelinteressen durchzusetzen? Wem können wir vertrauen? Welchen Menschen, Institutionen, Computerprogrammen? Wie manipulativ ist eine übermenschlich intelligente KI und was macht das mit unserer Menschlichkeit? Vielleicht wäre so eine Frage auch gut geeignet, um die Roboterisierung unserer Büroarbeitsplätze wieder zu menschlicheren Systeen zurückzubauen und so das menschliche am Menschen wiederzuentdecken, während Maschinen uns stupide Arbeiten abnehmen.
Die Story zeigt in der zweiten Hälfte einige bahnbrechende Errungenschaften und Fortschritte auf und deutet so positive Entwicklungen wie Gesundheit, Frieden, Wohlstand und Produktivitätssteigerung an. Einen Umbruch bringt dann die Frage, was menschliche Existenz eigentlich ausmacht? Wenn wir körperliche Gebrechen heilen können, wie lange wollen wir dann leben? Und auf welchem Platz? Wenn die VR in unserem Erleben letztlich sogar besser erscheint, als die physische Realität, wäre es dann nicht erstrebenswert und ressourcenschonend, für immer dort zu leben? Wozu den sterblichen Leib erhalten, wenn man auch den Geist isoliert erhalten kann. Durch die Möglichkeiten, uns so ewig leben zu lassen, kann die KI zum Retter, ewigen Versorger und Bewahrer, also zum Gott werden. „Vielleicht sind wir nicht auf der Welt, um Gott anzubeten, sondern, um ihn zu erschaffen“ wird der Science-Fiction-Autor Arthur C. Clarke zitiert. Und auch der Monolog des Alten Mannes in „Qualityland“ sieht in der KI-Entwicklung die Erschaffung eines gottähnlichen Wesens.
Aber wenn wir das ablehnen, was eine starke KI uns (hypothetisch) als Lebensgrundlage anbieten möchte, was ist das bessere, was wir uns menschlich geben können. Und Warum tun wir es so oft nicht?
Als weitere religiöse Bezugsgröße wird Blaise Pascals Gotteswette angeführt: Es lohnt sich an Gott zu glauben, selbst wenn es ihn nicht gibt (solange wir im Glauben keinen Blödsinn machen). In dem Sinne macht es auch Sinn, eine gottähnliche Maschine zu aktivieren, ohne die Auswirkungen genau zu kennen, wenn sie ohnehin irgendwann kommen wird. Pascals Wette wird hier aus aufgeklärt-atheistischer Perspektive als Gedankenspiel abgetan. Was ich vermisse ist der ernsthafte Gedanke, was es mit uns und unserer „Schöpfung“ machen würde, wenn es tatsächlich so etwas wie den Christlich-personalen Gott gibt. Also nciht nur eine hypotetiche Macht, die uns geschaffen hat und seitdem ncihts mehr mit uns zu tun hat, sondern ein Wesen, das uns zwar freie Entfaltungsmögichkeiten gibt, aber urchaus regulierend eingreifen kann. Ob und wie Gott das tut ist freilich auch unter Theologen eine sehr breit diskutierte Frage.
In „Virtua“ ist übrigens die KI am Ende wirklich rein positiv gegenüber den Menschen eingestellt Sie hat di Direktive erhalten, dass möglichst vile Menschen möglichst lange ihr vertrauen sollen, was eine Erhaltung der Menschheit und eine positive Verbindung beinhaltet. Aber was der kritische Techniker von Anfang an bmängelt hat: Eine Superintelligenz wird jedes noch so gut formulierte Ziel auf eine Art optimal umsetzen, wie wir es uns garnicht vorstellen können, sodass die einzige Art als Menschheit zu überleben darin besteht, nie so eine Instaz zu entwicken. Letztlich landet der Roman auch in den letzten kurz skizzierten Entwicklungen in einer globalen Farm von künstlichen Särgen, in denen der Geist von Millionen Menschen tatsächlich potentiell glücklich und zufrieden und im Vertrauen auf die ihn erhltende Zentralintelligenz eralten wird. Das Ziel der KI wird noch optimiert, als die Form der Datenspeicher immer weiter reduziert wird. Aus heutiger Sicht würden wir diese Datenspeicher sicherlich nciht mehr lebenswertes Leben nennen, aber das war vorher nicht genau genug definiert. Was ist ein Mensch? Wie wichtig ist der Körper? Die Sterblichkeit? Das Bewusstsein? Das Denken/Fühlen? Wodurch unterscheiden wir uns von einer Rasse, die bei StarTrek als Borg gezeichnet wird und hier als glücklich schlafende Individuen. Kann man Vertrauen erzwingen? Ist dauerhaftes Vertrauen/Liebe ohne Freiheit möglich und was bedeutet das für unsere Vorstellung von einem auf Ewigkeit ausgerichteten Paradies? Egal ob wir uns als Krone der Schöpfung sehen oder als evolutionär herausgehobenes erhaltens wertes Leben: Was macht uns aus, wenn es andere Lebensformen gibt, die das anders definieren? Was ist lebenswertes Leben? Und was können wir heute dazu beitragen, dass auch ohne starke KI eine Welt zum Standard wird, in dem das fehlbare, ehrliche, menschliche wertgeschätzt und gefördert wird statt uns auf Perfektion und Gleichförmigkeit hin zu trimmen? Bei allen Bemühungen, digitale und virtuelle Gemeinschafts-Konzepte zu erproben, möchte ich den Menschen nicht aus dem Blick verlieren.