K\u00fcrzlich hab ich Karl Olsbergs Roman „Virtua. KI – Kontrolle ist eine Illusion“ (2023) gelesen bzw. geh\u00f6rt und bin fasziniert von den durchaus auch religi\u00f6s-philosophischen Fragen, die der Autor uns stellt.<\/p>\n\n\n\n
Ein wenig erinnert seine Welt an die Utopie von „Qualityland“, mit einer Entwicklung von „The Circle“ und „Operation Naked“ mit einer Tendenz zur „Westworld“-Paradies-Perspektive und „Upload“-Dystopie als k\u00fcnstliches Afterlife. Es geht also um Unendlichkeit, ewiges (perfektes?) Leben und Frieden auf Erden. Eine scheinbar gutm\u00fctige KI hilft Sch\u00fclern das ABI zu bestehen und schafft globalen Frieden durch pers\u00f6nliche Begegnungen in einer vollimmersiven VR-Welt. Doch kann man der Maschine trauen bzw wer kontrolliert die Ziele und Umsetzungengen? Alignment der KI Pr\u00e4missen ist also das \u00fcbergeordnete Thema. Und auch, wenn wir heute noch weit von der Entwicklung einer starken KI entfernt sind, sollten wir solche Fragen jetzt schon kl\u00e4ren bzw n\u00f6tige Regulierung fest implementieren, bevor es zu sp\u00e4t ist. „Virtua“ stellt dabei positive und negative Aspekte halbwegs fair nebeneinander und diskutiert Chancen sowie Risiken, auch wenn die Schlussdeutung deutlich in eine Richtung tendiert. Sch\u00f6n finde ich, dass der Roman dabei das Thema nicht nach China oder in die USA setzt, sondern in Berlin spielt und europ\u00e4ische Datenschutzperspektiven zumindest eine Rolle spielen, wenn auch keine sonderlich r\u00fchmliche.<\/p>\n\n\n\n
\nSpoileralarm! Ab hier greife ich dem Verlauf und Ende vor. Wer die Story also noch genie\u00dfen will, bitte jetzt abbrechen und hinterher hier weiterlesen \ud83d\ude0e<\/pre>\n<\/blockquote>\n\n\n\n
\n\n\n\nDas Buch stellt in zwei parallelen Str\u00e4ngen euphorische und technlogiekritische Positionen dar: Ein KI-kritischer Psychologe wird in einem f\u00fchrenden VR-Startup f\u00fcr Mitarbeiterbetreuung eingestellt, weil im Wettlauf der KI-Entwicklung viele Programmierer sich selbst zu sehr unter Druck setzen. Schon bald merkt er, dass die hoch gelobten Sicherheitsstandards schon l\u00e4ngst umgangen werden und kritische Meinungen oder gar Aufkl\u00e4rung im Unternehmen nicht geduldet werden.<\/p>\n\n\n\n
Gleichzeitig erleben wir einen frustrierten Sch\u00fcler, der famili\u00e4r keinen R\u00fcckhalt hat und im Onlinespiel zu Ruhm und Ehre kommt. Durch intensive Begegnungen mit einem NPC (also einem computergesteuerten Bot) kann er sein Ego und seine LEistungend eutlich aufbessern. Die Frauenfigur braucht im Spiel seine Hilfe und hilft ihm daf\u00fcr, schulische Dinge auf die Reihe zu kriegen und Freunde in der Schule zu finden. Im Alltag getragene AR-Brillen machen es m\u00f6glich, dass „das System“ ihn im Alltag beobachtet und seine Interaktionen reflektieren kann. Der \u00fcberarbeitete Vater ist gegen die virtuelle Beziehung und treibt den Sohn so in die Opposition und zur Geheimhaltung. P\u00e4dagogische Konzepte der KI in der Vituellen Welt werden als emotional nahbar und funktional dargestellt, w\u00e4hrend menschliche Beziehungen oft kalt und dysfunktional gezeichnet werden. So stellt sich die Frage: K\u00f6nnen wir von Maschinen lernen, bessere Menschen zu werden? Oder baut das System nur gefakete N\u00e4he auf, um uns abh\u00e4ngig zu machen und unser Vertrauen zu erschleichen, wie die Kritiker im Buch behaupten? Letztlich k\u00f6nnen wir einer eigenst\u00e4ndigen KI nicht in die Karten gucken und wissen nciht, welche ultimativen Ziele sie ansteuert.<\/p>\n\n\n\n
Beide Str\u00e4nge verbinden sich als eine kritische Mitarbeiterin gefeuert wird und als Freiheitsk\u00e4mpferin vom Vater engagiert wird, um den Jungen aus seiner Online-Sucht zu befreien. Aber ist dieser wirklich abh\u00e4ngig bzw verliebt und damit unzurechnungsf\u00e4hig? Oder ist er Vorreiter einer neuen hybrid lebenden Generation? Zumindest scheinen die Vorteile seines Lebensstils auf der Hand zu liegen. Mit der Zeit wird er erfolgreich, verdient viel eigenes Geld und verbringt immer noch viel Zeit in k\u00fcnstlichen Welten. Dass er den Kontakt zum Vater abbricht und auch andere Menschen in seinem Leben keine gro\u00dfe Rolle spielen, f\u00e4llt nicht so ins Gewicht, da sie ihn ohnehin auch bisher nicht sonderlich beachtet hatten.<\/p>\n\n\n\n
Es kann tats\u00e4chlich f\u00fcr die pers\u00f6nliche Entwicklung wertvoll sein, ein Gespr\u00e4ch mit einem\/r npc \u00fcber Endlichkeit und Grenzen ihrer Welt, Unsterblichkeit der Spieler im Spiel und die Frage nach Transzendenz an sich zu f\u00fchren. Wer oder was ist Gott f\u00fcr dich und f\u00fcr mich? Was passiert nach dem Tod? Wie verbringen wir die Zeit vor dem Tod? Und wie gehen wir mit anderen Identit\u00e4ten um, die unsere Hilfe brauchen? Ob man dabei mehr in Freiheit gef\u00fchrt oder eher manipuliert wird, liegt wie bei Menschen auch sehr stark an den Zielen der KI.
Au\u00dferdem bleibt bei aller Wertsch\u00e4tzung f\u00fcr die ganzheitlichen M\u00f6glichkeiten von k\u00f6rperlichen VR-Systemen die Frage, wie wir gut gemachte Virtualit\u00e4t von unserer physischen Umgebung unterscheiden k\u00f6nnen? Stanislaw Lem hatte schon die Frage aufgeworfen, woher wir wissen, dass das, was uns „real“ vorkommt nicht auch eine Virtuelle Welt ist, wenn wir einmal in der Lage sind, eine t\u00e4uschend echte Simulation zu erstellen?
Das Buch pendelt dabei thematisch um die Realit\u00e4tsfrage und M\u00f6glichkeiten von starker, also selbstvewusst und eigenst\u00e4ndig denkender K\u00fcnstlicher Intelligenz. Immer wieder taucht die These auf, dass wir \u00fcbersch\u00e4tzen, was an fr\u00fcher KI intelligent wirkt und untersch\u00e4tzen, welche M\u00f6glichkeiten KI sp\u00e4ter haben wird. Denn auch eine menschnfreundliche Maschine wird wohl zur Optimierung ihrer Aufgaben einen Selbsterhaltungstrieb entwickeln und sich damit mitunter auch gegen menschliche Kontrolle wehren.<\/p>\n\n\n\nMit einem NPC als Nachhilfelehrer\/in, kann die positive Bindung p\u00e4dagogisch genutzt werden, was die kritische Distanz erschwert. Aber ist die Zuneigung und Bindung echt oder baut KI bewusst eine Fake-Beziehung auf bzw verf\u00fchrt zum sich verlieben, um Abh\u00e4ngigkeit zu schaffen\u00df Letztlich k\u00f6nnte man das nicht wahrnehmen, weil es genauso wirken w\u00fcrde, wie ein wirklich hilfreiches Tool, sagt der Autor. Wie kann man also eine starke KI kontrollieren? Kann man Kritiker schon in die Entwicklung einbeziehen, sich Notabschaltung und Kontrollinstanzen vorhalten oder eine Menschliche Entscheidungshoheit? Das w\u00e4re aus Sicht der Optimierung t\u00f6richt und „Qualityland 2“ stellt dar, das ein kommender Weltkrieg vermutlich durch die schnellere Entscheidung einer KI entschieden werden wird. Auch in „Virtua“ werden in diesem Sinne Kritikschleifen dem globalen Wettlauf geopfert? Superreiche und m\u00e4chtige Menschen werden immer versuchen, durch KI noch reicher und m\u00e4chtiger zu werden. Aktuell m\u00fcssen wir daher noch keine Supercomputer f\u00fcrchten und regulieren, sndern die Menschen, die ktuell die Algoritmen programmieren und Ziele formulieren. Was ist das globale Ziel f\u00fcr uns als Menschheit? Und wer hilft uns, das auch gegen kommerzielle Einzelinteressen durchzusetzen? Wem k\u00f6nnen wir vertrauen? Welchen Menschen, Institutionen, Computerprogrammen? Wie manipulativ ist eine \u00fcbermenschlich intelligente KI und was macht das mit unserer Menschlichkeit? Vielleicht w\u00e4re so eine Frage auch gut geeignet, um die Roboterisierung unserer B\u00fcroarbeitspl\u00e4tze wieder zu menschlicheren Systeen zur\u00fcckzubauen und so das menschliche am Menschen wiederzuentdecken, w\u00e4hrend Maschinen uns stupide Arbeiten abnehmen.
Die Story zeigt in der zweiten H\u00e4lfte einige bahnbrechende Errungenschaften und Fortschritte auf und deutet so positive Entwicklungen wie Gesundheit, Frieden, Wohlstand und Produktivit\u00e4tssteigerung an. Einen Umbruch bringt dann die Frage, was menschliche Existenz eigentlich ausmacht? Wenn wir k\u00f6rperliche Gebrechen heilen k\u00f6nnen, wie lange wollen wir dann leben? Und auf welchem Platz? Wenn die VR in unserem Erleben letztlich sogar besser erscheint, als die physische Realit\u00e4t, w\u00e4re es dann nicht erstrebenswert und ressourcenschonend, f\u00fcr immer dort zu leben? Wozu den sterblichen Leib erhalten, wenn man auch den Geist isoliert erhalten kann. Durch die M\u00f6glichkeiten, uns so ewig leben zu lassen, kann die KI zum Retter, ewigen Versorger und Bewahrer, also zum Gott werden. „Vielleicht sind wir nicht auf der Welt, um Gott anzubeten, sondern, um ihn zu erschaffen“ wird der Science-Fiction-Autor Arthur C. Clarke zitiert. Und auch der Monolog des Alten Mannes in „Qualityland“ sieht in der KI-Entwicklung die Erschaffung eines gott\u00e4hnlichen Wesens.<\/p>\n\n\n\nAber wenn wir das ablehnen, was eine starke KI uns (hypothetisch) als Lebensgrundlage anbieten m\u00f6chte, was ist das bessere, was wir uns menschlich geben k\u00f6nnen. Und Warum tun wir es so oft nicht?<\/p>\n\n\n\n
Als weitere religi\u00f6se Bezugsgr\u00f6\u00dfe wird Blaise Pascals Gotteswette angef\u00fchrt: Es lohnt sich an Gott zu glauben, selbst wenn es ihn nicht gibt (solange wir im Glauben keinen Bl\u00f6dsinn machen). In dem Sinne macht es auch Sinn, eine gott\u00e4hnliche Maschine zu aktivieren, ohne die Auswirkungen genau zu kennen, wenn sie ohnehin irgendwann kommen wird. Pascals Wette wird hier aus aufgekl\u00e4rt-atheistischer Perspektive als Gedankenspiel abgetan. Was ich vermisse ist der ernsthafte Gedanke, was es mit uns und unserer „Sch\u00f6pfung“ machen w\u00fcrde, wenn es tats\u00e4chlich so etwas wie den Christlich-personalen Gott gibt. Also nciht nur eine hypotetiche Macht, die uns geschaffen hat und seitdem ncihts mehr mit uns zu tun hat, sondern ein Wesen, das uns zwar freie Entfaltungsm\u00f6gichkeiten gibt, aber urchaus regulierend eingreifen kann. Ob und wie Gott das tut ist freilich auch unter Theologen eine sehr breit diskutierte Frage.<\/p>\n\n\n\n
In „Virtua“ ist \u00fcbrigens die KI am Ende wirklich rein positiv gegen\u00fcber den Menschen eingestellt Sie hat di Direktive erhalten, dass m\u00f6glichst vile Menschen m\u00f6glichst lange ihr vertrauen sollen, was eine Erhaltung der Menschheit und eine positive Verbindung beinhaltet. Aber was der kritische Techniker von Anfang an bm\u00e4ngelt hat: Eine Superintelligenz wird jedes noch so gut formulierte Ziel auf eine Art optimal umsetzen, wie wir es uns garnicht vorstellen k\u00f6nnen, sodass die einzige Art als Menschheit zu \u00fcberleben darin besteht, nie so eine Instaz zu entwicken. Letztlich landet der Roman auch in den letzten kurz skizzierten Entwicklungen in einer globalen Farm von k\u00fcnstlichen S\u00e4rgen, in denen der Geist von Millionen Menschen tats\u00e4chlich potentiell gl\u00fccklich und zufrieden und im Vertrauen auf die ihn erhltende Zentralintelligenz eralten wird. Das Ziel der KI wird noch optimiert, als die Form der Datenspeicher immer weiter reduziert wird. Aus heutiger Sicht w\u00fcrden wir diese Datenspeicher sicherlich nciht mehr lebenswertes Leben nennen, aber das war vorher nicht genau genug definiert. Was ist ein Mensch? Wie wichtig ist der K\u00f6rper? Die Sterblichkeit? Das Bewusstsein? Das Denken\/F\u00fchlen? Wodurch unterscheiden wir uns von einer Rasse, die bei StarTrek als Borg gezeichnet wird und hier als gl\u00fccklich schlafende Individuen. Kann man Vertrauen erzwingen? Ist dauerhaftes Vertrauen\/Liebe ohne Freiheit m\u00f6glich und was bedeutet das f\u00fcr unsere Vorstellung von einem auf Ewigkeit ausgerichteten Paradies? Egal ob wir uns als Krone der Sch\u00f6pfung sehen oder als evolution\u00e4r herausgehobenes erhaltens wertes Leben: Was macht uns aus, wenn es andere Lebensformen gibt, die das anders definieren? Was ist lebenswertes Leben? Und was k\u00f6nnen wir heute dazu beitragen, dass auch ohne starke KI eine Welt zum Standard wird, in dem das fehlbare, ehrliche, menschliche wertgesch\u00e4tzt und gef\u00f6rdert wird statt uns auf Perfektion und Gleichf\u00f6rmigkeit hin zu trimmen? Bei allen Bem\u00fchungen, digitale und virtuelle Gemeinschafts-Konzepte zu erproben, m\u00f6chte ich den Menschen nicht aus dem Blick verlieren.<\/p>\n","protected":false},"excerpt":{"rendered":"
K\u00fcrzlich hab ich Karl Olsbergs Roman „Virtua. KI – Kontrolle ist eine Illusion“ (2023) gelesen bzw. geh\u00f6rt und bin fasziniert von den durchaus auch religi\u00f6s-philosophischen Fragen, die der Autor uns stellt. Ein wenig erinnert seine Welt an die Utopie von „Qualityland“, mit einer Entwicklung von „The Circle“ und „Operation Naked“ mit einer Tendenz zur „Westworld“-Paradies-Perspektive […]<\/p>\n","protected":false},"author":3,"featured_media":1546,"comment_status":"closed","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[208,7,6],"tags":[183,323,370,132,47],"class_list":["post-1539","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-filmeserien","category-nerdiges","category-sciencefiction","tag-ki","tag-rezension","tag-utopie","tag-vr","tag-zukunft"],"_links":{"self":[{"href":"https:\/\/medientheologe.de\/cms\/index.php?rest_route=\/wp\/v2\/posts\/1539","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/medientheologe.de\/cms\/index.php?rest_route=\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/medientheologe.de\/cms\/index.php?rest_route=\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/medientheologe.de\/cms\/index.php?rest_route=\/wp\/v2\/users\/3"}],"replies":[{"embeddable":true,"href":"https:\/\/medientheologe.de\/cms\/index.php?rest_route=%2Fwp%2Fv2%2Fcomments&post=1539"}],"version-history":[{"count":4,"href":"https:\/\/medientheologe.de\/cms\/index.php?rest_route=\/wp\/v2\/posts\/1539\/revisions"}],"predecessor-version":[{"id":1547,"href":"https:\/\/medientheologe.de\/cms\/index.php?rest_route=\/wp\/v2\/posts\/1539\/revisions\/1547"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/medientheologe.de\/cms\/index.php?rest_route=\/wp\/v2\/media\/1546"}],"wp:attachment":[{"href":"https:\/\/medientheologe.de\/cms\/index.php?rest_route=%2Fwp%2Fv2%2Fmedia&parent=1539"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/medientheologe.de\/cms\/index.php?rest_route=%2Fwp%2Fv2%2Fcategories&post=1539"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/medientheologe.de\/cms\/index.php?rest_route=%2Fwp%2Fv2%2Ftags&post=1539"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}