Kriegsroboter & Künstliche Intelligenz in Horizon Zero Dawn

Teil 1 von 2 der Blogreihe zu Horizon Zero Dawn.

Einleitung

Disclaimer

Horizon Zero Dawn ist ein Action-Rollenspiel des Studios Guerilla Games, welches 2017 für die PlayStation 4 (2020 für PC) erschienen ist und weltweite Anerkennung und Lobpreisungen erhielt. Horizon Zero Dawn ist in Deutschland ab 12 Jahren freigegeben.

Als Spieler:in steuert man die Protagonistin Aloy, die in einer postapokalyptischen Welt lebt, welche neben steinzeitlichen Menschenvölkern und Tieren auch von tierähnlichen Maschinenwesen bewohnt wird. Aloy ist eine Ausgestoßene mit unbekannter Herkunft. Im Laufe des Spiels findet man nicht nur mehr über Aloys „Mutter“ heraus, sondern deckt zudem die spannende Hintergrundgeschichte auf, die in meinen Augen einen Großteil des Reizes des Spiels ausmacht, ja sogar das eigentliche Highlight darstellt.

Im Laufe dieses Essays wird es zu Spoilern der Hintergrundgeschichte von Horizon Zero Dawn und von Ereignissen im Laufe des Spiels kommen. Ich rate daher ausdrücklich vom Lesen dieses Textes ab, wenn man das Spiel noch nicht gespielt hat und die Geschichte noch nicht kennt!

Ich weise zudem darauf hin, dass die Schilderungen in Bezug auf Inhalte des Spiels sowie die Hintergrundgeschichte in großen Teilen auf meinen eigenen Erlebnissen und Erfahrungen beim Spielen des Spiels basieren, ich an einigen Stellen aber auch auf das Horizon Zero Dawn Wiki verweise, in dem deutlich detailliertere Hintergrundinformationen in Bezug auf die Geschichte und die Welt nachgelesen werden können und welches ich herangezogen habe, um die Inhalte des Spiels korrekt darzustellen.

Vorwissen

Wie es mir gelungen ist in den letzten drei Jahren seit der Veröffentlichung des Spiels kaum etwas über die Geschichte in Erfahrung zu bringen und auch den Ankündigungstrailer der E3 2015 zu verpassen, kann ich nicht sagen. Für mein Erlebnis des Spiels und dessen Geschichte sollte sich dies jedoch als Glücksfall herausstellen.

Einzig einige kurze Spielszenen einer Quest zu Beginn des Spiels waren mir untergekommen, als ich mich Anfang 2020 aufmachte, die Welt von Horizon Zero Dawn zu erkunden. Bekannt war mir zu dem Zeitpunkt nur das, was vermutlich den meisten Spieler:innen bekannt war, als sie das Spiel zum ersten Mal spielten: irgendwas mit Apokalypse ist wahrscheinlich und man kämpft mit Pfeil und Bogen gegen Roboterdinosaurier. Beides grundsätzlich Ausgangspunkte, die für mich persönlich durchaus ihren Reiz haben – wer will schon nicht gern mit Pfeil und Bogen gegen Roboterdinosaurier antreten?

Doch vor allem das Szenario um Maschinenwesen und die vermeintliche Apokalypse sind es, die das Spiel auch aus einer philosophischen Sichtweise so spannend machen und die mich letztlich überzeugten es zu spielen. Denn immer, wenn es um Roboter, künstliche Intelligenzen, Kriege und dergleichen geht, sind wesentliche philosophische Fragen und aktuelle Themenschwerpunkte der Ethik, Philosophie des Geistes, Technikphilosophie oder beispielsweise der interdisziplinären Künstliche-Intelligenz-Forschung, zu der auch die Philosophie ihren Teil beiträgt, nicht weit davon entfernt.

Nun hat die Popkultur aber bekannterweise eine Vielzahl an unterschiedlichen Utopien, Dystopien, Apokalypsen und dergleichen hervorgebracht, die den (vermeintlichen) Untergang der Menschheit oder den Kampf gegen künstliche Intelligenzen auf die unterschiedlichsten Weisen – aber doch alle irgendwie ähnlich – thematisieren, weshalb meine Erwartungen auch etwas gebremst waren. Die „Roboterdinosaurier“ fügen möglicherweise eine nette Abwechslung hinzu, aber seien die Gegner nun Geth und Reaper, ein Terminator oder eben maschinelle Tiere, der Kampf Mensch gegen Maschine ist nun mal nicht neu. Woher also – so eine Frage vor Spielstart – dieser Hype um das Spiel?

Malerische Sonnenaufgänge und spaßige Kämpfe

Ein erster Grund lässt sich sofort und einfach feststellen: das Spiel sieht fantastisch aus. Wenn man mit Aloy auf die rostigen Überreste eines abgestürzten Flugzeugs klettert, während die Sonne hinter der nächsten Bergkette aufgeht, dann kann man schon mal ins Staunen darüber kommen – auch mehr als drei Jahre nach Erstveröffentlichung – wie schön, wie detailverliebt, wie atmosphärisch Horizon Zero Dawn seine Spielwelt in Szene setzt und wie beeindruckend Videospiele mittlerweile aussehen können. Mitunter fühlt man sich an ähnliche Momente in anderen Videospielen zurückerinnert, als man beispielsweise zum ersten Mal Himmelsrand in The Elder Scrolls V: Skyrim (Bethesda Softworks, USA, 2011) betrat und den Nachthimmel über sich sah, und verbindet somit auch – wenn auch unterbewusst vielleicht – die persönliche Videospielgeschichte mit dem frisch Erlebten.

Auch ein zweiter Grund wird schnell ersichtlich. Dieser ergibt sich einerseits aus der frischen Prämisse des Kampfes Bogen gegen „Roboterdinosaurier“ und andererseits aus dem gesamten Gameplay selbst. Es macht einfach sehr viel Spaß, sich mit Fallen, Schleudern, Bögen und anderen Waffen gegen die Maschinen anzutreten und die verschiedenen Schwächen der jeweiligen Arten von Maschinen auszunutzen, die Spielwelt zu erkunden, auf hohe Berge zu klettern und Geheimnisse zu entdecken. Guerilla Games gelingt es zudem, bewährte Techniken und Spielelemente sinnvoll einzusetzen und mitunter mit leichten Twists zu versehen.

So klettert man letztlich zwar auch nur – gemäß berühmtberüchtigter „Ubisoftformel“ – auf große Funktürme, die nach Aktivierung die Weltkarte weiter aufdecken, dadurch aber, dass es sich bei den Funktürmen um gewaltige Maschinen handelt, die mit jedem Schritt die Erde beben lassen, hinterlässt dies durchaus seinen eigenen Eindruck und fühlt sich nicht gänzlich abgenutzt an.

Anderweitig wird die Qualität des Spiels auch dadurch deutlich, dass die Verhältnisse zwischen Menschen und Maschinen allein dadurch gekennzeichnet sind, dass Fernkampf und Fallen die wichtigsten Hilfsmittel sind, um sich gegen die Maschinen effektiv erwehren zu können und man selbst gegen schwächere Maschinen nur mit wenigen Treffern sehr schnell das Zeitliche segnen kann.

Doch genug von der beeindruckenden Grafik und dem spaßigen Gameplay. Kommen wir nun zum eigentlichen Highlight des Spiels: der Hintergrundgeschichte.

Horizon Zero Dawns etwas andere „Robokalypse“

Wie eingangs bereits erwähnt, ist Horizon Zero Dawn nicht das erste Videospiel oder Medium, welches sich mit einer Apokalypse, entstanden durch einen Konflikt mit Maschinen, auseinandersetzt und es wird sicherlich auch nicht das letzte sein. Gerade die wissenschaftlichen Erfolge und der technische Fortschritt, welche Teilaspekte und technische Entwicklungen, wie sie aus der Science-Fiction beispielsweise bekannt sind, realisierbarer erscheinen lassen, tragen sicher ihren Teil dazu bei, dass solche Geschichten immer beliebter werden. Doch schon seit dem Erscheinen von Klassikern wie Mary Shelleys Frankenstein oder Stanley Kubricks 2001: Odyssee im Weltraum werden immer wieder unterschiedlichste Konflikte mit Technik thematisiert.

Eine nicht so ferne Zukunft?

Im Zentrum von Horizon Zero Dawn steht nun ein ebensolcher Konflikt, denn knapp 1000 Jahre vor Beginn der Spielhandlung – im Jahr 2064 – kommt es in einigen Modellen autonomer Kriegsroboter der von der Firma Hartz-Timor aufgestellten Kriegsroboterstreitmacht zu einem Glitch, der dafür sorgte, dass diese Modelle nicht auf den Abschaltungsbefehl reagierten und stattdessen abtrünnig wurden, woraufhin sie anfingen sich unkontrolliert selbst zu reproduzieren.[1]

Diese Kriegsroboter der sogenannten Chariot-Linie wurden von Faro Automated Solutions entwickelt und sind so konzipiert, dass sie zum einen nicht von anderen Kriegsrobotern gehackt werden können und zum anderen in der Lage sind, Biomasse in Treibstoff umzuwandeln und so sicherzustellen, dass sie einerseits auch dann weiter funktionieren können, wenn sie ihre Energiereserven länger nicht auf normale Weise aufladen können und andererseits, um zerstörte Einheiten zeitnah durch den Bau neuer Einheiten ersetzen zu können.[2]

Im Vorfeld dieses Glitches erschaffen die Macher:innen von Horizon Zero Dawn dabei eine Welt für ihre Hintergrundgeschichte, die am Abgrund steht. Denn trotz – oder vielleicht auch wegen – großer technischer Errungenschaften droht eine weltweite Klimakatastrophe, die Arbeitslosigkeit ist infolge der Automatisierung auf einem Rekordhoch, die Politik wird von unabhängigen Firmen zunehmend untergraben und es werden mehr und mehr Kriegsroboter gebaut, was verstärkt zu kriegerischen Auseinandersetzungen führt.[3]

Wesentliche Kernelemente für die Welt von Horizon Zero Dawn und die Hintergrundgeschichte – und damit die Gründe, warum sich die Handlung des Spiels letztlich zuträgt – sind der Kampf gegen die Klimakatastrophe sowie das Erschaffen und der Einsatz künstlicher Intelligenzen und Maschinen, einerseits zur Unterstützung in ebenjenem Kampf gegen die Klimakatastrophe, aber auch in Form von autonomen Waffensystemen für Kriege um Einfluss, Macht und Rohstoffe. Hierbei handelt es sich um Punkte, die nicht allzu weit ab sind von der Realität, der wir uns möglicherweise selbst ausgesetzt sehen könnten.

So wird beispielsweise die Diskussion um eine mögliche drohende Rekordarbeitslosigkeit aufgrund der zunehmenden Automatisierung und Digitalisierung beziehungsweise der Wandel der (Arbeits-)Gesellschaft seit einigen Jahren vor allem unter dem Schlagwort Industrie 4.0 geführt.[4] Ob wir wirklich einer Massenarbeitslosigkeit und anderen drastischen Folgen einer solchen Automatisierung ausgesetzt sein werden oder aber in dieser Automatisierung eine bedeutende Chance für uns besteht, wie beispielsweise John Danaher nahelegt,[5] sei an dieser Stelle dahingestellt.

Vielmehr konzentrieren wir uns in diesem Teil auf die beiden oben genannten wesentlichen Punkte, die – in Zeiten, in denen eine weltweite Pandemie grassiert, große Teile Nordamerikas einer nie gesehenen Rekordhitze ausgesetzt sind, während anderswo Unwetter wüten und Starkregen ganze Landstriche unter Wasser setzt und sogar der Ozean brennt –[6] nicht so abwegig erscheinen, wie sie es vielleicht besser sollten.

Dies betrifft auch den Einsatz von autonom handelnden Robotern und Waffensystemen, welche oft als sogenannte lethal autonomous weapon systems („tödliche, autonome Waffensysteme“) bezeichnet werden. Diese werden in einem begrenzten Umfang auch schon in bewaffneten Konflikten und in Kriegen in Form von Minenentschärfungssystemen oder beispielsweise unbemannten Luftfahrzeugen (UAV, von englisch: unmanned aerial vehicle), wie Drohnen, eingesetzt. Genau genommen handelt es sich hierbei aber noch nicht um vollständig autonome Systeme, sondern nur um teilautonome Systeme. Gemeint ist damit, dass diese Systeme bisher zumeist noch von Menschen gesteuert werden (in the loop) oder aber zumindest der Befehl für einen Abschuss sowie der Abschuss selbst von einem Menschen durchgeführt oder zumindest überwacht werden, sodass ein Eingriff möglich ist (on the loop).[7] Erst wenn ein menschlicher Operator keinen Einfluss mehr auf die Entscheidungen und Handlungen des Systems hat (out of the loop), würde es sich um ein vollwertiges autonomes System handeln. Tatsächlich werden aber auch schon On-the-loop-Systeme als autonome Systeme betrachtet, da diese unabhängig von Menschen handeln bzw. operieren können.[8] Unter anderem auch deshalb zählen, wie Philosophin Catrin Misselhorn festhält, „[a]utonome Waffensysteme zu den am heftigsten diskutierten Anwendungsbereichen der Maschinenethik, insbesondere dann, wenn sie den Zweck haben, Menschen zu töten.“[9]

So weist das Future of Life Institute in einem offenen Brief, welcher von einer Vielzahl renommierter Forscher:innen und Expert:innen auf den Gebieten der u.a. Robotik, Künstliche-Intelligenz-Forschung und Philosophie unterzeichnet wurde, auf die Gefahren tödlicher autonomer Waffensysteme hin und warnt explizit vor der Entwicklung und dem Einsatz solcher Technik.[10]

Auf der anderen Seite gibt es aber auch Befürworter:innen, wie beispielsweise Ronald Arkin, die in der Entwicklung solcher Systeme viele positive Eigenschaften sehen und argumentieren, dass der Einsatz autonomer Waffensysteme Kriege oder bewaffnete Konflikte humaner macht, dass autonome Waffensysteme die besseren Soldat:innen sind, weil sie stets moralisch korrekt handeln oder besser und schneller reagieren können – nur um ein paar der Argumente für solche Systeme aufzulisten.[11]

Wenn P. W. Singer in seinem Buch „Wired For War“ dann von Robotern wie dem PackBot der Firma iRobot oder dem Talon von Foster-Miller – beides Systeme zur Entschärfung von Sprengsätzen oder zur Aufklärung – oder dem SWORDS (Special Weapons Observation Reconnaissance Detection System), ebenfalls von Foster-Miller, welches der erste bewaffnete Roboter auf Schlachtfeldern ist und wahlweise unter anderem mit einem Maschinengewehr oder Granatenwerfer ausgestattet werden kann, und deren Fähigkeiten (Stand: 2009) berichtet,[12] dann fühlt man sich nicht grundlos an die oben genannten firmenkontrollierten Kriegsroboter in Horizon Zero Dawn erinnert, die möglicherweise mit weiterem technischen Fortschritt entstehen könnten. Wobei eindeutig festgehalten werden muss, dass Waffensysteme wie die Chariot-Linie in Horizon Zero Dawn (noch) nicht existieren und dies aller Voraussicht nach auch in absehbarer Zukunft nicht tun werden.

Der besondere Weltuntergang in Horizon Zero Dawn

Doch kommen wir nun zurück zur Hintergrundgeschichte von Horizon Zero Dawn und dem Grund, warum diese das eigentliche Highlight des Spiels darstellt. Denn während Spieler:innen, die das Spiel zum ersten Mal spielen vermutlich zwar wissen, dass es irgendwann zu einer Apokalypse kam, die die Menschen offenbar in die Steinzeit zurückbefördert hat, offenbart sich das wahre Ausmaß des Konfliktes den Spieler:innen erst im Laufe des Spiels: die Menschen haben den Kampf gegen die als Faro-Plage bezeichneten abtrünnigen Kriegsroboter nicht einfach nur verloren oder sahen sich beispielsweise gezwungen, Atomwaffen einzusetzen, was die Rückkehr zu steinzeitlichem Leben ebenfalls erklären könnte.

Vielmehr sorgen die Fähigkeiten der Roboter – das Umwandeln von Biomasse in Treibstoff sowie der Schutz vor externer Abschaltung – dafür, dass sämtliches Leben, dies beinhaltet alle Pflanzen, Tiere, Mikroorganismen – eben die gesamte Biosphäre – auf der Erde vernichtet wird und der Planet als ein toter Fels voller Maschinen zurückbleibt. Horizon Zero Dawn erzählt damit von einer Apokalypse und mit einer Konsequenz, wie sie nicht allzu oft erzählt wird und vermag damit durchaus zu überraschen. Vor allem dann, wenn man den oben genannten Trailer nicht kennt und auch ansonsten im Vorfeld des Spiels frei von Informationen über die Hintergrundgeschichte zu Horizon Zero Dawn bleibt.

Die technologische Singularität

Tatsächlich handelt es sich hierbei aber um ein Szenario, welches vor allem im Zuge der sogenannten technologischen Singularität häufiger diskutiert wird. Mit der technologischen Singularität wird dabei in der Regel ein Prozess – wahlweise auch ein bestimmter Zeitpunkt – bezeichnet, welcher vor allem mit einem enormen technischen Fortschritt sowie tiefgreifenden Auswirkungen auf das menschliche Leben in Verbindung gebracht wird.[13] Als wesentliche Treiber einer solchen Singularität werden eine Intelligenzexplosion und eine Geschwindigkeitsexplosion oder eine Kombination dieser angesehen.[14]

Die Intelligenzexplosion

Bei einer Intelligenzexplosion handelt es sich um einen exponentiellen Anstieg von Intelligenz, wobei in dem meisten Fällen davon ausgegangen wird, dass dieser Anstieg durch das Erschaffen künstlicher Intelligenzen, welche intelligenter sind als der intelligenteste Mensch, ausgelöst wird und noch intelligentere Maschinen erschaffen, welche wiederum noch intelligentere Maschinen erschaffen, etc. I. J. Good beschrieb diesen Prozess bereits 1965 wie folgt:

„Let an ultraintelligent machine be defined as a machine that can far surpass all the intellectual activites of any man however clever. Since the design of machines is one of these intellectual activites, an ultraintelligent machine could design even better machines; there would then unquestionably be an ‘intelligence explosion’, and the intelligence of man would be left far behind.“[15]

Die Geschwindigkeitsexplosion

Die Geschwindigkeitsexplosion wiederum bezieht sich zumeist auf eine Vervielfachung der Berechnungs- oder Verarbeitungsgeschwindigkeit von Maschinen, speziell Computern, und geht ebenfalls mit einem starken technischen Fortschritt einher.[16] Ähnlich wie bei der Intelligenzexplosion immer intelligentere Maschinen entstehen, werden so immer schnellere Maschinen beziehungsweise Computer erstellt, sodass sich die Zeitabstände zwischen dem Erschaffen schneller Computer oder Maschinen beständig verringern. Eliezer Yudkowsky beschreibt dies treffend:

„A group of human-equivalent computers spends 2 years to double computer speeds. Then they spend another 2 subjective years, or 1 year in human terms, to double it again. Then they spend another 2 subjective years, or six months, to double it again. After four years total, the computing power goes to infinity [sic!].“[17]

Kombiniert man nun beide Explosionen, so erhält man – so die Annahme – einen Prozess, in dem immer intelligenter werdende Maschinen in immer kürzeren Zeitabständen noch intelligentere Maschinen als sich selbst erschaffen, sodass diese künstlichen Intelligenzen bereits nach kurzer Zeit die menschliche Intelligenz deutlich übersteigen.

Die Folgen einer technologischen Singularität

Die Folgen und Auswirkungen einer technologischen Singularität sind dabei mitunter noch stärker umstritten als die Wege, wie eine solche Singularität erreicht werden kann. Auf der einen Seite heißt es, dass sie enorme Vorteile, beispielsweise die Heilung aller bekannten Krankheiten, die Reinigung der Erde von der Umweltverschmutzung oder ein Ende der Armut mit sich bringen kann.

In Horizon Zero Dawn finden sich Teile dieser Ansicht darin wieder, dass die Menschen der alten Welt künstliche Intelligenzen ebenfalls verstärkt dafür einsetzten, um die Schäden der Umweltverschmutzung rückgängig zu machen. Und auch in Bezug auf das Terraformingprojekt, welches die künstliche Intelligenz GAIA nach der Vernichtung allen Lebens anleitet, werden Maschinen gezielt dafür eingesetzt, um die Erde wieder bewohnbar zu machen und die Schäden der Faro-Plage rückgängig zu machen.

Den positiven Folgen einer technologischen Singularität stehen jene gegenüber, die in dieser ein Wettrüsten mit Kriegsmaschinen oder gar das Ende der menschlichen Existenz sehen, weil beispielsweise das Streben der entstandenen künstlichen Intelligenzen, sich stets zu verbessern oder noch intelligentere Maschinen zu erschaffen, dazu führt, dass sie die Menschen unterwerfen oder diese, genauso wie alles Existierende auf der Erde, als Rohstoff ansehen, welcher abgebaut werden muss, damit sie ihrem Ziel der Verbesserung nachkommen können.

Eine solche These einer existenziellen Bedrohung für das menschliche Leben auf Erden wirft beispielsweise Nick Bostrom in seinem Buch „Superintelligenz“ von 2014 auf. Dort kommt er auf den Punkt zu sprechen, dass eine künstliche Intelligenz mit uns Menschen um die gleichen Rohstoffe konkurrieren oder eben uns Menschen selbst als verwertbare Rohstoffe ansehen könnte.[18] In Verbindung mit der Möglichkeit, dass eine entsprechende künstliche Intelligenz viel intelligenter und mächtiger sei als wir Menschen, werde klar, dass dies zu einer raschen Vernichtung der Menschen führen könne, so Bostrom.[19]

In der Form sogenannter Von-Neumann-Sonden werden ähnliche Prinzipien der Selbstreproduktion auch anderweitig in wissenschaftlicher Forschung, beispielsweise bei Robert A. Freitas, Frank J. Tipler oder Carl Sagan und William Newman,[20] und auch in anderen Science-Fiction-Geschichten aufgegriffen.

Fazit zu Teil 1

Dass sowohl das Wettrüsten mit Kriegsrobotern als auch die Vernichtung der Menschheit in Horizon Zero Dawn im Fokus der Geschichte und Hintergrundgeschichte des Spiels stehen, lässt sich relativ schnell feststellen. Die Macher:innen scheinen sich demnach also auch in diesen Hinsichten an bestehenden Debatten und aktuellen Forschungsschwerpunkten orientiert zu haben. Die Hintergrundgeschichte von Horizon Zero Dawn brilliert demnach also nicht nur deshalb, weil sie sich traut, andere Wege zu gehen, sondern auch, da sie dabei stets versucht, glaubhaft zu bleiben und sich offenbar an aktuellen Debatten und Theorien orientiert und zudem eine Zukunft entwirft, die nicht allzu abwegig ist – und das, obwohl teilweise riesige Maschinenwesen die Welt beherrschen und man sich mit Pfeil und Bogen zur Wehr setzt oder Jagd auf sie macht.

Und auch wenn sich Horizon Zero Dawn dann doch die eine oder andere Freiheit genehmigt und die Macher:innen es sich zugestehen, nicht jede technische Errungenschaft bis ins kleinste Detail näher zu erläutern, beeinträchtigt dies die Qualität der Geschichte und des Spiels kaum. Von einer philosophischen – oder einer anderen wissenschaftlichen – Sichtweise aus betrachtet, wäre es aber natürlich dennoch spannend gewesen zu sehen, wie die eine oder andere technische Errungenschaft in der Welt von Horizon Zero Dawn erreicht wurde und funktioniert.

Ein kurzer Ausblick auf Teil 2

Diesbezüglich werde ich im zweiten Teil auf zwei weitere Aspekte eingehen, bei denen sich die Macher:innen offenbar an aktueller Forschung orientiert haben und die ebenfalls dazu beitragen, Horizon Zero Dawn zu einem so großartigen Spiel zu machen. Genauer gesagt komme ich zum einen auf das Aussehen und Verhalten der Maschinenwesen zu sprechen und gehe kurz auf Mensch-Roboter-Kommunikation und damit verbundene Forschung und den aktuellen Stand der Technik ein. Zum anderen befasse ich mich näher mit der künstlichen Intelligenz GAIA, erläutere kurz, was diese so besonders macht und führe einige Probleme an, denen wir uns in Bezug auf autonome Maschinen und ethische Fragestellungen ausgesetzt sehen.

Literatur und Internetquellen

[1] Vgl. „Machine“: https://horizon.fandom.com/wiki/Machine, letzter Aufruf: 31.08.2021.

[2] Vgl. „Machine“: https://horizon.fandom.com/wiki/Machine, letzter Aufruf: 31.08.2021.

[3] Vgl. „Old Ones“: https://horizon.fandom.com/wiki/Old_Ones, letzter Aufruf: 31.08.2021.

[4] Siehe bspw. Weber, Enzo (2015): „Industrie 4.0 – Wirkungen auf Wirtschaft und Arbeitsmarkt“, Wirtschaftsdienst 95 (11), Springer, Heidelberg u. siehe Hirsch-Kreinsen, Hartmut, Ittermann, Peter, Falkenberg, Jonathan (Hg.) (2018): Digitalisierung Industrieller Arbeit. Die Vision Industrie 4.0 und ihre sozialen Herausforderungen, 2., aktualisierte und erweiterte Auflage, Nomos, Baden-Baden.

[5] Vgl. Danaher, John (2019): Automation and Utopia. Human Flourishing in a World Without Work, Harvard University Press, Cambridge.

[6] Vgl. Dewan, Angela: “Unprecedented heat, hundreds dead and a town destroyed. Climate change is frying the Northern Hemisphere”, über:  https://edition.cnn.com/2021/07/04/world/canada-us-heatwave-northern-hemisphere-climate-change-cmd-intl/index.html u. vgl. “See massive ‚eye of fire‘ burn in Gulf of Mexico”, über: https://edition.cnn.com/videos/world/2021/07/03/mexico-gas-leak-pipeline-eye-of-fire-vpx.cnn u. vgl. Susanka, Sandra: „Schweres Unwetter über Baden-Württemberg“, über: https://www.zdf.de/nachrichten/zdf-morgenmagazin/schweres-unwetter-in-baden-wuerttemberg-100.html, letzter Aufruf alle: 31.08.2021.

[7] Vgl. Misselhorn, Catrin (2018): Grundfragen der Maschinenethik, Reclam, Stuttgart, S. 157f.

[8] Vgl. Misselhorn, 2018, S. 158.

[9] Misselhorn, 2018, S. 155.

[10] Vgl. Future of Life Institute: „Autonomous Weapons: An Open Letter From AI & Robotics Researchers“, über: https://futureoflife.org/open-letter-autonomous-weapons/, letzter Aufruf: 31.08.2021. Misselhorn weist beispielsweise ebenfalls auf diesen offenen Brief hin.

[11] Siehe hierzu beispielsweise Arkin, Ronald C. (2009): Governing Lethal Behavior in Autonomous Robots, CRC Press, Boca Raton u. für einen guten Überblick der Debatte: Leveringhaus, Alex (2016): Ethics and Autonomous Weapons, Palgrave Macmillan, London.

[12] Vgl. Singer, P. W. (2010): Wired For War. The Robotics Revolution and Conflict in the Twenty-first Century, Penguin Books, London, S. 21-31.

[13] Vgl. Kurzweil, Ray (2013): Menschheit 2.0. Die Singularität naht, übers. v. Martin Rötzschke, Lola Books, Berlin, S. 7ff u. vgl. Vinge, Vernor (1993): „The Coming Technological Singularity: How To Survive in the Post-Human era“, Whole Earth Review, Winter, S. 5. Als PDF über: http://de.feedbooks.com/book/2011/the-coming-technologicalsingularity, letzter Aufruf 31.08.2021.

[14] Vgl. Hutter, Marcus (2016): „Can Intelligence Explode?“, in: The Singularity. Could artificial intelligence really outthink us (and would we want to)?, hrsg. v. Uziel Awret, Imprint Academic, Exeter, S. 196.

[15] Good, I. J. (1965): „Speculations Concerning the First Ultraintelligent Machine“, in: Advances in Computers. Vol. 6, hrsg. v. Franz Alt und Morris Rubinoff, Academic Press, New York, S. 33.

[16] Vgl. Chalmers, David (2016): „The Singularity: A Philosophical Analysis“, in: The Singularity. Could artificial intelligence really out-think us (and would we want it to)?, hrsg. v. Uziel Awret, Imprint Academic, Exeter, S. 11f.

[17] Yudkowsky, Eliezer (2001): „Staring into the Singularity“. Über: https://yudkowsky.net/obsolete/singularity.html, letzter Aufruf: 25.04.2018.

[18] Vgl. Bostrom, Nick (2014): Superintelligenz. Szenarien einer kommenden Revolution, übers. v. Jan-Erik Strasser, Suhrkamp Verlag, Berlin, S. 165.

[19] Vgl. Bostrom, 2014, S. 165.

[20] Vgl. Freitas, Robert A., Jr. (1980): “A Self-Reproducing Interstellar Probe“, in: Journal of the British Interplanetary Society 33 u. vgl. Tipler, Frank J. (1981): „Extraterrestrial Beings Do Not Exist“, in: Quarterly Journal of the Royal Astronomical Society 21 (267) u. vgl. Sagan, Carl, Newman, William (1983): „The Solipsist Approach to Extraterrestrial Intelligence“, in: Quarterly Journal of the Royal Astronomical Society 24 (113).