Existentielles Risiko

Ein existentielles Risiko für die Menschheit ist ein Ereignis, welches in der Lage ist, auf der Erde entstandenes, intelligentes Leben auszulöschen, oder dessen gewünschte Entwicklung drastisch und permanent einzuschränken.[1] Sie unterscheiden sich von anderen Formen von Risiken sowohl durch ihren umfassenden Wirkungsbereich, als auch ihr enormes Schadensausmaß. Naturkatastrophen wie Supervulkane[2] und Asteroiden[3] können, falls ausreichend mächtig, existentielle Risiken darstellen, wenngleich Ereignisse menschlichen Ursprungs wie beispielsweise Atomkrieg, Bioterrorismus, Künstliche Intelligenz[4] oder katastrophaler Klimawandel[5] ebenfalls das Fortbestehen intelligenten Lebens auf der Erde bedrohen können.

Künstlerische Darstellung eines großen Asteroideneinschlags. Ein Asteroid mit gewaltiger Einschlagskraft könnte für das Aussterben der Dinosaurier verantwortlich sein.

Während einzelne Bedrohungen wie Atomkrieg oder Klimawandel intensiv untersucht werden, hat die systematische Analyse existentieller Risiken ungeachtet ihrer enormen Bedeutung[6] erst im Jahre 2002 begonnen.[7] Dies mag auch daran liegen, dass hochgradig interdisziplinäres Wissen zum Erforschen existentieller Risiken notwendig ist.

Mögliche Szenarien

Verschiedenen Ereignisse stellen ein existentielles Risiko für die Menschheit oder gar alles Leben auf der Erde dar:

Ausbruch eines Supervulkans

Der Ausbruch eines ganzen Vulkankomplexes könnte Effekte, die mit einem Nuklearen Winter vergleichbar sind, verursachen und so den Fortbestand der Menschheit gefährden.

Impakt eines Himmelskörpers

Ein Objekt mit einem Durchmesser von mehr als 500 m, das mit hinreichender Geschwindigkeit die Erde trifft, könnte das Ende der Menschheit verursachen.

Gammablitze

Gammablitze sind Wellen intensiver Strahlung, die bei gewissen astronomischen Ereignissen entstehen und die sich mit Lichtgeschwindigkeit durch den Kosmos begeben. Sollte ein derartiger Blitz mit hinreichender Intensität die Erde treffen, würde die intensive Strahlung nicht tief in die Atmosphäre eindringen. Stickstoff und Sauerstoff in den Schichten der oberen Atmosphäre würden jedoch zu Stickstoffmonoxid verschmolzen werden, das auf Ozon einen ähnlichen Effekt wie FCKWs hat, als Folge würde die Ozonschicht wahrscheinlich unrettbar vernichtet.

Das UV-Licht der Sonne, das dann ungebremst die Erdoberfläche erreichen könnte, würde wahrscheinlich vor allem das Phytoplankton, das dicht unter der Wasseroberfläche lebt, ausrotten, was einen Kollaps des gesamten globalen Ökosystems zur Folge haben könnte.[8]

Das Ordovizische Massenaussterben wurde möglicherweise durch einen Gammablitz in Erdnähe verursacht.[9][10][11][12] Der Wolf-Rayet-Stern WR 104 könnte bei seinem Tod einen GRB zur Erde senden und sie so sterilisieren.[13]

Massive Sonneneruptionen

Sonneneruptionen sind gewaltige Protuberanzen auf der Sonnenoberfläche, in deren Folge die Erde mit Subatomaren Teilchen bombardiert wird, die jedoch durch das Erdmagnetfeld abgelenkt werden können. Allerdings wurden Hauptreihensterne, zu denen auch die Sonne gehört, bereits dabei beobachtet, wie sie bisweilen ihre Leuchtkraft um den Faktor 20 erhöhen. Einige Forscher meinen, dass dies ein Zeichen für außergewöhnliche „Super-Protuberanzen“ sein könnte. Es ist nicht auszuschließen, dass die Sonne derartige Strahlungsausbrüche ebenfalls zur Erde senden könnte. Diese hätten möglicherweise ähnliche Effekte auf das irdische Leben wie ein Gammablitz.[14]

Autoritäre Weltregierung

Eine totalitär dominierte Weltregierung könnte durch einen globalen Genozid (Omnizid) den Fortbestand der gesamten Menschheit bedrohen, oder zumindest einen Großteil der Weltbevölkerung ausrotten, während Widerstand durch massive Überwachung und die Einschränkung von Bürgerrechten gefährdet wäre. Große und mächtige Staaten stellen dabei wahrscheinlich eine größere Bedrohung dar als kleine Schurkenstaaten, die den Fortbestand der Menschheit nur mit Massenvernichtungswaffen ernsthaft gefährden können, während eine Weltregierung zu einem schleichenden Omnizid in der Lage wäre.[15]

Derartige Szenarien werden oft in Alternativweltgeschichten diskutiert. Aldous Huxleys Schöne Neue Welt und George Orwells 1984 sind die bekanntesten Vertreter des Genres.[16] In Philip K. Dicks Roman Das Orakel vom Berge werden von den siegreichen Nationalsozialisten im Jahr 1962 alle Schwarzafrikaner ermordet und zu Schmierfett verarbeitet.

Nuklearer Holocaust

Schon einzelne Atomsprengköpfe können Städte zerstören und tausende Menschenleben vernichten. Bereits die Verwendung eines Bruchteils der weltweiten Arsenale könnte also durch die direkte Wirkung Millionen oder gar Milliarden Menschen töten, während die Nachwirkung der Explosionen die Menschheit endgültig ausrotten könnte:

Vernichtete Infrastruktur, vergiftetes Wasser, Keimbahnmutationen, ansteigende Krebsrate, ein kollabierendes Ökosystem, der Zusammenbruch sozialer Institutionen sowie ein Nuklearer Winter könnten die Überlebenden der Explosionen bis zur Ausrottung dezimieren.[17]

Umweltkatastrophen

Der Verlust von Biodiversität unter anderem durch Bejagung, Neobiota und Umweltverschmutzung könnte durch gewisse Schlüsselereignisse das Ende der Menschheit in Form eines globalen Ökozids zur Folge haben.[18]

Pandemien

Eine globale Pandemie, die HIV, das neuartige Coronavirus, den Schwarzen Tod oder die Spanische Grippe an Virulenz und Letalität übertrifft, könnte die Menschheit drastisch verkleinern. Eine komplette Auslöschung gilt jedoch als höchst unwahrscheinlich, da es für einen Erreger schwieriger wird, eine große Zahl an Menschen zu infizieren, je tödlicher er ist.[19] Die Quartäre Aussterbewelle könnte von einer derartigen globalen Seuche ausgelöst worden sein, ein Erklärungsansatz, der als „Hyperkrankheitshypothese“ bekannt ist.[20] Diese wurde durch Ross MacPhee (Mitarbeiter des American Museum of Natural History) und Preston Marx (Aaron Diamond AIDS Research Center und Tulane University) entwickelt, die argumentieren, dass eine hochinfektiöse und tödliche Krankheit eine Schlüsselrolle bei der Dezimierung der Megafauna in Nordamerika gespielt haben könnte. Derartige Krankheiten sind jedoch durch paläontologische Hinweise schwer zu belegen.[21] Das Aussterben der indigenen Rattenspezies auf den Weihnachtsinseln könnte direkt durch Flohkrankheiten verursacht worden sein, die von eingeschleppten Ratten verbreitet worden waren. DNA-Analysen bekräftigten diese Vermutung.[22]

Bioterrorismus

Entwicklungen in der Biotechnologie, der Genetik und der Genomik haben nachhaltige Einflüsse auf die globale Sicherheit. Der Erreger einer Hyperkrankheit in der Hand von Terroristen könnte das Ende der Menschheit bedeuten.[23] Die folgenden Krankheitserreger stellen sogenannte Klasse-A-Pathogene dar und können bereits in ihrer natürlichen Form als Biowaffen verwendet werden.[24]

Bacillus anthracis (Anthrax)
Clostridium botulinum toxin (Botulismus)
Yersinia pestis (Pest)
Variola major (Pocken) und verwandte Pockenviren
Francisella tularensis (Tularämie)
Virales Hämorrhagisches Fieber
Arenaviren: Junin, Machupo, Guanarito, Chapare Lassa, Lujo
Bunyaviren
Hantaviren
Flaviren
Dengue
Filoviren
Ebola
Marburgvirus

Genetisch modifizierte Pathogene in Biowaffen (z. B. Ebolapocken) sind sicherlich besonders geeignet, eine finale Pandemie zu verursachen.

Graue Schmiere

Molekulare Nanotechnologie kann durchaus zu der Konstruktion von bakteriengroßen Robotern führen, die sich selbst replizieren und anorganische oder organische Verbindungen für ihre Replikation benötigen. Indem sie bei diesem exponentiell beschleunigenden Prozess die Biosphäre vertilgen, vergiften oder das Sonnenlicht blockieren, könnten sie den Fortbestand der Menschheit und allen Lebens auf der Erde gefährden. Sicherheitsvorkehrungen wie abgeschirmte Aufbewahrung, die Beschränkung der „Nahrung“ der Roboter auf seltene Elemente oder einprogrammierte Sperren könnten die Gefahr einer derartigen Katastrophe hypothetisch verringern. Ein Auslegungsstörfall oder der Missbrauch der Nanoroboter als Waffe könnte diese Sperren jedoch umgehen.[16]

Eskalierende globale Erwärmung

Es besteht die Möglichkeit, dass die Freisetzung von Treibhausgasen in die Atmosphäre sich als stark selbst verstärkender Rückkopplungsprozess erweisen könnte, in den ab einem gewissen Point of no Return weder durch Vermeidungsstrategien noch durch Geoengineering interveniert werden kann. Die Erdatmosphäre könnte sich dann der Atmosphäre der Venus angleichen und Leben wäre unmöglich.[16]

Neues Eiszeitalter / Zweite Schneeball Erde

Die Theorie vom „Schneeball Erde“ besagt, dass die gesamte Erde mehrmals in der Erdgeschichte eingefroren war, was möglicherweise zu einigen der schwersten Krisen und Massenaussterben in der Geschichte des Lebens auf der Erde geführt haben soll.[25]

Sollte die momentane Warmzeit abrupt enden, könnten die Temperaturstürze und ihr Einfluss auf die Lebensmittelversorgung das Fortbestehen der Menschheit gefährden.[26]

Vernichtung der Menschheit durch eine künstliche Superintelligenz

Künstlich generierte Intelligenz wäre möglicherweise dazu in der Lage, menschliches Leben auf der Erde vernichten. Zu den Wissenschaftlern, die diese Ansicht vertreten, zählte auch Stephen Hawking. Bereits 2014 konnte sich der Physiker vorstellen, dass die bereits vorhandenen Formen künstlicher Intelligenz so weiter entwickelt werden könnten, dass eine Superintelligenz entsteht, die der des Menschen überlegen wäre. Die eigene Reproduktion, entsprechend den eigenen Bedürfnissen zu gestalten wäre problemlos möglich und nicht durch biologische Evolution beschränkt, wie beim Menschen. Ein lernfähiges System würde sich in seiner Selbstoptimierung regelmäßig verbessern und wäre somit in der Lage Upgrades von sich selbst zu erschaffen.[27]

Gemeinsam mit Stuart Jonathan Russell und Max Tegmark veröffentlichte Hawkings 2014 ein Statement indem auch potenzielle Risiken im Umgang mit einer künstlich gesachaffenen Superintelligenz thematisiert werden. Die Erschaffung einer KI Superintelligenz wäre, nach Ansicht der Wissenschaftler die größte Zäsur in der Geschichte der Menschheit, könnte aber auch das letzte Kapitel der Menschheitsgeschichte mit sich bringen.[28] Folgende Risiken werden benannt:

Bereits 1965 erkannte Irving Good, dass eine künstliche Superintelligenz zu Selbstoptimierung in der Lage wäre und somit die Finanzmärkte manipulieren könnte und selbstständig Waffen erfinden würde, die sich menschlichen Kontrollmechanismen entziehen würden. Während es bei KI kurzfristig darum geht, durch wen sie kontrolliert werden kann, sollten langfristige Betrachtungen die Frage, ob man sie überhaupt kontrollieren kann mit einbeziehen.[28]

Gesicherte Kontrolle tödlicher, autonomer Waffensysteme, die ihre Ziele selbst bestimmen. Aufgrund der potenziellen Risiken, u. a. im Kriegseinsatz, setzt sich Human Rights Watch für ein Verbot ein.[29] Auch die Vereinten Nationen sehen in diesem Bereich dringenden Handlungsbedarf.[30]

Veränderungen unserer Wirtschaftssysteme durch technologischen Fortschritt, sowie daraus resultierende Massenarbeitslosigkeit haben das Potenzial die Gesellschaft weiter zu spalten und soziale Unruhen auszulösen.[31] (siehe hierzu auch "The Second Machine Age" von Erik Brynjolfsson und Andrew McAfee, Wirtschaftsbuch des Jahres 2015[32])

Die Dringlichkeit des Problems wird unterschätzt, was u. a. daran erkennbar ist, dass sich lediglich folgende universitäre Einrichtungen und Non-Profit-Organisationen mit zukünftigen Risiken für die Menschheit beschäftigen, die auch technologische Bedrohungen mit thematisieren: das Future of Humanity Institute[33], das Cambridge Center for Existential Risk[34], das Machine Intelligence Research Institute (MIRI)[35] sowie das Future of Life Institute[36]

Das eigentliche Gefahrenpotenzial besteht also nach Ansicht von Hawkins und Kollegen in einem Kontrollverlust über eine künstliche Superintelligenz, die durch mangelnde Sicherheitsvorkehrungen und Unterschätzung der Fähigkeiten, die ein solches System entwickeln könnte begünstigt wird.[28]

Aussterben durch den Einfluss von Außerirdischen

Sollte es zum Kontakt zwischen Menschen und extraterrestrischen Zivilisationen kommen, könnten diese die Menschheit ausrotten, entweder durch einen gezielten, wie auch immer begründeten Genozid, durch das Einführen fremder Pathogenen, durch Räuber, durch den Raub aller irdischen Rohstoffe oder durch die Ausrottung von Schlüsseltierarten.[16]

Falsifizierte Szenarien

Polywasser

In den 1960er Jahren gaben sich sowjetische Wissenschaftler der Vorstellung hin, mit Polywasser würde eine besonders stabile Variante des Normalen Wassers bestehen. Diese könnte normales Wasser umwandeln, das dann aufgrund veränderter Eigenschaften lebensfeindlich wäre und so das gesamte Ökosystem vernichten würde. Später stellte sich diese Forschung als Pathologische Wissenschaft heraus.

Wahrscheinlichkeit existentieller Risiken

Die Eintrittswahrscheinlichkeiten mancher Gefahren sind mit beträchtlicher Genauigkeit berechnet worden. So beträgt beispielsweise die Wahrscheinlichkeit eines Asteroideneinschlags, welcher das Aussterben der Menschheit zur Folge hätte, 0,000001 (eins zu einer Million) in den nächsten einhundert Jahren[37] (obwohl spätere Forschung eine weit höhere Wahrscheinlichkeit nahelegte).[38] Damit vergleichbar sind Vulkanausbrüche, die schwerwiegend genug sind um katastrophalen Klimawandel zu verursachen, ähnlich dem Toba-Vulkanausbruch, der fast das Aussterben der menschlichen Spezies verursacht hat,[39] Die Häufigkeit von derartigen Vulkanausbrüchen wird auf etwa einmal alle 50,000 Jahre geschätzt.[40] Die Wahrscheinlichkeiten anderer Bedrohungen sind jedoch viel schwieriger zu berechnen. Obwohl Experten der Global Catastrophic Risk Conference die Wahrscheinlichkeit für das Aussterben der menschlichen Spezies innerhalb der nächsten 100 Jahre auf 19 % schätzten, gab es beträchtliche Meinungsverschiedenheiten bezüglich der relativen Bedeutung der jeweiligen Gefahren.[41]

Es gibt erhebliche methodische Schwierigkeiten beim Abschätzen dieser Risiken. Die meiste Aufmerksamkeit wurde Risiken gewidmet, die die menschliche Zivilisation in den nächsten hundert Jahren bedrohen, aber das Vorhersagen über diesen Zeitraum gestaltet sich als sehr schwierig. Alle Bedrohungen, deren Ursprung in der Natur liegt, verhalten sich relativ konstant, obwohl neue Risiken entdeckt werden könnten. Anthropogene Bedrohungen jedoch werden sich wahrscheinlich mit der Entwicklung neuer Technologien dramatisch verändern; während Vulkane über die gesamte Geschichte hinweg eine Bedrohung darstellten, spielen nukleare Waffen erst seit dem 20. Jahrhundert eine Rolle. Die Geschichte zeigt, dass die Fähigkeit die Zukunft vorherzusagen bei früheren Experten sehr eingeschränkt war, gleichwohl könnten moderne probabilistische Vorhersage-Methoden, wie beispielsweise Prognosemärkte oder traditionellere Vorgehensweisen wie Peer-Review die Genauigkeit von Vorhersagen erhöhen.[42]

Bedrohungen menschlichen Ursprungs wie z. B. nuklearer Krieg oder Nanotechnologie sind noch schwerer vorherzusagen, aufgrund der inhärenten methodologischen Probleme in den Sozialwissenschaften. Während der Kubakrise, schätzte John F. Kennedy die Wahrscheinlichkeit eines nuklearen Krieges auf 33 % bis 50 %. Ungeachtet dessen gilt, dass es im Allgemeinen sehr schwer ist die Größenordnung eines dieser Risiken richtig einzuschätzen, da sich internationale Beziehungen und technologischer Fortschritt rapide ändern können.

Aufgrund von Selektionseffekten durch bloße Beobachtung (englisch: observation selection effects) stellen existentielle Risiken eine einzigartige Herausforderung für Vorhersagen dar, sogar mehr als andere weit in der Zukunft liegende Ereignisse. Anders als bei den meisten anderen Ereignissen ist das Ausbleiben von existentiellen Risiken in der Vergangenheit kein Beleg dafür, dass die Wahrscheinlichkeit von in der Zukunft liegenden existentiellen Risiken gering ist. Denn hätte sich ein existentielles Risiko in unserer Vergangenheit ereignet, gäbe es keine Menschen mehr die dies beobachten könnten.[43]

„Bei existentiellen Risiken kann unsere Vorgehensweise nicht praktisches Herumprobieren sein. Es gibt keine Möglichkeit aus Fehlern zu lernen. Die reaktive Herangehensweise – einfach sehen was passiert, Gefahren begrenzen und aus Erfahrung lernen – ist unausführbar. Nein, wir müssen eine proaktive Vorgehensweise wählen. Das erfordert den Weitblick neue Arten von Bedrohungen zu antizipieren und die Bereitschaft entschiedene Präventionsmaßnahmen durchzuführen und deren (moralische oder ökonomische) Kosten zu tragen.“

– Nick Bostrom, Milan Cirkovic[44]

Fermi-Paradoxon

Es wurden bereits viele Planeten außerhalb unseres Sonnensystems entdeckt,[45] und es gibt wahrscheinlich noch viel mehr unentdeckte, erdähnliche Planeten, auf denen Leben entstehen könnte. Angesichts der relativen Schnelligkeit, mit der sich Leben auf der Erde entwickelt hat, und angesichts der enormen Größe des beobachtbaren Universums scheint es a priori und a posteriori wahrscheinlich, dass sich intelligentes Leben auch auf anderen Planeten entwickelt hat.

Somit scheint das Ausbleiben jeglicher Anzeichen von intelligentem Leben außerhalb der Erde ein Paradoxon darzustellen. Besonders relevant ist das Ausbleiben von großflächigen, von der Erde aus sichtbaren, künstlichen Konstruktionen im All, was nahelegt, dass wenige bis keine Zivilisationen lange genug überleben, um den Weltraum kolonisieren zu können.[43]

Es gibt eine Reihe von Erklärungen für das Fermi-Paradoxon, wie beispielsweise die Hypothese, dass die Erde Teil eines galaktischen Zoos sei, oder dass die Entstehung von Leben einfach extrem unwahrscheinlich ist. Eine weitere Erklärung ist jedoch, dass ein Großer Filter (englisch: Great Filter) existiert; der Große Filter ist diejenige Eigenschaft unseres Universums, welche tote Materie davon abhält innerhalb eines genügend großen Zeitraums in intelligentes Leben zu evolvieren und anschließend das Universum zu besiedeln.[46] Falls dieser Filter nun vor uns liegt – vielleicht zerstören sich die meisten Zivilisationen in nuklearen Kriegen – wird er die Menschheit, es sei denn, sie ist sehr ungewöhnlich im Vergleich zu außerirdischen Zivilisationen, davon abhalten den Weltraum zu besiedeln.[47]

Kognitive Verzerrungen

Die Erforschung von kognitiven Verzerrungen offenbart eine Reihe von Tendenzen und Neigungen im Wahrnehmen, Urteilen und Denken von Menschen, welche nicht den Standards unvoreingenommener Rationalität entsprechen. Viele dieser Verzerrungen beeinflussen die Vorhersage von existentiellen Risiken. Die Verfügbarkeitsheuristik beispielsweise könnte Menschen dazu veranlassen die Gefahr existentieller Risiken zu unterschätzen, da offensichtlich noch niemand eines beobachtet hat. In ähnlicher Weise bewirkt der Rückschaufehler, dass vergangene Ereignisse vorhersehbarer erscheinen als sie tatsächlich waren,[48] was zu übermäßigem Vertrauen in die Fähigkeit die Zukunft vorherzusagen führt.

Der Konjunktions-Fehlschluss (englisch: Conjunction fallacy) tritt auf, wenn Menschen die Wahrscheinlichkeit von Konjunktionen überschätzen; z. B. wenn man glaubt, dass eine politische Aktivistin mit größerer Wahrscheinlichkeit eine feministische Bankangestellte als eine Bankangestellte ist.[49] In gleicher Weise unterschätzen Menschen die Wahrscheinlichkeit disjunktiver Ereignisse.[50] Die Bedrohung existentieller Risiken ist hochgradig disjunktiv, denn die Ursache kann nuklearer Krieg oder Klimawandel oder Künstliche Intelligenz oder Bioterrorismus oder ein Asteroideneinschlag sein,[51] was dazu führt, dass die Plausibilität existentieller Risiken unterschätzt wird.

Potentielle Bedeutung existentieller Risiken

Einige Wissenschaftler setzen sich eindringlich für das Verringern existentieller Risiken ein, da zukünftige Generationen davon außerordentlich profitieren würden. Derek Parfit behauptet, dass das Aussterben der Menschheit ein immenser Verlust wäre, da unsere Nachkommen möglicherweise für Milliarden Jahre überleben könnten, bevor die ansteigende Hitze der Sonne die Erde unbewohnbar machen würde.[52] Nick Bostrom argumentiert, dass der Menschheit mit der Besiedlung des Weltalls sogar noch großartigere Möglichkeiten offenstehen. Falls unsere Nachfahren das All besiedeln, könnten sie in der Lage sein, eine sehr große Anzahl von Menschen zu ernähren, und dies möglicherweise für mehrere Billionen Jahre.[53] Deshalb würde selbst eine nur geringfügige Reduzierung der Wahrscheinlichkeit existentieller Risiken einen höchst bedeutsamen Einfluss auf die erwartete Anzahl von in der Zukunft existierenden Menschen haben.

Manche Wissenschaftler stimmen mit den genannten Argumenten nicht überein. Exponentielle Diskontierung könnte diese in der Zukunft liegenden Vorteile viel weniger bedeutsam erscheinen lassen, und manche Philosophen bezweifeln, dass das Sichern der Existenz zukünftiger Generationen von Wert sei.[54]

Manche Wirtschaftswissenschaftler haben ebenfalls die Bedeutung existentieller Risiken diskutiert, obwohl in den meisten dieser Diskussionen der Name „katastrophale Risiken“ (englisch: catastrophic risk) verwendet wird. Martin Weitzman argumentiert, dass möglicherweise die meisten der durch den Klimawandel erwarteten wirtschaftlichen Kosten von der geringen Wahrscheinlichkeit herrühren, dass die globale Erwärmung unsere Berechnungen bei weitem übertrifft und dies katastrophale Schäden zur Folge hat.[5] Richard Posner hat argumentiert, dass wir im Allgemeinen viel zu wenig gegen Gefahren von riesigem Schadensausmaß, jedoch gering erscheinender, schwer abzuschätzender Wahrscheinlichkeit unternehmen.[55]

Siehe auch

Literatur

Nick Bostrom, Milan Cirkovic: Global Catastrophic Risks. Oxford University Press, 2008.
Joel Garreau: Radical Evolution. 2005.
Toby Ord: The Precipice - Existential Risk and the Future of Humanity. Bloomsbury Publishing, 2020. ISBN 978-1-5266-0021-9
Richard A. Posner: Catastrophe. Oxford University Press, 2004.
Martin Rees: Our Final Hour (UK title: „Our Final Century“). 2003, ISBN 0-465-06862-6.
Phil Torres mit Martin Rees (Vorwort): Morality, Foresight & Human Flourishing. An Introduction to Existential Risks. Pitchstone, Durham 2017. ISBN 978-1-63431-142-7.
Alexei Turchin: Structure of the global catastrophe. Risks of human extinction in the XXI century. 2010, ISBN 978-1-4457-5658-5.
Nick Bostrom, Superintelligenz: Szenarien einer kommenden Revolution. 2014, ISBN 3-518-58612-2.
Umfangreiches Interview mit Bostrom. In: The Atlantic (englisch)
Shahar Avin, et al.: Classifying global catastrophic risks, Futures 2018, online.

Weblinks

Eine Website von Nick Bostrom über existentielle Risiken.
Nick Bostrom: Existential Risks: Analyzing Human Extinction Scenarios. – Der ursprüngliche Artikel
Nick Bostrom: Astronomical Waste: The Opportunity Cost of Delayed Human Development. – Aufsatz über die ethische Bedeutung von existentiellen Risiken
Global Catastrophic Risks. Ein Überblick von GiveWell, einer Organisation die forscht wie man mit seinen Spenden am meisten Gutes tun kann
Eliezer Yudkowsky: Cognitive biases potentially affecting judgment of global risks. (PDF; 411 kB) Aufsatz über mehrere kognitive Verzerrungen, welche unsere Beurteilung von existentiellen Risiken beeinträchtigen.
Bill Joy: Why the future doesn’t need us. Wired.com.
Being present in the face of existential threat: The role of trait mindfulness in reducing defensive responses to mortality salience. (PDF)

Einzelnachweise

Nick Bostrom: Existential Risks: Analyzing Human Extinction Scenarios and Related Hazards.
Michael R. Rampino: Super volcanism and other geophysical processes of catastrophic import. In: Nick Bostrom, Milan Cirkovic (Hrsg.): Global Catastrophic Risks. Oxford University Press, 2008.
William Napier: Hazards from Comets and Asteroids. In: Nick Bostrom, Milan Cirkovic (Hrsg.): Global Catastrophic Risks. Oxford University Press, 2008.
Eliezer Yudkowsky: yudkowsky.net Artificial Intelligence as a Positive and Negative Factor in Global Risk. In: Nick Bostrom, Milan Cirkovic (Hrsg.): Global Catastrophic Risks. Oxford University Press, 2008.
Martin Weitzman: On modeling and interpreting the economics of catastrophic climate change. In: The Review of Economics and Statistics. 91, Nr. 1, 2009, S. 1–19.
Nick Bostrom: Existential risk prevention as the most important task for humanity. (PDF; 278 kB) 2011.
N. Bostrom: Existential Risks. In: J. Evol. Technol.
Exploding Stars: Is Earth at Risk? Abgerufen am 28. November 2014.
Christopher Wanjek: Explosions in Space May Have Initiated Ancient Extinction on Earth. NASA. 6. April 2005. Abgerufen am 30. April 2008.
Ray burst is extinction suspect, BBC. 6. April 2005. Abgerufen am 30. April 2008.
A.L. Melott et al.: Did a gamma-ray burst initiate the late Ordovician mass extinction?. In: International Journal of Astrobiology. 3, Nr. 2, 2004, S. 55–61. arxiv:astro-ph/0309415. bibcode:2004IJAsB...3...55M. doi:10.1017/S1473550404001910.
A.L. Melott, B.C. Thomas: Late Ordovician geographic patterns of extinction compared with simulations of astrophysical ionizing radiation damage. In: Paleobiology. 35, 2009, S. 311–320. arxiv:0809.0899.
P. G. Tuthill, J. D. Monnier, W. C. Danchi: Letters to Nature: A dusty pinwheel nebula around the massive star WR104. In: Nature. 398, Nr. 6727, 1999, S. 487. doi:10.1038/19033.
20 Ways the World Could End. Abgerufen am 28. November 2014.
‘Rogue states’ as a source of global risk. (Memento des Originals vom 4. Dezember 2014 im Internet Archive) Info: Der Archivlink wurde automatisch eingesetzt und noch nicht geprüft. Bitte prüfe Original- und Archivlink gemäß Anleitung und entferne dann diesen Hinweis.@1@2Vorlage:Webachiv/IABot/postbiota.org Abgerufen am 28. November 2014.
Existential Risks Analyzing Human Extinction Scenarios and Related Hazards. Abgerufen am 28. November 2014.
Humanity Could Not Survive a Nuclear War Using Even a Fraction of Existing Arsenals. Abgerufen am 28. November 2014.
Das geht auf keine Kuhhaut. In: Die Zeit, Nr. 46/2005. Zwischen Kollaps und Epochenwende – Zur Bedeutung des Ökozids für die Gegenwart. (Memento vom 16. Mai 2007 im Internet Archive)
Claudia Becker: The Last Ship: Warum ein Virus nie die ganze Menschheit auslöscht. In: DIE WELT. 8. April 2017 (welt.de [abgerufen am 23. Januar 2021]).
How Disease can wipe out an entire Species. Abgerufen am 28. November 2014.
How did Hyperdisease cause extinctions? Abgerufen am 28. November 2014.
Disease Can Cause Extinction of Mammals. Abgerufen am 28. November 2014.
Genetic engineering and biological weapons. PMC 1326447 (freier Volltext)
NIAID Biodefense Research NIAID Category A, B, and C Priority Pathogens. Abgerufen am 28. November 2014.
Caltech Education Abgerufen am 28. November 2014.
Who originated the concept of snowball earth? Abgerufen am 28. November 2014.
Stephen Hawking warns artificial intelligence could end mankind. By Rory Cellan-Jones (engl.) BBC am 2. Dezember 2014, aufgerufen am 9. November 2021
Transcending Complacency on Superintelligent Machines (engl.) Huffpost, aufgerufen am 9. November 2021
Stopping Killer Robots. Country Positions on Banning Fully Autonomous Weapons and Retaining Human Control (engl.) Human Rights Watch am 10. August 2020, aufgerufen am 9. November 2021
The Role of the United Nations in Addressing Emerging Technologies in the Area of Lethal Autonomous Weapons Systems von Amandeep Singh Gill (engl.) Vereinte Nationen, aufgerufen am 9. November 2021
Buch „The Second Machine Age“ Wenn Kollege Computer einem den Job wegnimmt Handelsblatt, aufgerufen am 9. November 2021
Deutscher Wirtschaftsbuchpreis 2015 Hohe Auszeichnung für „The Second Machine Age“ Handelsblatt, aufgerufen am 9. November 2021
Future of Humanity Institute (engl.) University of Oxford, aufgerufen am 9. November 2021
Center for Study of Existential Risk (engl.) University of Cambridge, aufgerufen am 9. November 2021
Machine Intelligence Research Institute (engl.) MIRI, aufgerufen am 9. November 2021
The Future of Life Institute works on reducing global catastrophic and existential risk from powerful technologies (engl.) Future of Life Institute, aufgerufen am 9. November 2021
James Gaverick Matheny: Reducing the Risk of Human Extinction. In: Risk Analysis. 27, Nr. 5, 2007.
D. J. Asher, M. E. Bailey, V. Emel’yanenko, W. M. Napier: Earth in the cosmic shooting gallery. In: The Observatory 2005, 125, S. 319–322.
Stanley H. Ambrose: Late Pleistocene human population bottlenecks, volcanic winter, and differentiation of modern humans. In: Journal of Human Evolution. Band 34, Nr. 6, 1998, ISSN 0047-2484, S. 623–651, doi:10.1006/jhev.1998.0219.
M. R. Rampino, S. H. Ambrose: Super eruptions as a threat to civilizations on Earth-like planets. In: Icarus 2002, 156, S. 562–569.
Global Catastrophic Risks Survey, Technical Report. 2008, Future of Humanity Institute
Record of the Workshop on Policy Foresight and Global Catastrophic Risks. Future of Humanity Institute
Observation Selection Effects and Global Catastrophic Risks. Milan Cirkovic, 2008
Nick Bostrom, Milan Cirkovic: Global Catastrophic Risks. 2008, Oxford University Press.
Jean Schneider: Interactive Extra-solar Planets Catalog. In: The Extrasolar Planets Encyclopedia. 2011. Abgerufen am 23. Juni 2011.
hanson.gmu.edu
Katja Grace: Anthropic Reasoning in the Great Filter.
I knew it would happen: remembered probabilities of once-future things. In: Organ. Behav. Human Perf., 13, S. 1–16
A. Sides, D. Osherson, N. Bonini, R. Viale: On the reality of the conjunction fallacy. In: Memory Cogn., 30(2), 2002, S. 191–198
Tversky, Kahneman: Judgement under Uncertainty: heuristics and biases. In: Science, 185, 1974, S. 251–284.
Eliezer Yudkowsky: Cognitive Biases potentially affecting judgements of global risks. 2008
Derek Parfit: Reasons and Persons. Oxford University Press, 1984, S. 453–454 (englisch).
Nick Bostrom: Astronomical Waste: The opportunity cost of delayed technological development. In: Utilitas. 15, Nr. 3, März, S. 308–314.
Jan Narveson: Utilitarianism and New Generations. In: Mind. 76, 1967.
Richard Posner: Catastrophe: risk and response. Oxford University Press, 2004 (englisch).

This article is issued from Wikipedia. The text is licensed under Creative Commons - Attribution - Sharealike. The authors of the article are listed here. Additional terms may apply for the media files, click on images to show image meta data.

[1] Nick Bostrom: Existential Risks: Analyzing Human Extinction Scenarios and Related Hazards.

[vulkan-2] Michael R. Rampino: Super volcanism and other geophysical processes of catastrophic import. In: Nick Bostrom, Milan Cirkovic (Hrsg.): Global Catastrophic Risks. Oxford University Press, 2008.

[asteroid-3] William Napier: Hazards from Comets and Asteroids. In: Nick Bostrom, Milan Cirkovic (Hrsg.): Global Catastrophic Risks. Oxford University Press, 2008.

[KI-4] Eliezer Yudkowsky: yudkowsky.net Artificial Intelligence as a Positive and Negative Factor in Global Risk. In: Nick Bostrom, Milan Cirkovic (Hrsg.): Global Catastrophic Risks. Oxford University Press, 2008.

[weitzman1-5] Martin Weitzman: On modeling and interpreting the economics of catastrophic climate change. In: The Review of Economics and Statistics. 91, Nr. 1, 2009, S. 1–19.

[concept-6] Nick Bostrom: Existential risk prevention as the most important task for humanity. (PDF; 278 kB) 2011.

[7] N. Bostrom: Existential Risks. In: J. Evol. Technol.

[Michael_Schirber-8] Exploding Stars: Is Earth at Risk? Abgerufen am 28. November 2014.

[9] Christopher Wanjek: Explosions in Space May Have Initiated Ancient Extinction on Earth. NASA. 6. April 2005. Abgerufen am 30. April 2008.

[10] Ray burst is extinction suspect, BBC. 6. April 2005. Abgerufen am 30. April 2008.

[11] A.L. Melott et al.: Did a gamma-ray burst initiate the late Ordovician mass extinction?. In: International Journal of Astrobiology. 3, Nr. 2, 2004, S. 55–61. arxiv:astro-ph/0309415. bibcode:2004IJAsB...3...55M. doi:10.1017/S1473550404001910.

[12] A.L. Melott, B.C. Thomas: Late Ordovician geographic patterns of extinction compared with simulations of astrophysical ionizing radiation damage. In: Paleobiology. 35, 2009, S. 311–320. arxiv:0809.0899.

[tuthill99-13] P. G. Tuthill, J. D. Monnier, W. C. Danchi: Letters to Nature: A dusty pinwheel nebula around the massive star WR104. In: Nature. 398, Nr. 6727, 1999, S. 487. doi:10.1038/19033.

[Corey_S._Powell,_Diane_Martindale-14] 20 Ways the World Could End. Abgerufen am 28. November 2014.

[Eugen_Leitl-15] ‘Rogue states’ as a source of global risk. (Memento des Originals vom 4. Dezember 2014 im Internet Archive) Info: Der Archivlink wurde automatisch eingesetzt und noch nicht geprüft. Bitte prüfe Original- und Archivlink gemäß Anleitung und entferne dann diesen Hinweis.@1@2Vorlage:Webachiv/IABot/postbiota.org Abgerufen am 28. November 2014.

[Nick_Bostrom-16] Existential Risks Analyzing Human Extinction Scenarios and Related Hazards. Abgerufen am 28. November 2014.

[Human_Wrongs_Watch-17] Humanity Could Not Survive a Nuclear War Using Even a Fraction of Existing Arsenals. Abgerufen am 28. November 2014.

[18] Das geht auf keine Kuhhaut. In: Die Zeit, Nr. 46/2005. Zwischen Kollaps und Epochenwende – Zur Bedeutung des Ökozids für die Gegenwart. (Memento vom 16. Mai 2007 im Internet Archive)

[19] Claudia Becker: The Last Ship: Warum ein Virus nie die ganze Menschheit auslöscht. In: DIE WELT. 8. April 2017 (welt.de [abgerufen am 23. Januar 2021]).

[NBC_News-20] How Disease can wipe out an entire Species. Abgerufen am 28. November 2014.

[American_Museum_of_Natural_History-21] How did Hyperdisease cause extinctions? Abgerufen am 28. November 2014.

[Wired_Science-22] Disease Can Cause Extinction of Mammals. Abgerufen am 28. November 2014.

[National_Institutes_of_Health-1-23] Genetic engineering and biological weapons. PMC 1326447 (freier Volltext)

[National_Institutes_of_Health-2-24] NIAID Biodefense Research NIAID Category A, B, and C Priority Pathogens. Abgerufen am 28. November 2014.

[Joseph_L._Kirschvink-1-25] Caltech Education Abgerufen am 28. November 2014.

[Joseph_L._Kirschvink-2-26] Who originated the concept of snowball earth? Abgerufen am 28. November 2014.

[BBC-27] Stephen Hawking warns artificial intelligence could end mankind. By Rory Cellan-Jones (engl.) BBC am 2. Dezember 2014, aufgerufen am 9. November 2021

[HUF-28] Transcending Complacency on Superintelligent Machines (engl.) Huffpost, aufgerufen am 9. November 2021

[29] Stopping Killer Robots. Country Positions on Banning Fully Autonomous Weapons and Retaining Human Control (engl.) Human Rights Watch am 10. August 2020, aufgerufen am 9. November 2021

[30] The Role of the United Nations in Addressing Emerging Technologies in the Area of Lethal Autonomous Weapons Systems von Amandeep Singh Gill (engl.) Vereinte Nationen, aufgerufen am 9. November 2021

[31] Buch „The Second Machine Age“ Wenn Kollege Computer einem den Job wegnimmt Handelsblatt, aufgerufen am 9. November 2021

[32] Deutscher Wirtschaftsbuchpreis 2015 Hohe Auszeichnung für „The Second Machine Age“ Handelsblatt, aufgerufen am 9. November 2021

[33] Future of Humanity Institute (engl.) University of Oxford, aufgerufen am 9. November 2021

[34] Center for Study of Existential Risk (engl.) University of Cambridge, aufgerufen am 9. November 2021

[35] Machine Intelligence Research Institute (engl.) MIRI, aufgerufen am 9. November 2021

[36] The Future of Life Institute works on reducing global catastrophic and existential risk from powerful technologies (engl.) Future of Life Institute, aufgerufen am 9. November 2021

[37] James Gaverick Matheny: Reducing the Risk of Human Extinction. In: Risk Analysis. 27, Nr. 5, 2007.

[38] D. J. Asher, M. E. Bailey, V. Emel’yanenko, W. M. Napier: Earth in the cosmic shooting gallery. In: The Observatory 2005, 125, S. 319–322.

[39] Stanley H. Ambrose: Late Pleistocene human population bottlenecks, volcanic winter, and differentiation of modern humans. In: Journal of Human Evolution. Band 34, Nr. 6, 1998, ISSN 0047-2484, S. 623–651, doi:10.1006/jhev.1998.0219.

[40] M. R. Rampino, S. H. Ambrose: Super eruptions as a threat to civilizations on Earth-like planets. In: Icarus 2002, 156, S. 562–569.

[41] Global Catastrophic Risks Survey, Technical Report. 2008, Future of Humanity Institute

[42] Record of the Workshop on Policy Foresight and Global Catastrophic Risks. Future of Humanity Institute

[autogenerated1-43] Observation Selection Effects and Global Catastrophic Risks. Milan Cirkovic, 2008

[44] Nick Bostrom, Milan Cirkovic: Global Catastrophic Risks. 2008, Oxford University Press.

[Encyclopedia-45] Jean Schneider: Interactive Extra-solar Planets Catalog. In: The Extrasolar Planets Encyclopedia. 2011. Abgerufen am 23. Juni 2011.

[46] son.gmu.edu

[47] Katja Grace: Anthropic Reasoning in the Great Filter.

[48] I knew it would happen: remembered probabilities of once-future things. In: Organ. Behav. Human Perf., 13, S. 1–16

[49] A. Sides, D. Osherson, N. Bonini, R. Viale: On the reality of the conjunction fallacy. In: Memory Cogn., 30(2), 2002, S. 191–198

[50] Tversky, Kahneman: Judgement under Uncertainty: heuristics and biases. In: Science, 185, 1974, S. 251–284.

[51] Eliezer Yudkowsky: Cognitive Biases potentially affecting judgements of global risks. 2008

[52] Derek Parfit: Reasons and Persons. Oxford University Press, 1984, S. 453–454 (englisch).

[53] Nick Bostrom: Astronomical Waste: The opportunity cost of delayed technological development. In: Utilitas. 15, Nr. 3, März, S. 308–314.

[54] Jan Narveson: Utilitarianism and New Generations. In: Mind. 76, 1967.

[55] Richard Posner: Catastrophe: risk and response. Oxford University Press, 2004 (englisch).