Wir sollten viel mehr Geld für den Schutz vor existenziellen KI-Risiken ausgeben
During the Covid-19 pandemic, the United States effectively "spent" about 4 percent of GDP — via reduced economic activity — to address a mortality risk of roughly 0.3 percent.
Many experts believe that catastrophic risks from advanced A.I. over the next decade are at least this large, suggesting that a comparable mitigation investment could be worthwhile.
Existing lives are valued by policymakers at around $10 million each in the United States.
To avoid a 1% mortality risk, this value implies a willingness to pay of $100,000 per person — more than 100% of per capita GDP.
If the risk is realized over the next two decades, an annual investment of 5% of GDP toward mitigating catastrophic risk could be justified, depending on the effectivess of such investment.
This back-of-the-envelope intuition is supported by the model developed here.
For example, it is optimal to invest at least 1% of GDP annually to mitigate A.I. risk in most of the scenarios considered, even without placing any value on the welfare of future generations.
Aus der noch nicht fachlich geprüften Studie:
How much should we spend to reduce A.I.’s existential risk?
Charles I. Jones
Stanford GSB and NBER
January 16, 2025 — Version 0.2
Genauso wie wir in jungen Jahren Sport machen sollten, damit wir gesund alt werden, sollten wir als Gesellschaft ebenfalls zukunftsgerichtete Politik machen.
Oder vielleicht reicht die Analoge mit Versicherungen: Wir schließen sie ab, um vor schlimmen Vorfällen im Leben geschützt zu sein.
Wir sollten uns auch vor existenziellen KI-Risiken, potenziell katastrophalen Folge-Schäden durch die Klimakrise und die nächsten Pandemien vorbereiten.
Dafür braucht man keine Panikmache, sondern schlicht Hausverstand und einfache Kosten-Nutzen-Kalkulationen wie die obige von Charles Jones.
Ähnlich ist es auch mit Zukunftsinvestitionen in frühkindliche Bildung, Grundlagen-Forschung, die Integration von Zuwander:innen und Infrastruktur für Mental Health.