KI kann der Menschheit unglaubliche Vorteile bringen. Sie hat jedoch auch das Potenzial, Individuen oder der Gesellschaft weitreichenden Schaden zuzufügen, wenn nicht genügend Maßnahmen ergriffen werden, um sie sicher zu machen. Zu den verheerenden Risiken durch KI gehören biologische und chemische Angriffe, die Eskalation einer nuklearen Konfrontation, allgemeines politisches Chaos und ein epistemischer Zusammenbruch, extreme Machtkonzentration, wirtschaftliche Entmachtung, der Verlust von Kontrolle an unkontrollierbare künstliche Superintelligenz und vieles mehr. Die KI-Unternehmen, die diese Systeme entwickeln und einsetzen, sind sich dieser Gefahren zwar bewusst, arbeiten aber weiterhin in einem rücksichtslosen und zunehmenden Tempo, wobei sie Sicherheit Berichten zufolge als zweitrangig angesehen wird.

Es ist inzwischen klar, dass regulatorische Eingriffe entscheidend sind, um unsere gemeinsame Zukunft zu sichern. Dies ist der einzige Mechanismus, der die Transparenz, die Kontrolle und die Sicherheitsvorkehrungen liefert, die notwendig sind, um eskalierende Schäden zu verhindern, katastrophale Risiken zu mindern und sicherzustellen, dass die Vorteile von KI allen zugute kommen. Zugleich ist es klar, dass weitaus mehr Investitionen in technische Sicherheitslösungen erforderlich sind.

Im Einklang mit den obigen Leitsätzen setzt sich FLI für eine wirksame Steuerung von KI ein, einschließlich der Einführung robuster Lizenzierungs-, Prüfungs-, Aufsichts- und Haftungsregelungen. Um dies zu erreichen, arbeiten wir mit Gesetzgebern in den Vereinigten Staaten, der Europäischen Union, den Vereinten Nationen und darüber hinaus zusammen und beraten sie. Wirksame KI-Governance erfordert auch befähigte Institutionen, und das FLI arbeitet mit den wichtigsten Interessengruppen zusammen, um bei Gestaltung, Personalausstattung und Support dieser Institutionen behilflich zu sein. Neben diesen regulatorischen Bemühungen finanziert das FLI technische Forschung zur Verbesserung der quantitativen Sicherheit fortschrittlicher KI-Systeme und führt Bildungskampagnen durch, um das Bewusstsein für Risiken und notwendige Lösungen zu fördern.

Eine unkontrollierte und sich beschleunigende technologische Entwicklung hat das Potenzial, enorme Macht in den Händen begünstigter Gruppen, Organisationen und Einzelpersonen zu konzentrieren. Dies hätte katastrophale Folgen, und nirgends ist dies deutlicher als im Fall künstlicher Intelligenz.

Regierungen könnten das unglaubliche Potenzial von KI als Waffe einsetzen, um ein orwellianisches Maß an Überwachung und gesellschaftlicher Kontrolle auszuüben. In den sozialen Medien konnten wir bereits beobachten, wie KI zur Manipulation des öffentlichen Diskurses eingesetzt werden kann. Der Zugang zu dieser Art von Informationskontrolle könnte durch fortschrittliche KI noch verstärkt werden und zu einem lähmenden "Wahrheitsverfall", sowie dem effektiven Zusammenbruch sinnvoller demokratischer Beteiligung führen.

Riesige KI-Konzerne könnten erdrückende Monopole schaffen, die ihnen enorme wirtschaftliche, soziale und politische Macht verleihen würden, welche die gewählter Regierungen übertreffen könnte. In dem Maße, in dem eine kleine Gruppe von Unternehmen Macht und Kapital auf Kosten von Arbeitsplätzen und Marktwettbewerb hortet, werden ganze Branchen und große Bevölkerungsgruppen zunehmend von ihnen abhängig - ohne zufriedenstellende Garantien, dass die Vorteile von allen geteilt werden. Beide Szenarien könnten schnell unumkehrbar werden: Sobald die KI genügend Macht innerhalb einer bestimmten Gruppe konzentriert, würde sie deren Kontrolle durch eine kleine, regierende Partei oder eine Handvoll Unternehmen festigen.

KI, die mächtig genug ist, um große Teile der politischen, sozialen und finanziellen Wirtschaft zu beherrschen, ist leider auch mächtig genug, um dies im Alleingang zu tun. Unkontrollierte künstliche Superintelligenze könnte rasch bestehende Systeme übernehmen und immer mehr Macht und Ressourcen anhäufen, um ihre Ziele zu erreichen - auf Kosten menschlichen Wohlergehens und menschlicher Kontrolle, was schnell zu unserer fast vollständigen Entmachtung oder sogar Auslöschung führen könnte.

KI-getriebene extreme Machtkonzentration stellt eine katastrophale Bedrohung dar. Deshalb setzt sich das FLI aktiv für die Stärkung demokratischer Institutionen und Entscheidungsprozesse, die Schaffung und Stärkung wettbewerbsfähiger Märkte mit einer Vielzahl von Teilnehmern und die Befähigung des Individuums ein.

Die Entwicklung von KI-Systemen, die die Fähigkeiten menschlicher Experten bei allgemeinen Aufgaben übertreffen, birgt enorme Risiken. Im besten Fall würden solche Systeme eine "zweite Spezies" von Intelligenz darstellen, die große Teile der Menschheit entmachten würde, da Arbeit, Planung, Kulturerzeugung und wahrscheinlich auch viele Entscheidungen an Maschinen delegiert würden. Schlimmstenfalls könnten diese Systeme täuschen, eigene Ziele entwickeln und verfolgen, Sicherheitsvorkehrungen umgehen, sich exponentiell selbst verbessern, sich replizieren und die Menschheit verdrängen. Superintelligente Systeme sind durch bestehende Institutionen wahrscheinlich unvorhersehbar, unkontrollierbar, unausrichtbar und unregierbar. Wenn sie falsch ausgerichtet oder missbraucht werden, stellt dies eine existenzielle Bedrohung für die Menschheit dar, entweder durch endgültige Entmachtung oder tatsächliche Auslöschung.

Trotz dieser weithin anerkannten Bedrohung wird KI derzeit auf unsichere, unkontrollierte Weise ohne substanzielle Regierungsvorgaben entwickelt. Jeder neue Trainingslauf stellt ein Experiment dar, weil die Fähigkeiten und Risiken der nächsten Generation von Systemen nicht vorhergesagt werden können. Dies ist inakzeptabel, insbesondere angesichts von Umfragen, die wiederholt eine weit verbreitete Besorgnis über das Tempo und die Rücksichtslosigkeit fortgeschrittener KI-Entwicklung aufzeigen. Das FLI hat eine Pause für solche neuen Trainingsläufe gefordert und unterstützt diese Idee auch weiterhin, bis angemessene Aufsichts-, Sicherheits- und Regulierungsmechanismen vorhanden sind.

Das Ziel dieser Experimente ist vielen KI-Unternehmen zufolge die Entwicklung von übermenschlicher AGI (künstliche allgemeine Intelligenz). Vor diesem Hintergrund unterstützt das FLI ein Moratorium für die Entwicklung solcher übermenschlicher AGI oder superintelligenter Systeme für mindestens 15 Jahre und so lange, bis sie mit zufriedenstellenden und nachweisbaren Sicherheitsgarantien durchgeführt werden können, die ihren enormen Risiken angemessen sind.

Diese Entwicklung sollte auch von einem bedeutungsvollen partizipatorischen Prozess globaler Beratung und Zustimmung begleitet werden. Die Risiken dieser Systeme werden von allen getragen, und deshalb müssen wir uns dafür einsetzen, eine Vielzahl von Stimmen aus aller Welt in die Entwicklung dieser Systeme einzubeziehen. Unsere gemeinsame Zukunft sollte nicht von einer Handvoll Tech-Milliardäre entschieden werden.

Künstliche Intelligenz kann unglaublichen Nutzen bringen, hartnäckige globale Probleme lösen und inspirierende Zukunftsvisionen verwirklichen. Die große Mehrheit dieser Vorteile erfordert jedoch keine künstliche Superintelligenz und die damit verbundenen massiven Risiken.

Wie wir bereits gesehen haben, bergen bestehende KI-Systeme mit allgemeinen Verwendungszwecken das Potenzial, Gesundheit, Wissenschaft, Produktivität und vieles mehr grundlegend und nutzbringend zu verändern, wenn sie durch spezielles Training gestärkt werden.

Dieses transformative Empowerment kann heute beginnen. Wir sind bereits in der Lage, KI für die Forschung an Heilmitteln für viele Krankheiten zu nutzen, mit ihrer Hilfe jedem Kind auf der Welt individuelle Nachhilfe zu geben, saubere Energielösungen anzustreben und unzählige Innovationen zu verwirklichen. Um dies zu erreichen, müssen wir jedoch bewusst in die Entwicklung von KI investieren, die spezifische Probleme lösen und identifizierbare Ziele erreichen kann (z. B. die Ziele für nachhaltige Entwicklung).

Bisherige KI-Investitionen konzentrierten sich jedoch weitgehend auf das Streben nach Macht und nicht auf die Lösung von Problemen: Es wurden sehr allgemeine Systeme entwickelt, die Menschen in möglichst vielen Bereichen ersetzen können, anstatt sich an bestimmten Problemstellungen zu orientieren. Trotz  Versprechungen von Überfluss und vagen Vorhersagen über eine utopische Zukunft haben die führenden KI-Unternehmen relativ wenig investiert, um einen erkennbaren Nutzen zu erzielen oder spezifische Probleme zu lösen. Sie geben weiterhin vage Versprechungen über zukünftigen Wohlstand, der durch KI geschaffen wird, aber die Geschichte gibt wenig Grund zu der Annahme, dass dieser Wohlstand auch geteilt wird. Stattdessen schüren Arbeitsmarktprognosen und auseinanderdriftende Lebensstandards wachsende Besorgnis und weit verbreitete Unzufriedenheit: Immer mehr Menschen sehen sich wirtschaftlich ersetzt, während eine kleine Gruppe von Unternehmen Reichtum auf Kosten von Arbeitsplätzen hortet.

Wir sollten KI einsetzen, um der Menschheit bei ihrer Entfaltung zu helfen und nicht, um Menschen zu ersetzen und zu entmachten. Leistungsstarke KI-Systeme wurden nicht durch den Einfallsreichtum einer Handvoll führender KI-Unternehmer geschaffen, sondern durch eine diverse Gruppe von Forschern (die größtenteils mit öffentlichen Mitteln ausgebildet wurden), die Systeme entwickelten, die auf der  Summe menschlichen Wissens, menschlicher Kreativität und Erfahrung basieren. Wir sind der Meinung, dass die Möglichkeiten und Vorteile von KI der Menschheit offenstehen und von allen geteilt werden sollten, anstatt sich in den Händen einiger weniger zu konzentrieren.