Dieser offene Brief wurde am 28. Juli bei der Eröffnung der IJCAI (International Joint Conference on Artificial Intelligence) Konferenz 2015 verlesen. Die Presseerklärung dazu ist für Journalisten über Toby Walsh erhältlich.

Das FLI unterstützt die Bereitstellung, die Unterschriftenprüfung und die Verwaltung der Liste der Unterzeichner. Bei administrativen Fragen zum Brief wenden Sie sich bitte an Max Tegmark.

AUTONOME WAFFEN: EIN OFFENER BRIEF VON KI- & ROBOTIK-FORSCHERN

Click here to see this page in other languages: English  Japanese   Russian

Autonome Waffen wählen und bekämpfen Ziele ohne menschliches Eingreifen. Dazu gehören z.B. bewaffnete Quadrokopter, die nach Menschen suchen und sie eliminieren, wenn sie bestimmte vordefinierte Kriterien erfüllen. Nicht dazu gehören dagegen Lenkraketen oder ferngesteuerte Drohnen, bei denen Menschen die Entscheidung über das Ziel treffen. Technologien mit künstlicher Intelligenz (KI) sind an einem Punkt angelangt, an dem die Entwicklung solcher Systeme — zumindest praktisch, wenn auch nicht legal — innerhalb von Jahren und nicht Jahrzehnten möglich ist. Und es steht einiges auf dem Spiel: Autonome Waffen wurden nach Schießpulver und Atomwaffen als die dritte Revolution in der Kriegsführung beschrieben.

Es wurden bereits viele Argumente für und gegen autonome Waffen vorgebracht, zum Beispiel dass es gut ist, dass menschliche Soldaten durch Maschinen ersetzt werden, da dadurch die Verluste für den Eigentümer der Waffen geringer werden. Dies ist gleichzeitig auch ein Argument gegen diese Waffen, da dadurch die Hemmschwelle gesenkt wird, in den Kampf einzutreten. Die Schlüsselfrage für die Menschheit ist heute, ob der globale Wettlauf um KI-Waffen gestartet oder sein Start verhindert werden sollte. Wenn eine der militärischen Großmächte die Entwicklung von KI-Waffen vorantreibt, ist ein globaler Rüstungswettlauf praktisch unvermeidlich. Und der Endpunkt dieser technologischen Reise ist offensichtlich: Autonome Waffen werden die Kalaschnikows von morgen werden. Anders als Atomwaffen benötigen sie keine kostspieligen und schwer zu beschaffenden Ausgangsstoffe, also werden sie allgegenwärtig und für alle maßgeblichen Militärmächte günstig zu produzierende Massenware werden. Es wird nur eine Frage der Zeit sein, bis sie auf dem Schwarzmarkt auftauchen. Dann werden sie bei Terroristen landen, oder bei Diktatoren, die ihr Volk besser kontrollieren wollen, oder bei Warlords, die ethnische Säuberungen durchführen wollen. Autonome Waffen sind ideal geeignet für Missionen wie Attentate, die Destabilisierung von Nationen, die Unterdrückung von Bevölkerungen und die selektive Tötung einer bestimmten ethnischen Gruppe. Wir glauben daher, dass ein Wettlauf des Militärs um die Nutzung von KI-Waffen der Menschheit nicht zu Gute kommen würde. KI kann Schlachtfelder auf viele Weisen sicherer für Menschen – insbesondere für Zivilisten – machen, ohne dabei neue Werkzeuge zum Töten zu erschaffen.

So wie die meisten Chemiker und Biologen kein Interesse am Bau chemischer oder biologischer Waffen haben, haben die meisten KI-Forscher kein Interesse daran, KI-Waffen zu bauen — und sie wollen nicht, dass andere der Reputation ihres Feldes schaden, indem sie genau dies tun und damit für eine öffentliche Gegenbewegung sorgen könnten, die den zukünftigen gesellschaftlichen Nutzen von KI einschränkt. Tatsächlich fanden internationale Abkommen, die zum erfolgreichen Verbot chemischer und biologischer Waffen führten, breite Unterstützung bei Chemikern und Biologen. In ähnlicher Weise unterstützten die meisten Physiker die Abkommen zum Verbot von weltraumbasierten Atomwaffen und Laser-Blendwaffen.

Zusammenfassend glauben wir, dass KI ein großes Potential hat, der Menschheit zu Gute zu kommen und dass dies auch das Ziel dieses Forschungsgebietes sein sollte. Einen militärischen Wettlauf um KI-Waffen zu beginnen ist eine schlechte Idee und sollte durch ein Verbot autonomer Angriffswaffen, die nicht von Menschen gesteuert werden, unterbunden werden.