Die zukünftigen Herrscher?

Nicht ohne Grund hat der russische Präsident Vladimir Putin die Bedeutung von KI erkannt, als er sagte: „Wer in diesem Bereich führend ist, ist der Herrscher der Welt“. Technologie ist schon immer für das Gute oder das Schädliche eingesetzt worden, und sie hat die menschlichen Beziehungen grundlegend verändert, indem sie sowohl Macht als auch Chancen erweitert oder einschränkt. Heute verstärkt der Diskurs über die weitverbreitete Digitalisierung und den Aufstieg der künstlichen Intelligenz (KI) diese beiden ethischen Dimensionen. Positiv betrachtet wird KI gefeiert als neue Quelle für Innovation, Wirtschaftswachstum und Wettbewerbsfähigkeit sowie für Produktivitäts- und Effizienzsteigerungen, die KI branchen- und sektorenübergreifend bietet.

Intelligente Automatisierung verspricht auch, einige der drängendsten globalen Herausforderungen zu lösen und die Ziele für nachhaltige Entwicklung zu erreichen. Der potenzielle wirtschaftliche und soziale Nutzen von KI-Innovationen kann enorm sein. Eine Mehrheit erlebt den Aufstieg von KI bereits als Erleichterung im Alltag.

Intelligente Automatisierung verspricht auch, einige der drängendsten globalen Herausforderungen zu lösen und die Ziele für nachhaltige Entwicklung zu erreichen.

Andererseits ist vor dem raschen Fortschritt und allmächtigen Charakter der KI-Fähigkeiten gewarnt worden als einer noch nie dagewesenen Quelle beispielloser Sicherheits- und Datenschutzrisiken sowie auf lange Sicht als Ursache schwerwiegender sozialer, wirtschaftlicher, politischer und internationaler Ungleichgewichte und ist als solche verurteilt worden. In der Vergangenheit überwogen die Vorteile solcher Dual-Use- oder disruptiven Technologien letztlich ihren Schaden, aber dies geschah oft erst nach einer Zeit des Missbrauchs und der Unfälle, die Menschen und Regierungen dazu veranlassten, weitere Verbesserungen und Vorschriften zu fordern. Da KI nicht nur ein Ergebnis menschlicher Aktion sein wird, sondern sich selbst zunehmend zu einem unabhängigen Akteur mit autonomer Entscheidungsfindung entwickeln wird, können wir uns nicht ohne Weiteres auf die Erfahrungen der Vergangenheit verlassen.

Mit dem Aufstieg von KI und gepaart mit anderen disruptiven Technologien wie 5G, dem Internet der Dinge (IoT), Robotik, Quantencomputer und Biosynthetik, ist unsere imaginäre Distanz zwischen Science-Fiction und echter Wissenschaft erheblich geschrumpft. KI schlägt Menschen bereits in schwierigen Aufgaben wie Schachspiel, Go-Spiel, in komplexen Strategiespielen oder bei der Erstellung medizinischer und rechtlicher Diagnosen. Abgesehen von der intelligenten Automatisierung von Steuerungssystemen haben Computer Vision und Sprachverarbeitung in den letzten Jahren die meiste Aufmerksamkeit erhalten und übertreffen bei Weitem bestimmte Formen menschlicher Wahrnehmung und Ausdrucksweise.

Dennoch ist KI noch weit davon entfernt, Intelligenz auf menschlicher Ebene nachzuahmen oder sogar übermenschliche Intelligenz zu erreichen, und sie muss immer noch technische Engpässe im Zusammenhang mit kreativer und sozialer Intelligenz überwinden. Obwohl bestimmte Algorithmen schon rechnergestütztes Selbstgefühl generieren können, ist KI heute nicht in der Lage, von einer Situation zu abstrahieren und allgemeine Konzepte auf neue Kontexte und Aufgaben anzuwenden. Zudem können Algorithmen nicht automatisch die Methodik des Lernens selbst verändern.

Während die Anwendung von KI-Systemen extrem effizient und skalierbar sein kann, nimmt die Schulung von KI-Systemen noch viel Zeit in Anspruch, ist extrem kostspielig und viel ineffizienter als die Art und Weise, wie Menschen lernen. Aus der Perspektive der kollektiven Intelligenz kann KI keine großen und komplexen sozialen Organisationen aufbauen oder mit ihnen konkurrieren, was die Menschheit wohl von der Natur unterscheidet.

KI wird nicht außerhalb der Geschichte existieren, sondern die aktuelle Entwicklung der Menschheit fortführen und wahrscheinlich beschleunigen.

Kurz gesagt: Seit dem Aufstieg und der Sammlung von Massendaten hat sich die KI rasant weiterentwickelt, aber sie wird nicht schnell genug voranschreiten, um den entschuldigenden oder dystopischen Fantasien einer posthumanistischen und postevolutionistischen Ära in absehbarer Zeit gerecht zu werden.

In der Zwischenzeit sind wir jedoch mit enormen Herausforderungen konfrontiert. Wie Alan Turing, der Vater von KI einst sagte: „Wir können nur ein bisschen nach vorne sehen, aber wir können dort vieles sehen, was getan werden muss.“

Das der KI zugeschriebene Risikoniveau ist keine Frage von Optimismus oder Pessimismus, sondern eine Frage des Verständnisses, wie KI dem bestehenden menschlichen Verhalten dient und wie sie Machtverhältnisse verändern kann. Noch bevor KI-Intelligenz auf menschlichem Niveau erreicht oder übertrifft, werden die Störungen der KI von zweierlei Natur sein; sie werden unmittelbar sowie direkt spürbar und sie werden strukturell sein und sich über einen längeren Zeitraum entfalten. Zum ersten Punkt beziehen sich die unmittelbaren Risiken von KI auf die bestehenden Cybersicherheitsbedrohungen, die sich aufgrund der böswilligen Nutzung von KI enorm verändern werden.

Die Zahlen der traditionellen Cybersicherheitsverletzungen und der Cyberkriminalität, die vor allem Einzelpersonen, Unternehmen und nationale Infrastrukturen bedrohen, hat stark zugenommen. Das Weltwirtschaftsforum zählt Cybersicherheitsrisiken zu den fünf wichtigsten Quellen für ernste globale Risiken. In der ersten Hälfte des Jahres 2018 gab es 4,5 Milliarden Vorfälle, beinahe doppelt so viele wie im gesamten Jahr 2017. Diese Vorfälle werden von einzelnen Kriminellen, organisierten kriminellen Gruppen, Terroristen und Staaten oder staatlich geförderten Akteuren verursacht, und sie beinhalten in erster Linie die Störung digitaler und physischer Systeme, Diebstahl und Cyberspionage.

Die heutigen Algorithmen sind nicht in der Lage, von einer Situation zu abstrahieren und allgemeine Konzepte auf neue Kontexte und Aufgaben anzuwenden. Zudem können Algorithmen nicht automatisch die Methodik des Lernens selbst verändern.

Cyberwarfare ist eine Kombination aus all diesen und beinhaltet auch Informationen und psychologische Operationen, um die öffentliche Meinung zu manipulieren. Aufgrund der Skalierbarkeit und Effizienz sowie der zunehmenden psychologischen Distanz zwischen dem Angreifer und dem Ziel wird die böswillige Nutzung von KI zu einer Ausweitung der bestehenden Cybersicherheitsbedrohungen führen, völlig neue Formen cyberphysischer Bedrohungen hervorbringen und Angriffe und Verbrechen ausführen, die viel gezielter sind, indem sie den Kompromiss zwischen Aufwand und Schaden oder Gewinn optimieren.

Aufgrund einer sich so verändernden Landschaft unmittelbarer Bedrohungen und Risiken ist die Cybersicherheit (und in jüngerer Zeit KI) zu einer Frage der nationalen Sicherheit und eine Priorität im Militär geworden. Während die nächste Generation von Mobilfunknetzen oder 5G es ermöglichen, alles mit allem und mit jedem zu verbinden, zu Hause, im Büro, in Fabriken und in intelligenten Städten, bietet KI Automatisierung zum Zweck der Effizienz und Bequemlichkeit. Die Kombination beider Technologien wird die Oberfläche für cyber-physische Bedrohungen und Unfälle enorm erweitern. Sie wird die Abschreckung und Zuordnung von Cyberangriffen oder anderen Hackerangriffen aufgrund der zunehmenden Komplexität und Vernetzung von Computernetzwerken komplizierter machen.

Es wird nicht möglich sein, diese Bedrohungen zu verhindern, sondern es wird nur möglich sein, sie abzuschwächen. Für viele Regierungen ist die Frage nicht, ob es zu schweren Cybersicherheits-Vorfällen kommen wird, sondern wann. Das Risiko ist unabhängig von spezifischen Technologieanbietern.

KI wird nicht nur auf Wissensarbeit abzielen, sondern weiter die körperliche Arbeit automatisieren, die früheren Rationalisierungswellen entgangen ist. Deshalb müssen sich Regierungen auf tiefgreifende strukturelle Veränderungen vorbereiten. Die weitverbreitete Automatisierung und die alternden Gesellschaften werden die Zahl der Erwerbsarbeiter verringern wie auch die Arbeit als wichtige Quelle von Steuereinnahmen. Zudem haben die Marktkräfte bereits eine Konzentration von Daten, KI-Technologien und menschlichen Talenten verursacht. Forschung und Entwicklung verlagern sich zunehmend von öffentlich finanzierten zu privaten Laboratorien großer KI-Plattformunternehmen, die weniger bereit sind, ihr geistiges Eigentum zum gesellschaftlichen Wohl zu teilen.

Während das Internet die Hürden für die Gründung von Unternehmen zunächst senkte, hebt KI die Messlatte wieder an, was zu digitalen Kleptokratien und KI-Merkantilismus führen kann, wenn die Null-Grenzkosten-Wirtschaft weiterhin nicht reguliert wird. Während reiche Länder in der Lage sein werden, sich ein universelles Grundeinkommen für diejenigen zu leisten, die nicht umschulen können, werden Länder mit niedrigem und mittlerem Einkommen nicht dasselbe tun können und riskieren, auf ihrem Entwicklungsstand stehen zu bleiben. KI in Verbindung mit Daten – dem „neuen Öl“, auf dem maschinelles Lernen gedeiht – wird die globale Arbeitsteilung stören.

Forschung und Entwicklung verlagern sich zunehmend von öffentlich finanzierten zu privaten Laboratorien großer KI-Plattformunternehmen, die weniger bereit sind, ihr geistiges Eigentum zum gesellschaftlichen Wohl zu teilen.

Länder, welche bei der fortgeschrittenen Automatisierung nicht aufholen können, um ihre Wettbewerbsfähigkeit zu verbessern, werden weiter zurückbleiben. Arbeit, und vor allem billige Arbeit, bietet in Zukunft keinen ausreichenden Vorteil, und dies wird frühere Entwicklungsmodelle obsolet machen. Die Einkommensungleichheit hat bereits alarmierende Ausmaße erreicht, nicht nur zwischen reichen und armen Ländern, sondern auch zwischen den reichen Ländern. Die Vereinigten Staaten haben die ungleichste Vermögensverteilung unter allen OECD-Ländern.

Während eine kleine Gruppe von Transhumanisten sich bemühen und die Privilegien der digitalen Aufwertung genießen wird, nimmt die Zahl derer, die zurückgelassen werden, wahrscheinlich zu und vergrößert damit den Nährboden für soziale Unruhen, Populismus und Nationalismus. Bevor Gesellschaften in der Lage sind, die Bedeutung der Arbeit zu ändern und neue Quellen für eine bessere Gewährleistung der Menschenwürde zu finden, wird die Automatisierung Individualismus, Entfremdung und Einsamkeit verstärken und sowohl das körperliche als auch das psychische Wohlbefinden und den sozialen Zusammenhalt bedrohen.

Staatliche und politische Akteure werden die KI-Technologien stärker nutzen. Während Unternehmen KI einsetzen, um Menschen noch genauer als Verbraucher einzuordnen und um ihre Aufmerksamkeit zu konkurrieren, tun politische und staatliche Akteure dies, um die Bürger besser als überzeugbare Wähler, Anhänger oder potenzielle Sicherheitsbedrohungen zu verstehen. Dies kann dazu beitragen, Länder sicherer zu machen und den politischen Prozess effizienter, wenn KI verantwortungsbewusst eingesetzt wird und einen Ausgleich schafft zwischen Wirtschaftswachstum, sozialem Wohl und nationaler Sicherheit. KI erhöht jedoch das strukturelle Risiko, das Machtgleichgewicht zwischen Staat, Wirtschaft und Gesellschaft zu verschieben, indem sie den Raum für Autonomie begrenzt.

Durch KI-fähige Massenüberwachung, psychologische Operationen und die Umwandlung von Informationen zu einer Waffe könnten Staaten und politische Akteure versuchen, unverhältnismäßig viel Macht zu erlangen oder den Populismus zu verstärken. Die beiden Pole dieses politischen Risikoszenarios sind Totalitarismus und Tyrannei der Mehrheit. In beiden Fällen dominiert der Kampf um die Macht den Kampf um den Fortschritt und bedroht die Säulen moderner Staaten und Regierungen – Bürokratie, Rechtsstaatlichkeit und Rechenschaftspflicht. Während autoritäre Staaten in totalitäre Regime abgleiten könnten, indem sie eine allgegenwärtige staatliche Kontrolle ausüben und Unterschiede unterdrücken, könnten Demokratien die Erosion ihrer Institutionen, die Polarisierung ihrer gesamten Gesellschaften und den Zerfall ihrer „öffentlichen Moral“ und ihrer „Konsensfabrik“ erleben. Leider können wir bereits miterleben, wie die Welt in Richtung einer der beiden Pole politischer Ungleichgewichte abgleitet. Doch es ist wahrscheinlicher geworden, dass sich „liberaler Kapitalismus“ zu einem „politischen Kapitalismus“ entwickelt.

KI ist nicht die Ursache, aber sie ist ein zunehmend bewaffnetes Instrument, das sowohl innerhalb als auch außerhalb nationaler Grenzen eingesetzt wird, um den politischen Prozess der konkurrierenden Länder zu stören.

Während autoritäre Staaten in totalitäre Regime abgleiten könnten, indem sie eine allgegenwärtige staatliche Kontrolle ausüben und Unterschiede unterdrücken, könnten Demokratien die Erosion ihrer Institutionen erleben.

Die Affären um Edward Snowden und Cambridge Analytica sind die bekanntesten und beunruhigendsten Fälle von weit verbreiteter Cyberspionage, Verletzung der Privatsphäre, Manipulation der öffentlichen Meinung und der Einmischung in den demokratischen Prozess innerhalb des Westens. Umgekehrt wirft der Westen Russland, China, Nordkorea, Iran und Syrien häufig staatliche oder staatlich geförderte Cyber-Einmischungen und -Angriffe vor sowie allgegenwärtige Massenüberwachung.

Ein harter globaler Wettbewerb um die KI-Vorherrschaft tobt bereits und droht, die bestehenden internationalen Beziehungen zu stören. Alle führenden Volkswirtschaften haben ihre nationalen KI-Strategien mit dem Ziel entwickelt oder aktualisiert, die Entwicklung von im Entstehen begriffenen KI-Fähigkeiten und Ökosystemen zu fördern und weltweit wettbewerbsfähig zu sein. Der russische Präsident Wladimir Putin hat 2017 am deutlichsten die strategische Bedeutung der KI zum Ausdruck gebracht, als er sagte: „Wer in diesem Bereich führen wird, wird der Herrscher der Welt." Russland führt das KI-Rennen nicht an. Derzeit sind die Vereinigten Staaten an der Spitze, dicht gefolgt von China. Die Vereinigten Staaten wollen ihre „Führungsrolle in der KI“ beibehalten, während China bis 2030 das „primäre Zentrum für KI-Innovationen“ werden will.