Künstliche Intelligenz wird als Waffe eingesetzt: Gefälschte Avatare und Geisterreporter geben sich als Journalisten aus und verbreiten falsche Geschichten. Diese Bedrohung untergräbt das Vertrauen und schwächt fragile Demokratien – mit fatalen Folgen für den Journalismus.
Vor nicht allzu langer Zeit bestand das journalistische Handwerkszeug aus einem Notizbuch, einer Schreibmaschine und ein paar Münzen für die Telefonzelle, um Texte in die Redaktion zu telefonieren. Dann brachten Computer, E-Mail und Mobiltelefone Schnelligkeit, Konnektivität und die Möglichkeit, von den führenden Politikern der Welt eine größere Rechenschaftspflicht einzufordern, da die Medien die Vorteile der verbesserten Kommunikationstechnologien nutzten.
Nach dem sogenannten „Black-Hawk-Down-Zwischenfall“ in Somalia im Oktober 1993 – einer Militäroperation zwischen den von der UNOSOM II unterstützten US-Streitkräften und den Kämpfern der Somalischen Nationalen Allianz (SNA) in Mogadischu, die weltweit übertragen wurde und die Zukunft der Terrorismusbekämpfung prägte – leitete der Irak-Krieg im Jahr 2002 eine neue Ära der 24/7-Nachrichtenübertragung ein.
Im Rahmen der Militäroperation „Black-Hawk-Down“ im Oktober 1993: Ein Mitglied der US-Spezialeinheiten kommt in den frühen Morgenstunden unter großem Medienrummel am Strand des Hauptflughafens von Mogadischu an, Foto: Roberto Borea via AP/picture alliance.
Berichterstattung rund um die Uhr
Die Rund-um-die-Uhr-Berichterstattung ermöglichte es den Nachrichtenredaktionen, über globale Ereignisse in Echtzeit zu berichten. Das Broadband Global Area Network (BGAN)-Satellitensystem übertrug qualitativ hochwertige Bilder und Audiosignale mit hoher Geschwindigkeit. Es wurde von Systemen wie LiveU abgelöst, das als Industriestandard gilt und für die Übertragung von Nachrichten mehrere Mobiltelefonverbindungen nutzt.
Bei jeder neuen technologischen Entwicklung blieben die Grundprinzipien des Nachrichtenjournalismus bestehen. Der Schlüssel zu diesem Beruf ist die Fähigkeit, Macht zur Rechenschaft zu ziehen, was Teil des verfassungsmäßig garantierten Rechts auf eine freie Presse ist.
Der Schlüssel zu diesem Beruf ist die Fähigkeit, die Mächtigen zur Rechenschaft zu ziehen, als Teil des verfassungsmäßig garantierten Rechts auf eine freie Presse.
Ein besorgniserregender Trend ist jedoch der Missbrauch der neuen Technologien zur Verschmutzung des Informationsumfelds. Dies kann durch die Verzerrung dessen, was wir sehen oder lesen, durch die Manipulation der Art und Weise, wie Informationen übermittelt werden, oder durch die Imitation des Überbringers geschehen. Das heißt, sie imitieren Journalisten, die traditionell als glaubwürdige Quelle für faktenbasierte Informationen gelten.
In einem aktuellen Bericht der Konrad-Adenauer-Stiftung wird der Trend zu KI-gesteuerten Avatar-Journalisten, die sich in ganz Afrika als investigative Reporter ausgeben, aufgegriffen. „Demokratie beruht auf Pluralismus, also auf vielen Meinungen, die zu gesellschaftlichen und politischen Entscheidungen führen“, argumentiert Hendrik Sittig, Direktor des Medienprogramms der Organisation für Subsahara-Afrika. „Die Informationen, auf denen unsere Meinungsbildung beruht, müssen jedoch ... faktenbasiert und wahr sein. Alles andere könnte tragische und verheerende Folgen haben.“
Der Bericht zeigt auf, wie neben KI-generierten Deepfake-Angriffen auf Journalisten und Influencer KI-Avatare geschaffen werden, die sich als Journalisten ausgeben und in großem Umfang und mit hoher Geschwindigkeit Geschichten verbreiten. Dies ist Teil von Informationsoperationen oder ausländischer Informationsmanipulation und -einmischung (FIMI), die als Instrument der geopolitischen Einflussnahme eingesetzt werden.
Eine Untersuchung des African Digital Democracy Observatory, eines Netzwerks unabhängiger Thinktanks und investigativer Watchdogs, hat ergeben, dass das israelische Cybersicherheitsunternehmen Percepto International solche Techniken eingesetzt hat, um eine falsche französisch-ghanaische Enthüllungsjournalistin mit eigenem Social-Media-Profil und eigener Website zu erstellen. Sie wurde benutzt, um Material in afrikanische Massenmedien einzuschleusen, das dazu diente, „lokale Politiker und internationale Organisationen in Afrika mit erfundenen Enthüllungen zu diskreditieren“.
Eine gefälschte Enthüllungsjournalistin verleiht einer Geschichte Glaubwürdigkeit und verstößt gleichzeitig gegen den Verhaltenskodex des professionellen Journalismus. Die Untersuchung fand mehrere Beispiele für solche Avatar-Journalisten.
Eine falsche französisch-ghanaische Enthüllungsjournalistin mit eigenem Social-Media-Profil und eigener Website wurde benutzt, um Material in afrikanische Massenmedien einzuschleusen.
Diese Taktik scheint die frühere Verwendung falscher Persönlichkeiten in prominenten politischen Werbekampagnen in Burkina Faso zu imitieren. Dort schienen internationale Akteure die Putschisten vom September 2022 zu unterstützen. Graphika, ein Unternehmen für Social-Media-Analysen, beobachtete eine ähnliche Technik, um pro-chinesische Propaganda der Kommunistischen Partei über angeblich gefälschte Websites mit Avataren zu verbreiten.
Untergrabung des öffentlichen Vertrauens
Die Technologie, die der Erstellung von KI-Avataren zugrunde liegt, ist zwar in erster Linie für Schulungen und Marketingzwecke gedacht, wird aber von böswilligen Akteuren genutzt, um das Vertrauen der Öffentlichkeit zu untergraben. Das Problem ist dabei nicht die Technologie selbst, sondern das Fehlen von Sicherheitsvorkehrungen bei ihrer Verwendung.
Kürzlich stellte eine „Untersuchung“ von Al Jazeera fest, dass „Geisterreporter“ in West- und Zentralafrika pro-russische Propaganda schreiben und dabei die Identitäten Verstorbener verwenden, die sie als investigative Journalisten ausgeben.
,Geisterreporter‘ schreiben in West- und Zentralafrika pro-russische Propaganda und verwenden dabei die Identitäten Verstorbener, die sie als investigative Journalisten ausgeben.
Die Inhalte werden auf Nachrichtenkanälen auf dem ganzen Kontinent veröffentlicht. Artikel, die in mindestens zwölf afrikanischen Ländern veröffentlicht wurden, brachten diese Praxis mit dem in Verbindung, was das Al-Jazeera-Team als eine „koordinierte pro-russische Einflusskampagne“ bezeichnete.
Der Einsatz neuer Technologien, um das Informationsumfeld zu vergiften oder Zweifel an etablierten Fakten zu säen, stellt eine Bedrohung für Demokratien dar. In fragilen Demokratien wie vielen in Afrika ist das Fehlen robuster, professioneller Medien, die solchen Desinformationen entgegenwirken könnten, für alle, denen die Integrität von Informationen wichtig ist, besorgniserregend.
Während die afrikanischen Staats- und Regierungschefs die Vorteile digitaler Technologien und generativer KI nutzen – beispielsweise im Rahmen der kontinentalen Strategie für künstliche Intelligenz der Afrikanischen Union – scheint es an einem Gefühl der Dringlichkeit zu fehlen, die Risiken zu verstehen. Eine weitere Gefahr ist die Erosion traditioneller, professioneller Medien, sowohl was die Finanzierung als auch das Personal betrifft.
Eine leitende Redakteurin berichtete den Forschern des Institute for Security Studies (ISS), einer in Pretoria ansässigen Denkfabrik, dass einige ihrer jungen Journalisten während der südafrikanischen Wahlen im Mai 2024 Schwierigkeiten hatten, ihre Rolle im demokratischen Prozess zu verstehen. Insgesamt macht es der mangelnde Zugang von Technologieunternehmen zu Online-Daten allerdings schwierig, die Risiken für afrikanische Länder zu messen.
Ungeachtet dieser Bedenken kam eine separate ISS-Studie zu dem Ergebnis, dass der professionelle Journalismus bei dieser Wahl als Bollwerk gegen Fehlinformations- und Desinformationskampagnen fungierte. Es gibt einige Bemühungen, die Öffentlichkeit über die Gefahren eines verzerrten Informationsumfelds aufzuklären.
Die Gefahr ist die Erosion der traditionellen professionellen Medien, sowohl was die Finanzierung als auch das Personal betrifft.
So hat die Konrad-Adenauer-Stiftung kürzlich einen im Marvel-Stil gehaltenen Comic veröffentlicht. Dieser beschreibt die „Suche eines Journalisten nach Gerechtigkeit im Zeitalter der KI“ und wurde von einem südafrikanischen Team geschrieben und illustriert. Dies und Initiativen von Organisationen wie Media Monitoring Africa, die als Wachhund fungiert und ethischen und fairen Journalismus fördert, der die Menschenrechte unterstützt, sind bemerkenswerte Ausnahmen bei der Förderung der digitalen Kompetenz und könnten künftige Maßnahmen inspirieren.
Während sich ein Großteil der aktuellen Debatte in Südafrika auf Social-Media-Plattformen und die Regulierung von Online-Inhalten konzentriert – vor allem im Zusammenhang mit den jüngsten Darstellungen weißer Rassisten –, ist es unwahrscheinlich, dass dies die Journalisten-Imitatoren, die generative KI einsetzen, aufhalten wird.
Fehlende Daten, Kapazitäten und Ungleichheiten beim Zugang
Organisationen wie Research ICT Africa, die in Südafrika ansässig sind und multidisziplinäre Forschung zu digitaler Governance, Politik und Regulierung betreiben, sagen, dass es schwierig sein wird, Risiken zu messen und Maßnahmen zur Resilienz zu entwickeln, wenn Technologieunternehmen Forschungs- und Überwachungsorganisationen keinen Zugang zu Online-Daten gewähren, wie sie es im globalen Norden tun.
Ein Gesetz über künstliche Intelligenz, wie es kürzlich in Europa eingeführt wurde, kann und sollte wohl nicht auf Afrika übertragen werden, da es an Daten, Kapazitäten und gleichem Zugang mangelt, wie viele argumentieren.
Eine praktische Lösung auf der Angebotsseite könnte darin bestehen, das Bewusstsein für KI in die Ausbildung von Redaktionen zu integrieren. Auf der Nachfrageseite sind öffentliche Kampagnen erforderlich, die professionellen Journalismus als öffentliches Gut darstellen und auf die Gefahr hinweisen, dass er durch Fälschungen untergraben wird – so, wie man es auch bei gefälschten Marken tun würde.
Senior Associate am Institute for Security Studies (ISS)
Karen Allen ist Senior Associate am Institute for Security Studies (ISS), einem Think Tank in Pretoria, und ehemalige Auslandskorrespondentin der BBC. Sie verfügt über mehr als zwei Jahrzehnte Erfahrung in der Berichterstattung aus Konfliktgebieten und über globale Sicherheitsthemen. Der Fokus ihrer Arbeit liegt auf den Schnittstellen von Technologie, Medien und Demokratie in Afrika und darüber hinaus.
Kulturreport Fortschritt Europa
Der Kultur kommt im europäischen Einigungsprozess eine strategische Rolle zu. Wie steht es um die Kulturbeziehungen innerhalb Europas? Wie kann Kulturpolitik zu einer europäischen Identität beitragen? Im Kulturreport Fortschritt Europa suchen internationale Autor:innen Antworten auf diese Fragen. Seit 2021 erscheint der Kulturreport ausschließlich online.
Octavio Kulesz: Artificial Intelligence and International Cultural Relations. Challenges and Opportunities for Cross-Sectoral Collaboration. Stuttgart: ifa, 2024 (ifa Edition Culture and Foreign Policy)
