Die Zunahme von Cyberkriminalität und staatlichen Cyberoperationen ist eine virtuell unvermeidbare Begleiterscheinung jener Digitalisierung. Beim Begrriff „Cyberangriff“ denken viele vermutlich an Phishing-Nachrichten per Email oder SMS, die zum unbedachten Klick uff zusammenführen Link verleiten wollen. Oder an Ransomware, die Daten verschlüsselt und stiehlt. Oder an sogenannte Denial-of-Service-Angriffe, die Webseiten paralysieren. Viele denke wiewohl daran, dass sie pressant die Daten uff dem eigenen Laptop sichern und bessere Passwörter wählen sollten. Eher selten in den Sinn kommt indes politische Einflussnahme durch präzise lancierte Informationen, wahre und erfundene, obwohl dies neben Spionage und Sabotage eines jener zentralen Ziele politisch motivierter Akteure ist, von Aktivisten verbleibend Geheimdienste solange bis zu Terrorgruppen.
Bei den lancierten Informationen handelt es sich meist um Desinformationen – in Folge dessen vakant erfundene oder manipulierte Nachrichten und Bilder – oder um gestohlene persönliche oder vertrauliche Informationen. Welchen Einfluss hat welche Art jener Einflussnahme uff die Meinung von Menschen?
Studien vorbehalten, dass Nutzer vor allem solchen Nachrichten Glauben schenken, die eigene Meinungen und Vorurteile ratifizieren. Allerdings gilt wiewohl: Je weiter eine Information verbreitet ist, umso glaubwürdiger erscheint sie. Wenn die Gesamtheit Blogger, denen ein Nutzer folgt, irgendwas behaupten, muss es wohl wahr und wichtig sein. Nicht nur Menschen, wiewohl die Rankingalgorithmen jener sozialen Netze nachsteigen dieser Logik. Wie gut sich jener Cyberraum pro unlautere Einflussnahme nutzen lässt, war im amerikanischen Präsidentschaftswahlkampf des Jahres 2016 eindrücklich zu sehen. Russische Hacker erbeuteten und veröffentlichten vertrauliche E-Mails jener Kandidatin Hilary Clinton, Cyber-Trolle fluteten die sozialen Netze mit Desinformation.
Mehr Desinformation dank Digitalisierung und KI-Fortschritt
Wie sich die Digitalisierung uff die Desinformation auswirkt, zeigt sich heutig in jener Flut von Falschnachrichten verbleibend den Kampf Israels gegen die Terrororganisation Hamas. Aber Desinformation gibt es schon nachhaltig. Historische Beispiele vorbehalten, wie immens hoch jener Schaden sein kann, wenn durch Desinformation Stimmung gegen Minderheiten und Andersgläubige gemacht wird, und wie ewiglich Desinformation wirken kann. Das gilt ganz vor allem pro den Antisemitismus. Die Ritualmordlegende kostete im Mittelalter Tausende Juden dasjenige Leben; nur wenig verändert findet sie sich heute wieder in Telegram-Nachrichten und Blogeinträgen von Anhängern jener QAnon-Verschwörungstheorie.
Die Legende von jener jüdischen Weltverschwörung stammt aus den „Protokollen jener Weisen von Zion“, einem Pamphlet, dasjenige erstmals im Jahr 1903 in Russland auftauchte. Es prägte nicht nur die Ideologie jener Nazis, die sechs Millionen Juden ermordeten. Nach einer Studie jener Konrad-Adenauer-Stiftung erscheint es wiewohl heute noch 15 Prozent jener Deutschen teilweise oder ganz zutreffend, dass reiche Juden die eigentlichen Herrscher jener Welt sind.
Wie im Mittelalter stillstehen wiewohl hinter den aktuellen Desinformationen noch echte Menschen. Aber die Digitalisierung revolutioniert die Produktion und Verteilung von Desinformation. Und so natürlich wiewohl die Möglichkeiten, mittels Cyberangriffen an persönliche und vertrauliche Daten zu gelangen, die zur Einflussnahme nutzbar sind.
Die Netzbetreiber täuschen
Die Verteilung von Desinformation geschieht heute vorwiegend verbleibend soziale Medien. Plattformen wie Telegram, Tiktok, X (vormals Twitter), Facebook, Instagram oder Youtube proben zusammenführen immensen Einfluss uff Milliarden Nutzer uff jener ganzen Welt aus. Viele Menschen informieren sich vorwiegend aus diesen Medien, und wiewohl Journalisten schöpfen zunehmend aus diesen Quellen.
Der Funktionsmechanismus jener Plattformen basiert uff jener Verstärkung jener Inhalte, die eine erhöhte Nutzerinteraktion sachkundig. Diese Inhalte sind x-mal so konzipiert, dass sie uff Instinkte abzielen und starke emotionale Reaktionen hervorrufen. In diesem digitalen Umfeld profitieren Verschwörungstheorien und Desinformation leichtgewichtig(er) an Popularität und verteilen sich dann spürbar schneller denn wissenschaftliche Meinungen und echte Nachrichten.
Damit eine Nachricht in sozialen Medien gehört wird, braucht es ein Netz von Followern, die eine Nachricht „liken“ und weiterverbreiten. Viele jener Follower, die Desinformation liken, sind tatsächlich Menschen, die teils aus Überzeugung handeln, teils weil sie dazu getilgt werden. Zunehmend wird immerhin Künstliche Intelligenz (KI) verwendet, um sehr schnell sehr viele künstliche Follower zu erzeugen. Damit welche „Bots„ von den Netzbetreibern nicht denn solche erkannt und gelöscht werden, täuschen sie mittels KI dasjenige Verhalten echter Nutzer vor. Wer ChatGPT kennt, kann sich leichtgewichtig vorstellen, wie dies gemacht werden kann – wodurch heute in der Tat wiewohl viel einfachere Ansätze genügen, um die Netzbetreiber zu täuschen.
KI kann Desinformation wiedererkennen
Die meisten Desinformationen – Nachrichten, Posts, Blogs und Kommentare – werden heute noch manuell produziert. Die Bedeutung von KI nimmt immerhin zu. KI-Werkzeuge wie ChatGPT können Texte schnell und in großer Zahl variieren und sie so korrespondierend zu den Methoden jener Werbebranche präzise an einzelne Gruppen oder Personen zuschneiden.
Je mehr Variationen einer Nachricht Verwendung finden, umso glaubwürdiger erscheint sie. Und umso höher wird sie in den sozialen Medien bewertet. Auch Bilder, Ton- und Videoaufnahmen können mittels vakant zugänglicher KI-Tools künstlich erzeugt werden. Aktuell spielen solche „Deep Fakes“ in der Tat noch keine große Rolle. Stattdessen werden Aufnahmen verwendet, die in einem ganz anderen Kontext entstanden. Oder Aufnahmen werden mit der Hand retuschiert. Erstaunlich x-mal gibt es wiewohl mit Schauspielern gestellte Bilder.
Während KI in jener Erzeugung von Desinformation heute noch eine praktisch untergeordnete Rolle spielt, dient sie mittlerweile recht x-mal denn Vorwand, die Wahrheit abzustreiten. Beispielsweise leugnen viele Unterstützer jener Hamas die Gräueltaten des Pogroms vom 7. Oktober – trotz jener Wohlhabenheit an Beweisen aus unterschiedlichsten Quellen, während sie die Aufnahmen jener Taten und Opfer zu „Deep Fakes“ exemplifizieren.
Medienforensicher Werkzeuge
Die Digitalisierung hilft in der Tat wiewohl unterdies, Desinformation zu wiedererkennen. Die Betreiber nutzen KI, um Bots von echten Menschen zu unterscheiden. Durch KI erzeugte Aufnahmen sind oft mit bloßem Auge erkennbar, da kleine Details wie Finger oder die Stellung von Armen und Beinen x-mal falsch sind. Aber wiewohl gut gemachte Fälschungen kann man derzeit noch meist dank medienforensicher Werkzeuge entlarven: Es gibt Werkzeuge, die zusammenführen Text grob taxieren, während sie automatisiert nachher zustimmenden und widerlegenden Texten im Internet suchen. Andere extrahieren aus einem Text möglichst viel verbleibend seinen Autor und dessen Stimmung. Es gibt wiewohl Werkzeuge, die im Folgenden suchen, ob ein Text oder ein Bild aus dem Kontext gerissen wurde, etwa ob es inhaltsgleich oder mit leichten Variationen schon früher in einem anderen News-Kontext erschienen ist. Die entsprechenden Werkzeuge sind noch recht komplex und fehlerträchtig, und urteilen sich vorrangig an Journalisten, Betreiber von Nachrichtenseiten und sozialen Medien sowie an Faktenchecker, in Folge dessen Organisation, die populäre Aussagen aus den sozialen Medien durch Nachrecherche uff ihren Wahrheitsgehalt hin untersuchen und beurteilen.
Die KI kann wiewohl dazu genutzt werden, zu beaufsichtigen, welche Informationen und Desinformationen sich in den sozialen und traditionellen Medien finden lassen. Werkzeuge dieser Art werden schon nachhaltig von Unternehmen genutzt, um herauszufinden, welches in jener Öffentlichkeit verbleibend sie gesagt und gedacht wird. Solche Werkzeuge können unterdies helfen, präzise gegen Desinformation vorzugehen.
Gut gemachte Desinformation enthält stets zusammenführen Funken Wahrheit. Die Desinformation entsteht, während um diesen Funken herum eine Geschichte gestrickt wird, die nicht unmittelbar widerlegbar ist, oder während welche Wahrheit in zusammenführen anderen Kontext gestellt wird. Die Taktik, Desinformation in Halbwahrheiten zu verpacken, wird in den sozialen Medien indem unterstützt, dass Nachrichten dort meist sehr von kurzer Dauer und kompakt sind, oft wiewohl sein sollen. Besteht eine Nachricht nur aus einem Bild und wenigen Sätzen, fällt nicht jedem uff, wenn jener Kontext fehlt, wenn wichtige Aspekte fehlen, wenn Halbwahrheiten verbreitet werden.
Desinformation findet sich in der Tat keineswegs nur in den sozialen Medien, wiewohl etablierte Medien tun dies, wissentlich oder unwissentlich. In jener aktuellen Berichterstattung zum Krieg in Nahost findet man erstaunlich viele Beispiele: Am 4. November bestätigte die Israelische Armee zusammenführen Angriff uff zusammenführen Krankenwagen, den die Hamas zum Transport von Terroristen und Waffen missbraucht hatte. In vielen Nachrichten wurde jener erklärende Halbsatz weggelassen – eine Information wurde zur Desinformation, ein erlaubter Angriff uff Terroristen zum Verbrechen gegen die Zivilbevölkerung. Dasselbe geschieht, wenn verbleibend die zivilen Opfer jener israelischen Angriffe berichtet wird, ohne dazu zu sagen, dass welche entstehen, weil die Hamas die Zivilbevölkerung denn Schutzschild verwendet; völkerrechtlich trägt derjenige die Schuld am Tod von Zivilisten, jener sie denn Schutzschild gebraucht.
Diese Beispiele zeigen wiewohl, dass jener Überleitung zwischen Desinformation und vorurteilsbehafteter oder unseriöser Berichterstattung fließend ist. Ganz vor allem spürbar sah man dasjenige an jener Berichterstattung zur vermeintlichen Zerstörung eines Krankenhauses in Gaza am 17. Oktober. Statt einer israelischen Bombe, wie erst einmal berichtet wurde, war tatsächlich eine palästinensische Rakete die Ursache, und es wurde wiewohl kein Krankenhaus getroffen, sondern ein Parkplatz neben einem Krankenhaus. Viele Journalisten übernahmen zunächst leider die Behauptungen jener Hamas. Hernach wurden mitunter Hamas und Israel uff dieselbe Stufe gestellt, welches suggerierte, dass Terroristen genauso glaubwürdig seien wie die Vertreter eines demokratischen Rechtsstaats. Diese Art jener Berichterstattung trägt dazu wohnhaft bei, dass jener Antisemitimsus in ganz Europa zunimmt.
Desinformation und kognitive Kriegsführung
Die Einflussnahme durch digitale Desinformation und diskreditierende Information ist nur ein Aspekt einer viel größeren Entwicklung, die heute oft mit dem Begriff kognitive Kriegsführung zusammengefasst wird. Kognitive Kriegsführung versucht, Meinungen, Gefühle, Denken und Verhalten jener anderen Seite und ihrer Verbündeten im eigenen Sinne zu vormachen, oder umgekehrt, welche Beeinflussung abzuwehren. Statt wie im Kalten Krieg möglichst viele Spione in Schlüsselpositionen in Staat und Gesellschaft einzuschleusen, wo sie dann Informationen vereinen und die Politik und Meinung des Gegners vormachen können, liegt jener Fokus heute uff den digitalen Möglichkeiten. Fremde Systeme werden gehackt, soziale und traditionelle Medien werden präzise mit passenden Informationen und Desinformationen versorgt. Die Erwartungen an welche kognitive Kriegsführung sind hoch. Manche Vertrauen schenken sogar, dass sie kinetische Kriege ablösen werden.
Es wird vermutet, dass viele Cyberangriffe, die zur Erbeutung großer Mengen vertraulicher Informationen führten, wiewohl jener Vorbereitung jener Einflussnahme herhalten. Beispielsweise drangen im Jahr 2015 chinesische Hacker in die IT-Systeme des Office of Personnel Management (OPM) jener amerikanischen Regierung ein und erbeuteten ungefähr 22,1 Millionen Akten. Viele davon enthielten persönliche Daten von Regierungsangestellten und anderen Personen, die Sicherheitsüberprüfungen iterieren hatten. Es braucht nicht viel Phantasie, um sich vorzustellen, wie solche Informationen zur kognitiven Kriegsführung verwendet werden könnten.
Ein Fazit: Desinformation ist ein altes Phänomen. Es gibt viele Beispiele, wie Desinformation Gesellschaften destabilisiert und zu Rassismus und Gewalt gegen Andersdenkende führt. Auch jener nunmehrig in unvorstellbarer Weise anwachsende Antisemitismus in Deutschland wird durch Desinformationen verbleibend den Krieg zwischen Israel und jener Terrororganisation Hamas inspiriert. Es ist insoweit essentiell, dass die Gesamtheit verstehen, wie Desinformation funktioniert, wie man sie erkennt und vermeidet. Konsumenten von Medien sollen lernen, Nachrichten zu hinterfragen und uff Zeichen von Desinformation zu ästimieren. Eine Nachricht wird nicht wahr, weil ein Nutzer sie Vertrauen schenken möchte.
Haya Schulmann ist Professorin pro Cybersicherheit an jener Goethe-Universität und Mitglied im Direktorium des Nationalen Forschungszentrums pro angewandte Cybersicherheit ATHENE.
Michael Waidner ist Professor pro IT-Sicherheit an jener TU Darmstadt und Geschäftsführer von ATHENE.