KI als Waffe: Wie Propaganda, Fälschungen und Extremismus digitale Meinungen manipulieren
Hans-Josef Beckmann
KI als Waffe: Wie Propaganda, Fälschungen und Extremismus digitale Meinungen manipulieren
Regierungen und politische Gruppen setzen zunehmend auf KI-generierte Inhalte, um die öffentliche Meinung zu beeinflussen. Von militärischer Propaganda bis hin zu gefälschten Interviews verbreitet sich manipuliertes Material rasant über soziale Medien. Forscher warnen, dass diese Methoden Vorurteile ausnutzen, gezielt Desinformation streuen und sogar extremistische Ansichten kommerzialisieren.
Das Weiße Haus hat auf Social Media eine digitale Militärparade inszeniert – eine Mischung aus machohafter Schau und stilisierten Visuals. Die Kampagne richtet sich gezielt an junge Männer und ein mittelaltriges Publikum, nutzt Popkultur-Anspielungen, rechtsextreme Memes und Comic-Ästhetik, um ihre Botschaft zu verstärken.
Cashback bei deinen
Lieblingsrestaurants und Services
Kaufe Gutscheine und spare in deinen Lieblingsorten in deiner Nähe
In Deutschland kursieren unterdessen KI-erzeugte Fälschungen, darunter ein Video einer angeblichen 18-jährigen blonden Frau, die zu Massenabschiebungen aufruft. Rechtsextreme Akteure haben zudem Animationsstile von Studios wie Studio Ghibli zweckentfremdet: Aus verspielt-wunderlichen Bilderwelten werden Propagandavideos für Abschiebungsnarrative.
Die Desinformationsforscherinnen Katharina Nocun und Karolin Schwarz deckten derweil KI-generierte Rabbiner auf, die antisemitische Klischees und fragwürdige Finanztipps verbreiten. Schwarz' Analysen zeigen, wie solche Inhalte Vorurteile instrumentalisieren, um Reichweite zu generieren – und damit Profit zu schlagen. Ein weiteres Beispiel ist ein Instagram-Account mit über einer Million Followern, der per KI eine OnlyFans-Seite für Fußfetischisten bewirbt.
Ab August schreibt die EU vor, dass KI-erzeugte Inhalte gekennzeichnet werden müssen. Die Regelung soll Nutzern helfen, zwischen echter und synthetischer Medien zu unterscheiden. In Deutschland setzen demokratische Parteien bereits KI in ihren Social-Media-Kampagnen ein, während die Regierung selbst auf populistische KI-Fälschungen verzichtet.
KI-generierte Inhalte sind längst ein Werkzeug für politische Einflussnahme, Finanzbetrug und extremistische Propaganda. Mit den kommenden Kennzeichnungspflichten geraten Plattformen unter Druck, manipulative Inhalte einzudämmen. Doch die Flut an gefälschten Videos, erfundenen Interviews und monetarisierter Desinformation reißt nicht ab.
