Autor*innen
Christian Büscher, Tim Röller, Octavia Madeira, Georg Plattner
Organisation/Institut
Karlsruher Institut für Technologie (KIT)
Fachgebiet
Institut für Technikfolgenabschätzung und Systemanalyse (ITAS)
Kontakt E-Mail
christian.buescher@kit.edu
Einsendeart
Update eines bereits eingetragenen Projekts
Projektstand
Offen
Projektbeginn
01/02/2025
Projektende
31/03/2028
Forschungseinrichtung(en)
Forschungsverbund – divers (inkl. Unis, wie etwa MOTRA)
Publikationsformate
Sammelbandbeitrag
Drittmittelförderung
Ja
Mittelgeber
Bundesministerium
Zentraler Phänomenbezug
Übergreifend: Radikalisierung – Extremismus und/oder Terrorismus
Arbeitshypothese(n)
Welche Entwicklungen sind im Hinblick auf Künstliche Intelligenz im Kontext extremistischer Radikalisierung bereits zu beobachten und mit welchen weiteren Entwicklungen ist dahin gehend zu rechnen?
Phänomenbereich
Phänomenunspezifisch (kein ausdrücklich ausgewiesener Phänomen- bzw. ideologischer Bezug)
Forschungsmethodik
Mixed-Methods Forschungsdesign
Zentralfokus
Differente Faktoren der Einflussgrößen Person, Ideologie, Umfeld
Erhebungsverfahren
- Interview
Auswertungsverfahren
- Inhaltsanalyse
Forschungsbefunde
Expert:inneninterviews und Literaturbefunde verweisen auf ein hohes Missbrauchspotenzial von generativer KI für Propaganda. Extremistische Akteure erkennen dieses Potenzial zunehmend und suchen gezielt nach Wegen und Methoden, um diese Technologie für sich zu nutzen. Mögliche Folgen für das Radikalisierungsgeschehen ergeben sich dabei nicht nur durch täuschend echte KI-generierte Inhalte. Auch erkennbar künstliche Bilder, Memes, Musik, Videos oder Deepfakes können radikalisierend wirken, indem sie extremistische Botschaften zum Ausdruck bringen. Künftige Risiken ergeben sich aus einer möglicherweise zunehmenden Irrelevanz der Unterscheidung zwischen menschlichem und maschinellem Ursprung von medialen Inhalten. Ungeklärt bleibt, welche Effekte eine solche Entwicklung auf das Radikalisierungsgeschehen und die Präventionsarbeit hat.
Zitation des Projekts
Büscher, C., Röller, T., Madeira, O. & Plattner, G. (2026). Sind Maschinen Teil der politisch-extremistischen Kommunikation? In: Kemmesies, U., Wetzels, P., Austin, B., Büscher, C., Grube, F., Hutter, S., Richter, T., Rieger, D. & Sobota, S. (Hrsg.) (2026). MOTRA-Monitor 2024/2025. MOTRA.
Quellenangabe projektbezogener Publikation
https://www.motra.info/motra-monitor-2024-25/
Verlinkung zum Projekt:
https://www.motra.info/