Desinformation - Angriffe auf Wahrnehmung, Sicherheit und Demokratie

Beschreibung

Vortrag 1: „Krieg der Medien. Willkommen in der Digitalokratie“

Die Referent: Prof. Dr. Martin Andree lehrt Medienwissenschaft an der Universität zu Köln und forscht seit über 15 Jahren zur Macht der Digitalkonzerne. Er studierte in Köln, Münster, Cambridge und Harvard und habilitierte 2018. Er ist Autor mehrerer Bücher, darunter der Bestseller „Big Tech muss weg“ (ausgezeichnet mit dem Günter-Wallraff-Sonderpreis) und „Krieg der Medien“ (2025). Für seine Forschung erhielt er den Beatrice-Primus-Forschungspreis der Universität Köln (2025). Medien und Konferenzen greifen seine Expertise regelmäßig auf.

Der Vortrag: Digitale Monopole, Dark Tech und rechtspopulistische Bewegungen formen eine neue „Digitalokratie“: Plattformalgorithmen polarisieren, verschieben Macht und unterwandern demokratische Öffentlichkeiten. Prof. Dr. Martin Andree zeigt, wie eng Plattformen und Autokraten miteinander verflochten sind, analysiert die Mechanismen der Manipulation und diskutiert Strategien, das Internet als demokratischen Raum zurückzugewinnen. Der Vortrag basiert u. a. auf seinen Publikationen „Atlas der digitalen Welt“, „Big Tech muss weg“ und „Krieg der Medien“.

Vortrag 2: „When Safety Failures Amplify Disinformation – Safety Weaknesses in Large Language Models“

Der Referent: Prof. Dr. Aleksandar Bojchevski leads research on trustworthy, explainable and safety-critical AI at the University of Cologne’s TAIL lab. His work focuses on developing methods that make machine learning models more robust, interpretable and reliable, particularly in high-stakes domains. He has published widely on graph neural networks, robustness and uncertainty in AI and contributes to international efforts on AI safety and evaluation.

Der Vortrag (in English): Large language models are equipped with safety mechanisms (guardrails) that are supposed to prevent harmful content. However, these protections can be circumvented through jailbreak attacks and emerging techniques such as Test-Time Training (TTT), in some cases even via public APIs without access to model weights. This talk demonstrates how such safety failures can be exploited to generate and amplify disinformation at scale, and highlights the gap between intended safety and real-world risks. We will discuss concrete attack scenarios, the limitations of current defenses, and outline directions for more robust evaluation methodologies and stronger safety standards for AI systems.

Vortrag 3: „Wenn Bilder Züge stoppen – Entscheidungsresilienz in Zeiten visueller Desinformation“

Der Referent: Carsten Reffgen ist Geschäftsführer der Enterprise Open Systems GmbH sowie CISO und Berater für Informationssicherheit. Er begleitet Organisationen bei der Einführung und Prüfung eines ISMS nach ISO 27001, IT-Grundschutz, TISAX und NIS2. Neben seiner Beratungstätigkeit lehrt er an der DHBW Mannheim zu Social Engineering und Informationssicherheitsmanagement.

Der Vortrag: Nicht die Information ist das Problem – sondern die Entscheidung, die auf ihr basiert. Manipulativ eingesetzte Bilder können ausreichen, um operative Prozesse zu beeinflussen – bis hin zu realen Störungen kritischer Infrastrukturen. Der Vortrag zeigt anhand konkreter Fallbeispiele, wie visuelle Desinformation genau dort wirkt, wo Organisationen besonders anfällig sind: im Entscheidungsprozess unter Unsicherheit. Der Vortrag diskutiert, welche Konsequenzen sich daraus für den Umgang mit Desinformation ergeben – und wie sich Entscheidungsprozesse unter realen Bedingungen robuster gestalten lassen.

Moderation: Detlef Lippert (Sprecher der Regionalgruppe Köln der GI e. V.)

Für die Online-Teilnahme ist keine Anmeldung erforderlich!
Die Einwahldaten:   ====>  Zoom-Link  <====

Bitte reichen Sie diese Ankündigung gerne an interessierte Kolleg*innen weiter. Die Veranstaltung steht allen Interessierten offen und ist kostenfrei.