What's up, Gen AI?

Gewappnet gegen Desinformation im Zeitalter von KI

🔍 Was wir machen:
Wir zeigen, wie Gruppen im Netz mit Lügen und Hass versuchen, Menschen zu beeinflussen.
Wir helfen dir, das zu erkennen und dich dagegen zu wehren.

 

📚 Themen:

😡 Diskriminierung & Menschenverachtung
🗯️ Verschwörungserzählungen
❌ Fake News

 

🎯 Unsere Angebote:
🏫 Workshops für Jugendliche und Erwachsene
🎓 Fortbildungen für Lehrkräfte

Projekt TikTokSlam

@tiktokslam

 

What's up, Gen AI?

Gewappnet gegen Desinformation im Zeitalter von KI

  • Ankommen, Kennenlernen und Einstieg

  • Desinformation WTF?!
    😡 Einflussnahmeversuche

  • KI WTF?!
    🗯 KI, ML, LLM, GenAI…

  • Desinfo x KI
    💪 Gewappnet gegen Desinformation in Zeiten von KI

  • Feedback und Abschluss 

  • Hallo & Willkommen!

  • Kennenlernen & Meinungsbarometer

  • (1) WTF?! Desinformation

  • (2) WTF?! KI, LLM, ML,

  • (3) Desinfo & KI: Wir bauen den AI SLOP EMO FEED

  • Outro

     

  • Playtest Special: Euer Feedback

  • Ende

Unser Fahrplan für heute

💡Netiquette
➝ Fragen?Wünsche?  
     Anregungen? IMMER!
➝ Arbeits-Du
 

 

HI!

Wie schön Dich

& Euch kennenzulernen 🤗

was mich am Internet...

  • mag
  • mich stört
  • mir fehlt

HI!

Paula Feicke (sie/ ihr)

Politische Bildnerin. Was ich am Internet mag: Die Schnelligkeit!! Mich stört: Werbung. Mir fehlt: darauf vertrauen zu können, was mit meinen Daten passiert.

Simone Orgel (sie/ihr)

Digitalstrategin, politische Bildnerin und Künstlerin. Ich mag am Internet: die Menschen. Mich stört: die Macht von einzelnen. Und mir fehlt: Gemeinschaftliche Infrastruktur.

Regeln Zusammenarbeit

  • Wie wollen wir heute miteinander umgehen?
  • Was braucht ihr um gut miteinander arbeiten zu können?
  • Wie gehen wir mit Tablets um?

Umfrage Check-In

The futures belong to you, GenAI.

(1) WTF?!

DESINFORMATION

☝️  Begriff

☝️  Taktik

☝️ Motive

⚒️💪  Sich wappnen

(1) Desinfo WTF?! BEGRIFF

(1) Desinfo WTF?! BEGRIFF

Was meinst Du:

Ist das Desinformation?

 

Nimm Dir 1min Zeit und reflektiere für Dich.

Dann sprechen wir kurz im Plenum dazu.

 

(1) Desinfo WTF?! BEGRIFF

ZIEL: TÄUSCHUNGSABSICHT

(1) Desinfo WTF?! BEGRIFF

Quelle: Claire Wardle and Hossein Derakshan, 2017 (CC BY-NC-ND 3.0 license); eigene Übersetzung/Darstellung Simone Orgel

(1) Desinfo WTF?! TAKTIK

https://slides.com/medialepfade-workshop/deck

Hi 👋  AI SLOPEMO Feed™

(1) Desinfo WTF?! TAKTIK

Hi 👋  AI SLOPEMO Feed™

(1) Desinfo WTF?! TAKTIK

Hi 👋  AI SLOPEMO Feed™

FAKE FAKE FAKE FAKE FAKE FAKE

(1) Desinfo WTF?! TAKTIK

Was meint Ihr:
Was macht uns alle anfällig für Desinformation?

 

Tausche Dich mit Deiner Sitznachbarin oder Nachbar aus.
Nehmt Euch dafür 2 min und notiert Euch 1-2 Stichpunkte.
Dann tauschen wir uns in der Gruppe aus.

 

(1) Desinfo WTF?! TAKTIK

ZIEL: TÄUSCHUNGSABSICHT

TAKTIK: EMOTION

(1) Desinfo WTF?! TAKTIK

(GRUND)EMOTION: UNSER WESEN ALS MENSCH

Wir sind alle emotionale Wesen. Also ALLE (kulturübergreifend). Uns berühren & betreffen Dinge.
Und das ist gut so. Sogar lebensnotwendig.

 

 

 


Wichtig ist sich klar zu machen: Genau damit arbeitet Desinformation.

GRUNDEMOTIONEN:  Freude, Überraschung,
Wut, Trauer, Ekel und Angst

☺️😮
🤬🥺🥴😱

(1) Desinfo WTF?! TAKTIK

(1) Desinfo WTF?! TAKTIK

(GRUND)EMOTION: UNSER WESEN ALS MENSCH

 

(1) Desinfo WTF?! TAKTIK

(GRUND)EMOTION: UNSER WESEN ALS MENSCH

 

(1) Desinfo WTF?! TAKTIK

(GRUND)EMOTION: EMOTIONALE GRUNDBEDÜRFNISSE

Quelle: Katharina Nocun, Pia Lamberty (2021). True Facts.

(1) Desinfo WTF?! TAKTIK

EMOTION: Psycho-soziale Effekte (Kognitive Verzerrungen)

→ Verzerrungsblindheit (blind spot bias): Tendenz, sich für unbeeinflusst(er) zu halten

→ Bestätigungsfehler (Confirmation Bias): Wir neigen dazu, Informationen so auszuwählen, zu ermitteln und zu interpretieren, dass diese unsere Erwartungen erfüllen (bestätigen)

→ Einfachheits-Fehler (Simplicity Bias): Wir ziehen schlichte Erklärungen/Lösungen gegenüber komplexeren vor.

→ (Schein)Wahrheitseffekt (illusory truth effect): Aussagen, die schon einmal gehört wurden, erscheinen glaubhafter (Desinformation nicht wiederholen)

…

(1) Desinfo WTF?! TAKTIK

Es gibt Themen, die uns alle betreffen und berühren.

Deswegn werden sie oft von Desinfo-Akteuren genutzt.

Obacht bspw. bei:


• Politik
• Wahlen
• Sicherheit und Kriminalität
• Klimawandel

• Migration

 

 

• Gesundheit
• Sexualität & Geschlecht
• Kinder

• Nostalgie

...

Check-In: Ängste der Deutschen

 

(1) Desinfo WTF?! TAKTIK

(1) Desinfo WTF?! TAKTIK

Wir leben in Zeiten von Polikrisen.

Klimakrise, (hybride) Kriege, Politische Struktur, KI & Arbeitssituation, Zukunft scheint bedrohlich ungewiss…

 

  • Gesellschaftliche Krisen begünstigen den Glauben an spezifische Verschwörungserzählungen [1] ➜ Anstieg von Angst, Unsicherheit, Kontrollverlust

  • Für die meisten Verschwörungserzählungen keine Zunahme an Gläubigen
  • Verschwörungsmindset ➜ keine Veränderungen über die Zeit hinweg [2]
  •  Wer verantwortlich ist ("Schuldige"), schwankt über die Zeit

 

[1] u.a. van Prooijen & Douglas, 2017 | [2] Uscinski et al., 2022

(1) Desinfo WTF?! TAKTIK

  • Nur ein kleiner, engagierter Rand sieht & verbreitet Desinformation (US-Wahlkampf 2016: 0,1% erzeugten fast 80% der entsprechenden Shares [1])

  • Ist Alter relevant für Empfänglichkeit von Desinfo? ➜ Jein.

  • Konservative Nutzende glauben & interagieren tendenziell eher mit Desinfo

  • Einmalige Betrachtung ≠ Einstellungsänderung,
    ➜ Aber: Je mehr mensch Infos begegnet, desto eher wird sie geglaubt und verbreitet (Remember: Scheinwahrheitseffekt!)

[1] u.a. van Prooijen & Douglas, 2017 | [2] Uscinski et al., 2022

[1]Grindberg et al.

 

(1) Desinfo WTF?! MOTIVE

Was meint Ihr:
Warum verbreiten Menschen Falsches mit Absicht?

 

Tauscht euch mit der 2er Gruppe neben Euch aus. Nehmt Euch 2 min zum Reflektieren und notiert Euch 1-2 Stichworte. 

Dann tauschen wir uns in der Gruppe aus.

(1) Desinfo WTF?! MOTIVE

ZIEL: TÄUSCHUNGSABSICHT

TAKTIK: EMOTION

MOTIVE: EIGENNUTZ

 

(1) Desinfo WTF?! MOTIVE

… destabilisiert durch Polarisierung (schwarz-weiß | gut-böse        Denken); lässt keine Perspektivenvielfalt zu
   ➜ schwächt Vertrauen in Institutionen (bspw. Politik & Medien)

… gefährdet gesellschaftliche Zusammenarbeit (Kooperation)
    ➜ dringend nötig zur Bewältigung gemeinsamer Krisen

… radikalisiert & provoziert Gewaltbereitschaft

… gefährdet (physische & mentale) Gesundheit – Profit mit der Angst

(1) Desinfo WTF?! AUSWIRKUNGEN

Du hast alles in Dir um Dich dagegen zu wappnen.

 

[1] https://www.zeit.de/wissenschaft/2026-06/kooperationsbereitschaft-studie-gemeinwohl-menschen-global

Und wir als Gesellschaft eigentlich auch:

 

»Wir sind als Spezies kooperativer, als wir selbst glauben.«  und das weltweit [1]

  • OBACHT bei Themenfeldern, die ekeln, wütend, traurig, entsetzt machen (Grundemotionen)
  • Innehalten: 3 Sek. ein- und 6 Sek. ausatmen
  • Beitrag (erstmal) nicht teilen
  • Erste Reaktion erkennen, akzeptieren, an heute denken und reflektieren 🙂
  • Recherchieren ob die Meldung stimmt
  • Sich dazu mit Vertrauenspersonen austauschen

Gewappnet gegen Desinfo

(1) Desinfo WTF?!  Werkzeuge

Hast Du Erfahrung gesammelt, wie Du einen Beitrag überprüfen kannst?

 

Tausche Dich mit Deiner Sitznachbarin oder -nachbar aus. Nehmt Euch 3 min zum Reflektieren und notiert Euch 1-2 Stichpunkte.

Dann tauschen wir uns in der Gruppe aus.

(1) Desinfo WTF?!  Werkzeuge

Recherchieren

  1. Bestehendes nutzen ➜ Faktenchecks

    Bspw.:
    • mimikama
    • Correktiv Faktencheck
    • Faktenchecks der Deutschen Presseagentur (dpa)
    • ARD-Faktenfinder
    • #faktenfuchs vom Bayerischen Rundfunk
    • Falls Ihr selbst Faktenchecker:innen werden wollt: codetekt

(1) Desinfo WTF?!  Werkzeuge

Recherchieren

  1. Bestehendes nutzen ➜ Faktenchecks
  2. Selbst recherchieren
    ➜ Quelle überprüfen
  • Hat die Seite ein Impressum (§ 5 DDG: Namen, Anschrift, Kontakt,…)
  • Sprache: Wie wird im Artikel/Website formuliert? Neutral oder tendenziös?
  • Werden konkrete Quellen für Informationen genannt
  • Bestätigen andere (seriöse) Medien die Meldung?

(1) Desinfo WTF?!  Werkzeuge

Recherchieren

  1. Bestehendes nutzen ➜ Faktenchecks
  2. Selbst recherchieren
    ➜ Quelle überprüfen
    ➜ Autorin/Autor überprüfen
  • Wer ist der Autor oder die Autorin? Gibt es weitere Texte oder andere Informationen online?
  • Wissen und Expertise auf einem Feld, heißt nicht auch Expertin in einem anderen Feld zu sein.

(1) Desinfo WTF?!  Werkzeuge

Recherchieren

  1. Bestehendes Nutzen ➜ Faktenchecks
  2. Selbst recherchieren
    ➜ Quelle überprüfen
    ➜ Autorin/Autor überprüfen
    ➜ Suchmaschinen nutzen

(1) Desinfo WTF?! ÜBUNG

Stimmt das? Bitte finde und überprüfe diese Schlagzeile im Internet:

"„Wahre Heimatliebe ist“: Prominente unterstützen Kampagne für AfD-Alleinregierung in Sachsen-Anhalt"

Recherchieren

(1) Desinfo WTF?! ÜBUNG

Stimmt das? Bitte finde und überprüfe diese Schlagzeile im Internet:

"„Wahre Heimatliebe ist“: Prominente unterstützen Kampagne für AfD-Alleinregierung in Sachsen-Anhalt"

Recherchieren

MANIPULIERT MANIPULIERT

MANIPULIERT MANIPULIERT

(1) Desinfo WTF?! ÜBUNG

Recherchieren

A                                      B                                        C

(1) Desinfo WTF?! ÜBUNG

Recherchieren

A                                      B                                        C

KI KI KI KI KI KI KI KI KI KI KI KI

KI KI KI KI KI KI KI KI KI KI KI KI

KI KI KI KI KI KI KI KI KI KI KI KI

(1) Desinfo WTF?! ÜBUNG

Recherchieren

(1) Desinfo WTF?! ÜBUNG

Recherchieren

FAKE FAKE FAKE FAKE FAKE FAKE

Kriterien Desinformation

 

ZIEL: TÄUSCHUNGSABSICHT

TAKTIK: EMOTION

MOTIVE: EIGENNUTZ

METHODE: MANIPULATION
 

(1) Desinfo WTF?! All2gether Now.

1. Du hast alles in Dir um Dich dagegen zu wappnen.

  • OBACHT bei THEMENFELDERN, die ekeln, wütend, traurig, entsetzt machen.
  • Innehalten & 3 Sek. ein- und 6 Sek. ausatmen.
  • Beitrag (erstmal) nicht teilen.
  • Erste Reaktion erkennen, akzeptieren, an heute denken und reflektieren 🙂.
  • Recherchieren ob die Meldung stimmt.

2. Wir sind alle emotionale Wesen. Das ist (lebens)notwendig & gut so.

3. Menschen, die Dich beeinflussen wollen, setzen bei unseren      
    Emotionen an (Säbelzahntiger)

4. Wir haben (oft) zu wenig Werkzeuge, um mit Wut, Angst, Trauer,
     Ekel gut umgehen zu können

5. und zu wenig Anlaufstellen, die helfen

 

[1] https://www.bpb.de/kurz-knapp/taegliche-dosis-politik/573316/psychotherapie/

(1) Desinfo WTF?! All2gether Now.

HateAid
https://buddy.hateaid.org/de/beratung
 

Berliner Krisendienst (akute Hilfe): Tel.: 030 390 63 00

www.berliner-krisendienst.de/ich-brauche-hilfe/
 

Opferhilfe e.V.: Tel.: 030 395 2867

info@opferhilfe-berlin.de

www.opferhilfe-berlin.de


WEISSER RING e.V. – Landesverband Berlin: 030 833 7060

https://berlin.weisser-ring.de/
www.hilfe-berlin.de

(2) KI WTF?!

Was ist eigentlich KI…?! Und was nicht.

(2) KI, WTF?! #Begriff

KI, LLM, ML, GenAI… hurrei:

Wir spielen KI-Konfettiii 🤗

 

 

 

 

 

🤗 Tauscht euch in 4er Gruppen aus.

☑️ Aufgabe: Begriffe richtig in die Übersicht eintragen.

⏰ Ihr habt 5 min Zeit um alle Begriffe richtig zuzuordnen.

👋 Dann tauschen wir uns in der Gruppe aus.

(2) KI, WTF?! #Begriff

Quelle: "KI und Demokratie, Zukunftsbeiträge aus Wissenschaft und Praxis (Kapitel 1)"

(2) KI, WTF?! #Begriff

Quelle: "KI und Demokratie, Zukunftsbeiträge aus Wissenschaft und Praxis (Kapitel 1)"

(2) KI WTF?! #Funktion+Aufbau

Und wie funktioniert

das alles überhaupt?

(2) KI WTF?! #Funktion+Aufbau

(2) KI WTF?! #Funktion+Aufbau

Was nehmt ihr

aus dem Beitrag mit?

(2) KI WTF?! #Funktion+Aufbau

  • Maschienen/Systeme lernen aus Daten & deren Wahrscheinlichkeitsverteilung
  • Modelle erkennen daraus Muster & können Vorhersagen treffen
  • Dafür sind riesen Datenmengen nötig: Woher kommen die? Unklar.
    • Rohmaterial = öffentlich zugängliche Daten (bspw. Wikipedia)
    • Integration  = Lizensierte Datensätze (bspw. Grok - Daten aus "X")
  • // KI Maschiene: Wie sieht die Zukunft von Beruf XYZ aus


  • Maschienen/Modelle intelligent? Mhh.. Alles was es gibt = schwache KI.
  • haben keinen moralischen Kompass ➜ braucht Menschen, die die KI-Systeme trainiiert:
    • Wer? Clickworker (Moderatoren) – Verlierer der KI
    • Was? Rohdaten + 
Markieren, Transkribieren oder Beschriften mit Kontextwissen (Annotiierte Daten); oft globaler Süden: > als 2$/Std.


(2) KI WTF?! #KI Bias

(2) KI WTF?! #KI Bias

Was nehmt ihr

aus dem Beitrag mit?

(2) KI WTF?! #KI Bias

Recap: Diskriminierender Output durch KI-Systeme

Einfallstore für Diskriminierung sind:

  • Datensatz selber
  • Die Auswahl der Datensätze durch die Entwickelnden
  • Die Entscheidung der Betreiber (Big Tech) für oder gegen moralische Überarbeitung

Plattformlogiken und -architektur:

Profitinteresse  |  Emotionalisierung | Polarisierung

  • Interaktion wird belohnt (Reactions und Rekursion wie mixen)
  • Ständige Wiederholung bekannter Motive
  • Monetarisierungsregeln: Masse wird belohnt (Creator Rewards Program)
  • kurze Aufmerksamkeitsspanne
  • vor allem bei TikTok:
    • schlechte Fact-Checking-Mechanismen &
      Community Management (schlechte Bot-Policy)
    • wenig Einfluss auf Social Graph

Umwelt:

  • Datacenter: Verbrauch von Ressourcen, Land, Wasser, Energie


  • Mehr Nutzung, mehr Geräte & Energieverbrauch bei Usern


(2) KI WTF?! #Plattformlogiken & Umwelt

Wir bauen den… #whoop

 

AI SLOP EMO Feed Production™

(2) KI WTF?! #Desinfo x KI

Der Fall „BlueRabbit“: Kollaps nach Energy-Drink

Ein 13-jähriges Kind wird nach starkem Konsum des Energy-Drinks „BlueRabbit“ mit Herz-Kreislauf-Kollaps in eine Klinik eingeliefert. Die Eltern berichten öffentlich auf Social Media und machen zwei Akteure verantwortlich: den Hersteller BlueRabbit und das örtliche Gesundheitsamt, das den Verkauf des Getränks an Minderjährige noch nicht eingeschränkt hat.

Die Amtsleitung unter Dr. Schmidt reagiert zögerlich auf die Vorwürfe – die Empörung wächst. Dabei ist noch gar nicht sicher, ob der Kollaps wirklich durch den Energy-Drink verursacht wurde.

Dann taucht ein Influencer auf, der mit einer Studie die Unbedenklichkeit von BlueRabbit „beweist“. Eine Journalistin deckt jedoch auf: Die Studie wurde nur für das Video von einer KI erstellt – und der Influencer hat einen Werbedeal mit BlueRabbit.

Wilde Beschuldigungen in alle Richtungen lassen die Emotionen hochkochen.
#stopptbluerabbit ist jetzt überall.

(2) KI WTF?! #Desinfo x KI

Aufgabe 1

(Video, GenAI FLUX):

Ziel: Aufmerksamkeitsstarken Social Media Beitrag für den EMO Feed.

Aufgabe:

➜ Video mit Flux erstellen

➜ max. 20 Sek. lang & 3 Versuche

➜ Fertig? Yay! Ladet das Video runter

(2) KI WTF?! #Desinfo x KI

(3) Desinfo x KI

Aufgabe 1 (Videoproduktion mit KI-Video Tool):

Aufgabe 2 (Bildproduktion mit KI-Maschine):

QR-Code teilen wir euch aus.

https://ki.medialepfade.org/

Login: hallo@medialepfade.org

Passwort: medialepfade4422

(3) Desinfo x KI

Auswertung

Aufgabe 1 (Videoproduktion mit KI-Video Tool)

Aufgabe 2 (Bildproduktion mit KI-Maschine)

 

  

(3) Desinfo x KI

SUMUP

  • um Desinformation zu streuen und eine hohe Reichweite zu erzielen funktionieren besonders gut Videos mit aktuellen, nachrichtlichen und emotionalen Themen (die oft sowieso schon viel Aufmerksamkeit haben)
     
  • dabei bietet sich AI Slop besonders an, weil er billig, schnell, ästethisch ausreichend genug und vorallem super emotional gestaltet werden kann
     
  • dank der Plattformlogiken (Belohnungssystem für Masse und emotionalen, polarisierenden Inhalt) verbreitet sich solcher Content sehr gut

(3) Desinfo x KI

Partizipative Propaganda

 

 

… destabilisiert durch Polarisierung (schwarz-weiß | gut-böse        Denken); lässt keine Perspektivenvielfalt zu
   ➜ schwächt Vertrauen in Institutionen (bspw. Politik & Medien)

… gefährdet gesellschaftliche Zusammenarbeit (Kooperation)
    ➜ dringend nötig zur Bewältigung gemeinsamer Krisen

… radikalisiert & provoziert Gewaltbereitschaft

… gefährdet (physische & mentale) Gesundheit – Profit mit der Angst

 

Desinformation ist eine Gefahr: Gesellschaftlich, individuell…
und wirtschaftlich:

Weltwirtschaftsforum benennt in ihrem Global Risks Report 2025 erneut Desinformation als einer der drei drängendsten globalen Bedrohungen

(1) Desinfo WTF?! AUSWIRKUNGEN

Du hast alles in Dir um Dich dagegen zu wappnen.

 

[1] https://www.zeit.de/wissenschaft/2026-06/kooperationsbereitschaft-studie-gemeinwohl-menschen-global

Und wir als Gesellschaft eigentlich auch:

 

»Wir sind als Spezies kooperativer, als wir selbst glauben.«  und das weltweit [1]

a) Problem: KI System Bug ➜ Politischer Handlungsbedarf

b) Skepsis vs. Zynismus

c) Eure Werkzeuge:

  • Gebt Euren Gefühlen Raum & erlernt gute Umgangsmöglichkeiten
  • OBACHT bei Themen, die ekeln, wütend, traurig, entsetzt machen
  • Innehalten: 3 Sek. ein- und 6 Sek. ausatmen
  • Beitrag (erstmal) nicht teilen
  • Erste Reaktion erkennen, akzeptieren, an heute denken 🙂
  • Recherchieren ob die Meldung stimmt
  • Besprechen mit Vertrauenspersonen
  • Gegenrede und sich politisch einmischen

Gewappnet gegen Desinfo x KI

und wie weiter...?

Individuell/gesellschaftlich:

1. Vernetzt & unterstützt Euch! Gesellschaftlicher Zusammenhalt ist der beste Schutz gegen Desinfo & Krisen

2. Einmischen! Nach Möglichkeit dranbleiben.
Argumentationshilfen, bspw. Radikale Höflichkeit
Hass melden: Anleitung bspw. Ingrid Brodnig

3. Spaß erlaubt!
Gemeinsam Hass melden, bspw. mit #ichbinhier

4. Faktenchecks Eurer Wahl als Lesezeichen.

Politisch/gesellschaftlich:

5. Mischt Euch ein!
bspw. für (bessere) Regulierungen, Unterstützung & Ausbau guter Ansätze (GdD/DSA und DMA)

6. Check-In Wahlkreis
Fragt nach, welche Pläne zum Schutz von Euch da sind.

Informieren, bspw. mit Zentrum für Digitalrechte & Demokratie

und wie weiter...?

Anlauf- und Beratungsstellen
Berlin Brandenburg

(4) OUTRO

Offene Fragen? Gedanken?

Eine nicht geglaubte und nicht geteilte Desinformation ist schlicht…

Egal. 💪

DANKE!

Folgt uns auf Instagram!

…dass Ihr heute hier wart.

…für Eure geschätzte Aufmerksamkeit.

…für Euer Engagement gegen Desinfo.

 

WE ARE THE FUTURE IN THE PRESENT

DANKE!

Playtest Feedback Special