#projektOdra – eine Anti-Troll-einheit kämpft mit Digital Education gegen Hetze und Fake News im Netz

Hass und Hetze in den sozialen Medien gehen mit Gewalt und Terror in der realen Welt einher. Insbesondere im rechtsextremen Spektrum sind Akte der politischen Gewalt mit interaktiver Kommunikation, die unter Begriffe wie „Fake News“ oder „Hate Speech“ fällt, im Internet verzahnt. Sie entspringen einer virtuellen Gemeinschaft, die mit ihren politischen Gegnern abrechnet – online und offline. Historisch bedingt ist dies unter anderem auch bei Diskursen zur deutsch-polnischen Beziehung deutlich zu beobachten. Hierzu Falschinformationen zu identifizieren und mit schneller digitaler Gegen-Information anzusetzen, ist das Ziel des schweizerisch-polnisch-deutschen Kooperationsprojektes mit dem Namen #projektODRA. Im Rahmen des Kolloquiums „Digital Humanities – Aktuelle Forschungsthemen“ haben stellvertretend für das zehnköpfige Projektteam Björn Klein von der FH Nordwestschweiz, gemeinsam mit Jürgen Hermes und Dennis Demmer vom IDH der Universität zu Köln, das Projekt beleuchtet. Besondere Umstände erfordern besondere Maßnahmen – wegen der aktuellen Corona-Situation wurde der Ablauf des Kolloquiums in zwei Teile geteilt: Zuerst der Vortrag als YouTube-Video und im Anschluss am 30. April 2020 eine offene Diskussion via Zoom.

Die Idee von #projektODRA

Björn Klein, der selbst Mittlere und Neuere Geschichte, Iberische und Lateinamerikanische Geschichte, sowie Englische Philologie an der Universität zu Köln studierte, beschreibt #projektODRA als ein „trinationales Digital Education-Vorhaben“. Es nimmt sich als Ziel, eine zweisprachige deutsch-polnische Fachredaktion aufzubauen, mit der es möglich ist, auf geschichtspolitische Debattenbeiträge zum deutsch-polnischen Verhältnis, vornehmlich in den sozialen Medien, zu reagieren. Desinformationskampagnen sollen aufgespürt werden, um diesen mit der gebotenen historischen Expertise entgegenzutreten. Diese Intention wird auch in dem Projektnamen widergespiegelt, da es sich einerseits um die polnische Bezeichnung des Grenzflusses Odra (dt. Oder) zwischen Deutschland und Polen und andererseits um ein Akronym für Ordnen, Deuten, Richtigstellen und Annähern handelt. Diese interdisziplinäre Projektgruppe setzt sich in Gänze aus mehreren Historiker*innen und digitalen Geisteswissenschaftler*innen unterschiedlichster Fachgebiete zusammen (Abb. 1):

Abb. 1: Konstituierung der Projektgruppe auf dem Campus Muttenz,
Quelle: https://texperimentales.hypotheses.org/3940

Gefördert und unterstützt wird das Projekt von der Stiftung EVZ (Erinnerung, Verantwortung, Zukunft) aus Berlin, die im Februar 2019 die Ausschreibung „digital // memory“ veröffentlichte, in der sie ein Förderprogramm aufstellte, welches als Fokus die Auseinandersetzung mit der Geschichte im digitalen Zeitalter zum Ziel hatte. Konkret wurde in dieser Ausschreibung nachgefragt, wie die sogenannten „Neuen Medien“ das Bild von der Vergangenheit prägen und welche Möglichkeiten für die Entwicklung und Erprobung digitaler Formate in der historisch-politischen Bildung anwendbar sein könnten. Vielfältige Zugänge zu der Geschichte des Nationalsozialismus und darüber hinaus die kritische Auseinandersetzung mit aktuellen Formen gruppenbezogener Menschenfeindlichkeit und ihrer Konsequenzen wurden als förderungswürdig ausgeschrieben.

Zu Beginn, also vor der Bewerbungseinreichung bei der EVZ, war das ursprüngliche Ziel der Aufbau einer sogenannten „Anti-Troll-Einheit“, um damit historische Arbeit zeitgemäß digital aufbereitet ins Netz bringen zu können. In einem Workshop arbeitete das Projektteam zunächst an der Idee, Videos zu erstellen, die zukünftig als Lehrmaterial an (Hoch-)Schulen, aber auch als frei zugängliche Videos für „Filterblasen” von menschenfeindlichen Diskussionsgruppen auf Instagram, YouTube, Twitter, Facebook und Reddit fungieren sollen. Dazu zeigte Björn Klein als Beispiel einen kleinen Ausschnitt des ersten Videos zum Thema „Migration – Feindbilder der Flüchtlingskrise“, welches Ende Januar 2020 mit polnisch- und deutschsprachigen Interviewpartner*innen in Wroclaw gedreht wurde. Ferner ist geplant einen YouTube-Kanal zu erstellen, auf dem diese Info-Videos hochgeladen werden. Analog dazu wurde von Dennis Demmer ODRAlighthouse programmiert, ein webbasiertes Monitoring-Tool, welches die redaktionelle Arbeit unterstützen soll. Im Vortrag gab Jürgen Hermes das Wort an Demmer weiter, der die Anwendung vorstellte.

ODRAlighthouse: Der Aufbau des Leuchtturms

Der Name für das webbasierte News- und Social Media-Dashboard ODRAlighthouse rühre daher, dass man von „der Spitze eines Leuchtturms aus nun mal gut gucken“ könne, so Dennis Demmer. Schließlich ginge es um einen Aus- bzw. Überblick über Medieninhalte und deren Wirkung auf Geschichte und Politik. Das Monitoring-Tool soll es dem Redaktionsteam von #projektODRA ermöglichen, die Inhalte vor dem Hintergrund der deutsch-polnischen Beziehung zu bewerten, „gefährliche und kritische“ Inhalte zu markieren und darüber gemeinsam zu diskutieren. Um all diese Funktionen integrieren zu können, startete Demmer mit einem sogenannten Paper Prototype, einem gängigen Hilfsmittel in der Softwareentwicklung (s. Abb. 2). Sie unterstützen durch die Visualisierung der Ideen zur Softwareoberfläche die Kommunikation und verhindern Missverständnisse zwischen Entwickler*innen und Projektpartner*innen. Anschließend wird der Prototyp mit einer entsprechenden Prototyping-Software umgesetzt.

Abb. 2: Ein erster Entwurf von ODRAlighthouse mit Hilfe eines “Paper Prototype”
(Screenshot aus dem Video zum Vortrag),
Quelle: https://youtu.be/W-w7D0qR_V4?t=1376

Der erste Entwurf sah noch Kacheln vor, die sich jedoch letztlich als unpraktisch und unübersichtlich herausstellten, je mehr Artikel angezeigt werden sollten. Eine Best-Practice-Analyse führte schließlich zu einer Darstellung auf Basis der Software TweetDeck. Diese teilt für einen besseren Überblick Twitter-Inhalte in themenspezifische Spalten ein und bietet eine intuitive Handhabung. In Orientierung daran gliedert ODRAlighthouse Nachrichtenartikel und Social-Media-Inhalte in anpassbare Timelines. Es solle eine Oberfläche geschaffen werden, die von den Nutzer*innen individuell angepasst und auf die eigenen Bedürfnisse ausgerichtet werde könne. Weiter verwies Demmer auf die geplante Kommentar- und Annotationsfunktion, sowie auf die Möglichkeit, Inhalte zu favorisieren oder als gefährlich zu markieren. Zudem sollten Social-Media-Inhalte mit themenbezogenen Tags, sog. Topic Tags, versehen werden können.

Im Anschluss an die Beschreibung der gewünschten Funktionen stellte Dennis Demmer die Live-Version von ODRAlighthouse vor, die bereits von Mitarbeiter*innen des Redaktionsteams genutzt werden kann (s. Abb 3).

Abb. 3: Die Startseite des ODRAlighthouse-Clients,
Quelle: https://texperimentales.hypotheses.org/3940

Bezüglich des Layouts fällt direkt die Ähnlichkeit zu TweetDeck auf. Auf der linken Seite befindet sich eine dunkelblaue Leiste mit einem Menü, das unterschiedliche Einstellungsmöglichkeiten und Adminfunktionen anbietet. Die restliche Seite ist beim erstmaligen Einloggen noch leer und kann mit der „Add column“-Funktion nach Wunsch und Interesse gestaltet werden. Es gibt sechs Spaltentypen, für die man sich entscheiden kann. Hinter dem Spaltentyp „Source“ versteckt sich die Möglichkeit, Spalten je nach Nachrichtenquelle zu erstellen. Hierfür wurden mit Hilfe von Studenten aus der Lehrveranstaltung „Fake News Monitoring“, die von Jürgen Hermes und Dennis Demmer im Wintersemester 2019/2020 gemeinsam geleitet wurde, Scraper entwickelt. Diese Scraper lesen den HTML-Code der entsprechenden Nachrichtenseite aus und speichern die gewünschten Inhalte in einer Datenbank ab. Sobald die Nachrichtenseiten ihren Aufbau ändern, muss der entsprechende Scraper darauf angepasst werden. Die Nachrichten-Scraper sind demnach wartungsbedürftig und müssen immer wieder von Demmer aktualisiert werden. Genaueres zur Lehrveranstaltung sowie zur Softwarearchitektur kann auf dem Blog „TEXperimenTales“ im Beitrag „ODRAlighthouse – Das Redaktionsdeck für #projektODRA“ von Jürgen Hermes nachgelesen werden . In der Beispielspalte zu Nachrichtenquellen zeigte Demmer nun die Möglichkeit, „Topic Tags“ für einzelne Artikel zu hinterlegen. Für diese Tags können zudem eigene Spalten mit dem Spaltentyp „Topic“ angelegt werden. Genauso kann für die Markierungen mit Sternen (für Favorisierung) und Flags (für “gefährliche Inhalte”) verfahren werden. Möchte man generell oder auch aus bestimmten Nachrichtenquellen alle Artikel herausfiltern, die einen gesuchten Begriff enthalten, kann man dies mit dem Spaltentyp „Search“ tun. Der letzte implementierte Spaltentyp ist „Social Media“. Momentan funktioniert dieser Filter nur für Twitter. Facebook und Reddit sollen noch folgen. Die erstellte Spalte liefert live alle Posts, die das gesuchte Hashtag enthalten.

Blick in die Ferne: Die Zukunft von ODRAlighthouse

In seinem Vortrag wechselte Demmer nun auf den DEV-Server, auf dem die Version von ODRAlighthouse liegt, an der momentan entwickelt wird. Hier stellte er die Kommentarfunktion vor, die über das Sprechblasen-Symbol unter den Artikeln erreichbar und noch nicht live verfügbar ist. Klickt man auf das Symbol, erscheint eine Vollansicht des gescrapten Artikels, der markiert und kommentiert werden kann. „Vorbild dafür war das Google-Docs-System, [in dem] man Kommentare an die Seite von Texten schreiben kann und dann über diese Textstellen diskutieren kann.“ Genauso würden sie das auch umsetzen wollen, so Demmer. Jede*r Mitarbeiter*in des Redaktionsteams soll eine eigene Farbe für die Markierungen im Text erhalten. Zudem werde es möglich sein, Kolleg*innen im Kommentar zu markieren, so wie es bei Twitter mit einem „@“-Zeichen gemacht werden kann. Demmer schloss seinen Vortrag mit dem Hinweis auf die benutzerspezifische und an einen User gebundene Oberfläche, die es den Mitarbeiter*innen des #projektODRA ermöglicht, das Tool komplett auf ihre Recherchearbeit auszurichten.

„Ich denke man hat ganz gut gesehen, was hier auch der Part vom IDH war. Nämlich ein Tool bereitzustellen, das eben eine mehrsprachige Redaktion nutzen kann, um sich über Themen zu informieren, beziehungsweise auch abschätzen zu können, welche Themen gerade im Diskurs behandelt werden“, fasste Jürgen Hermes Demmers Vortrag zusammen. Anschließend verwies er auf seinen Blogbeitrag, in dem er auch detaillierter auf die Softwarearchitektur von ODRAlighthouse sowie auf Überlegungen zum „Einsatz von maschinellen Lernverfahren zum Ranking bzw. zur Auswahl potentiell relevanter Posts und Artikel“ in der Zukunft eingeht. Mit einem Dank an die Dozierenden für ihre Bereitschaft sich an die konzeptionellen Änderungen im Kolloquiumsplan anzupassen, beendete Hermes den Vortrag. 

Virtueller Fragenhagel

Der aktuellen coronösen Lage geschuldet folgte erst im Kolloquiumsmeeting via Zoom eine Diskussion des Vortrags, die zahlreiche interessante Fragen hervorbrachte. Neben einigen technischen Nachfragen zu ODRAlighthouse, die Dennis Demmer beantwortete und die weiter oben bereits im Abschnitt über das Monitoring-Tool aufgegriffen wurden, interessierten sich die Teilnehmer*innen vor allem für die konkrete Umsetzung der im Vortrag beschriebenen Informationskampagnen: Wie genau sollen die Videos in den entsprechenden Foren verbreitet werden? Welche Nutzer*innen sollen damit angesprochen werden?

Abb. 4: So sieht einer der ersten Prototypen der Info-Videos aus, auf die in Foren und Kommentarspalten verlinkt werden sollen –
hier sind Marvin Rees (l.) und Marco Demantowsky (r.) beim Interview zu sehen,
Quelle: https://youtu.be/W-w7D0qR_V4?t=1376

Björn Klein erläuterte, dass dieser Teil des Projektes in den erfahrenen Händen von Moritz Hoffmann] läge, der insbesondere auch für die Einrichtung des geplanten YouTube-Kanals zuständig sei. Insgesamt sei geplant, die vorab produzierten Info-Videos nicht als solche in die Foren zu setzen, sondern z.B. bei Instagram kleine 20-sekündige Teaser oder graphisch ansprechende Bilder zu posten, die dann wiederum auf die Videos auf YouTube (s. Abb. 4) verlinken. Jürgen Hermes verwies diesbezüglich auch auf die Erfahrungen mit dem Counter-Speech-Projekt GeschichtsCheck, an dem Hoffmann ebenfalls beteiligt ist. Dort werden u.a. Flashcards (s. Abb. 5) in entsprechenden Foren gepostet und mit ausführlicheren Blogposts verlinkt.

Abb. 5: Eine Flashcard von GeschichtsCheck.
Urheber: Sudetendeutsche Stiftung, Vertreibung, Crop, Blur, Text von GeschichtsCheck, CC BY-SA 1.0, https://www.geschichtscheck.de/wp-content/uploads/2016/11/vertriebene.png

Die Kommunikation mit den Usern der Foren geschieht manuell und soll auch im #projektODRA nicht automatisiert erfolgen, da dies die Gefahr birgt, von den jeweiligen Plattformen als programmierter User erkannt und entfernt zu werden. Hermes betonte, man entwickle auch eine Art Kampfgeist, sich durch die Diskussionen zu kämpfen mit dem Ziel, das letzte Wort zu behalten.

Don’t feed the trolls?

Trotz großer Zustimmung zur Vision und zum Konzept des Projektes zeigten sich einige Teilnehmer*innen des Kolloquiums skeptisch, inwiefern mit den Erklärvideos bei Usern gewisser Social-Media-Kanäle, in denen Verschwörungstheorien und/oder Falschdarstellungen kursieren, ein tatsächlicher Effekt erzielt werden kann. Dabei fielen Buzzwords wie „Lernresistenz“ und „Don’t feed the trolls“. Die anwesenden Projektmitarbeiter waren sich einig, dass man natürlich nicht davon ausgehe, mit diesem Projekt Hassrede im Netz, ausländerfeindliche Tendenzen oder Fake News flächendeckend und nachhaltig eindämmen zu können. Dazu reichen weder die personellen noch die finanziellen Ressourcen des Projekts, welches zudem nur auf ein Jahr Laufzeit angesetzt ist. Ein kleiner Schritt sei zum Kampf gegen Desinformation aber bereits getan, wenn zumindest einige User zum Um- und Überdenken bewegt werden könnten und vor allem junge Menschen mit einem Skill-Set ausgestattet werden könnten, um Falschmeldungen und menschenverachtende Narrative hinterfragen und dekonstruieren zu können. Immerhin könne man ja auch nicht einfach nichts tun, so Klein: Was bleibt einem übrig, als immer weiter zu machen? Der konkrete Erfolg des Projektes lässt sich zwar nur schwierig bestimmen, doch durch gemessene Klickzahlen für Anzeigen und Posts auf Instagram und Twitter oder Zeitangaben über die Dauer, für die die YouTube-Videos tatsächlich angeschaut wurden, lässt sich die Reichweite möglicherweise abschätzen.

Außerdem, so betonte Hermes, läge der Fokus des Projekts ohnehin nicht auf der Bekämpfung von Rechtsradikalismus in Deutschland, sondern – wie in der Ausschreibung der EVZ gefordert – auf der Verbesserung der deutsch-polnischen Beziehungen durch gezielte Aufklärung über geschichtspolitische Debatten. Das ist auch der Grund, warum das Projekt nicht mit Aussteigervereinen wie EXIT kooperiert – die Zielsetzungen sind grundsätzlich unterschiedliche. #projektODRA stehe mehr mit anderen von der EVZ geförderten Projekten in Kontakt.

Mehrfach stellte sich die Frage nach der eigentlichen Zielgruppe, da angemerkt wurde, wie unterschiedlich die beiden Fokusgruppen – Schüler*innen und Student*innen auf der einen, Rechtspopulist*innen und Trolle auf der anderen Seite – sind. Des Problems sei man sich bewusst, erklärte Klein, es wäre auch in den Workshops der Projektgruppe des Öfteren angesprochen worden. Allerdings resultiere die Zielgruppe einerseits aus der Ansiedlung des Projekts an der auf die Ausbildung von Lehrkräften konzentrierten FH Nordwestschweiz, die eine Entwicklung von Material fordere, das in der Hochschul- oder Schuldidaktik verwendet werden könne; andererseits jedoch aus den Anforderungen in der Ausschreibung der Stiftung EVZ, in denen dieser Widerspruch bereits unterschwellig vorhanden war.

Fazit

Trotz des straffen Zeitplans seit dem Projektstart im Oktoberletzten Jahres konnte das #projektODRA schon viele seiner Ziele erfolgreich umsetzen. Mit beeindruckender Teamarbeit über drei Ländergrenzen hinweg wurde nicht nur ein konkretes Konzept entwickelt, sondern es wurden bereits erste gut recherchierte Informationsvideos mit zahlreichen Beteiligten in Polen gedreht sowie ein belastbares Tool für die gemeinsame Redaktionsarbeit entwickelt. Insbesondere das Monitoring-Tool bietet hierbei durch die Kombination von TweetDeck mit Features zur kollaborativen Bearbeitung von digitalen Objekten (den Artikeln und Posts) innovative Funktionen an.

Die Diskussion im Kolloquium machte aber auch sichtbar, welch weitreichende Auswirkungen die Hochschulpolitik sowie die Praxis der Vergabe kurzfristiger Förderlaufzeiten in der Wissenschaft auf Forschungsprojekte haben. Klein betonte, dass viele der angesprochenen offenen Fragen durch mehr Zeit hätten gelöst werden können. Mit der momentanen Projektlaufzeit und den organisatorischen Schwierigkeiten, denen sich ein multinationales Projekt stets stellen muss, sei es schon ein Erfolg, das Geplante überhaupt abschließen zu können – namentlich das Monitoring-Tool, der YouTube-Kanal sowie die dazugehörigen Informationsvideos. Da es sich um ein relativ kleines Projekt (8 Mitarbeiter*innen in Teilzeit, 2 Mitarbeiter*innen für das Design) handelt, ist aktuell auch keine Ausweitung der Kooperation auf andere europäische Länder geplant.

Alle Ergebnisse des Projekts werden jedoch gut dokumentiert als Open Source zur Verfügung gestellt, sodass sie gewissermaßen als Blaupause für Nachfolgeprojekte auch in anderen Bereichen politischer oder historischer Bildung nutzbar sind. Tatsächlich haben einige Bildungsinstitutionen bereits Interesse an einer Nachnutzung des Monitoring-Tools gezeigt. Mit welchen Problemen und Grenzen das Projekt in der nun anlaufenden Projektphase 2, der Verbreitung der Videos in Foren und Kommentarspalten, zu kämpfen haben wird, bleibe dahingestellt, so Klein und Hermes. Mit der richtigen Expertise und einem engagierten Team im Hintergrund sehen sie sich aber gut gewappnet für die kommenden Herausforderungen.

Zu den Autoren:

Judith Nester studierte nach ihrer Ausbildung zur Buchhändlerin Medienwissenschaft und Medieninformatik im Bachelor an der Universität zu Köln. Momentan studiert sie Informationsverarbeitung im Master und arbeitet als Wissenschaftliche Mitarbeiterin am Regionalen Rechenzentrum Köln.

Alina Ostrowski studiert nach ihrem Bachelorabschluss in Geschichte und Informationsverarbeitung nun beide Fächer im Master. Nach einer Tätigkeit als Studentische Hilfskraft am Kölner Institut für Digital Humanities arbeitet sie momentan als Wissenschaftliche Hilfskraft im digitalen Editions-Projekt Capitularia am Historischen Institut der Universität zu Köln.

Nghia Truong hat einen Bachelor-of-Arts-Studiengang in den Fächern Informationswissenschaft und Sprachtechnologie an der Heinrich-Heine-Universität in Düsseldorf abgeschlossen und studiert gegenwärtig das Fach Informationsverarbeitung an der Universität zu Köln im Master. Darüber hinaus ist er derzeit als Werkstudent in einem Lifescience-Unternehmen in Düsseldorf tätig.


Schreibe einen Kommentar

Deine E-Mail-Adresse wird nicht veröffentlicht. Erforderliche Felder sind mit * markiert.

Diese Website verwendet Akismet, um Spam zu reduzieren. Erfahre mehr darüber, wie deine Kommentardaten verarbeitet werden.