Anknüpfend an die Ergebnisse des KIRAS-Projektes „defalsif-ai“ (Detektion von Falschinformation mittels Artificial Intelligence) – Entwicklung eines modulartig aufgebauten, medienforensischen Tools zur Erkennung von Desinformation (Werkzeug sucht auf technischer Ebene nach Anhaltspunkten für Desinformationen und manipulierte Inhalte) und gezielter Kompetenzaufbau beim Einsatz von KI für semi-automatische Identifikation und Analyse unwahrer oder manipulierter Inhalte auf der Grundlage lernender Algorithmen – wurde am 1. November 2022 das Nachfolgeprojekt „GADMO“ (German-Austrian Digital Media Observatory), der größte Zusammenschluss von Faktencheck-Organisationen und Forschungsteams im deutschsprachigen Raum, gestartet.
In dem von der Europäischen Union in den ersten 2 ½ Jahren im Rahmen von „Digital Europe“ mit 1,5 Millionen Euro finanzierten Projekt „GADMO“ arbeiten Forschungsteams aus dem AIT Austrian Institute of Technology in Wien und der Technischen Universität (TU) Dortmund (interdisziplinäres Team aus Journalistik und Statistik) sowie vom Athens Technology Center zusammen, um über die Erkennung von Mustern bei der Verbreitung von Desinformation und durch die wissenschaftliche Untersuchung ihrer Funktionsweisen, Reichweiten und Wirkungen herauszufinden, wie künstliche Intelligenz Faktencheck-Organisationen bei ihrer unverzichtbaren Arbeit bestmöglich unterstützen können. An GADMO wirken medienseits die drei großen Nachrichtenagenturen dpa (Deutsche Presse-Agentur), AFP (Agence France Press) und APA (Austria Press Agentur) sowie die Redaktion CORRECTIV.Faktencheck des gemeinnützigen Rechenzentrums CORRECTIV mit.
GADMO will der Öffentlichkeit einen besseren Zugang zu deutschsprachigen Faktenchecks bieten, indem diese in einem zentralen Archiv gesammelt werden. Die Steigerung der Medienkompetenz sowie die Bildung von Awareness in Deutschland und Österreich bei Bürger:innen und Medienschaffenden sowie die Beobachtung digitaler Plattformen und sozialer Netzwerke im Kampf gegen Desinformation sind weitere Ziele dieser Zusammenarbeit.
Das AIT bringt in diese Kooperation unter anderem seine Expertise beim Training neuronaler Netzwerke auf Basis von synthetischen Datensätzen zur Erkennung von Bildmanipulationen (z.B. Splicing, Copy-move, Removal und Enhancement-Operationen) ein. In GADMO wird versucht werden, die lernenden KI-Modelle und Algorithmen anhand früherer Fälschungen und der von ihnen hinterlassenen Datenspuren weiter zu verfeinern. Die von generativen Modellen wie DALL-E oder Stable Diffusion generierten Bilder sind allesamt unecht und bilden daher eine ideale Trainingsbasis für medienforensische, KI-getriebene Assistenzsysteme.
Mit der bei defalsif-ai gelernten Analyse und Beurteilung der medienforensischen Werkzeuge aus rechts- und sozialwissenschaftlicher Perspektive und dem im Projekt entwickelten Verwertungsplan für den zukünftigen Betrieb von rechtsstaatlich konformen Desinformations-Analyseplattformen wurde am AIT außerdem ein Know-how aufgebaut, mit dem aktuelle technologische und gesellschaftliche Gesichtspunkte beschrieben und die von den Behörden artikulierten Bedarfe adressiert werden können. Die beiden genannten Forschungsprojekte zeigen auch, wie interdisziplinäre (Universitäten, Forschungseinrichtungen, Politik, Strafverfolgungsbehörden) und grenzüberschreitende Zusammenarbeit bei der Bekämpfung von globaler Desinformation die einzig erfolgsversprechende Option sind.
Facts
Projektbeginn: 11/2022
Förderung: Ko-finanziert von EU über „Digital Europe“ für die ersten 2 ½ Jahre
Projektkosten: 2.7 M €/1,5 M € finanziert
