Detektion von Desinformation

Desinformation – umgangssprachlich auch als Fake News bezeichnet – stellt eine Bedrohung für demokratische Institutionen dar, da sie zu einem Vertrauensverlust, aber auch zu realen Eskalationen, Störungen im Pandemiemanagement und sogar zu Marktmanipulationen führt. Bei DSAI arbeiten wir mit verantwortlichen Behörden und führenden Inhaltsanalyse- und Verifizierungspartnern zusammen, um dieses umfassende Problem aus verschiedenen Blickwinkeln anzugehen. Dazu gehört die Erkennung von Desinformationen und anderen schädlichen Inhalten wie Hassreden, Sexismus, Antisemitismus und Radikalisierung. Wir erforschen neuartige Ansätze der künstlichen Intelligenz, die auf einer multimodalen Inhaltsanalyse basieren, einschließlich natürlicher Sprachverarbeitung, Audio- und Videoanalyse, um schädliche Inhalte und Inhaltsmanipulationen in allen Medienformen zu erkennen. Die schnelle Verbreitung und das Wachstum von Informationen in sozialen Netzwerken machen diese Aufgabe zu einem Big-Data-Problem, das auch die technischen Aspekte der Verwaltung und Verarbeitung solcher Datenmengen berücksichtigt. Daher kombinieren wir dies mit unserem Forschungsschwerpunkt High Performance Computing (HPC) und High Performance Artificial Intelligence (HPAI), um Werkzeuge zu entwickeln und wertvolle Erkenntnisse zu gewinnen, die dazu beitragen können, diesen toxischen Problemen entgegenzuwirken.