KI-Forschungsprojekt zur Erkennung von manipulierten Medieninhalten

Ziel des Projektes ist die Entwicklung einer Technologieplattform, die mithilfe von Künstlicher Intelligenz gezielte Desinformation („Fake News“) identifiziert. Dafür kombiniert „news-polygraph“ verschiedene Software-Werkzeuge zur Erkennung von Manipulationen an Bildern, Ton, Videos sowie Texten. So entsteht eine vernetzte Palette digitaler Werkzeuge für den Einsatz gegen gefälschte oder aus dem Kontext gerissene Informationen. An der Forschung und Entwicklung werden in den nächsten drei Jahren insgesamt zehn Partner aus Berlin, Brandenburg und Thüringen zusammenarbeiten, darunter Institutionen aus Wissenschaft, Medien, Technologie und Wirtschaft.

Ein KI-Lügendetektor für Medieninhalte: Was ist Fakt und was ist „Fake“?

Die geplanten digitalen „news-polygraph“ Werkzeuge unterstützen die Medienbranche, indem multimediale Inhalte mithilfe von KI einfacher und schneller auf Manipulationen überprüft werden können. In den sozialen Medien sind bewusst platzierte Falschinformationen längst ein bekanntes und weit verbreitetes Problem. Doch nicht nur die Anzahl manipulierter Medien nimmt rasant zu, auch die Qualität der gefälschten Inhalte steigt. Sogenannte Deepfakes, mit KI manipulierte Bild-, Audio- oder Videodateien, wirken zunehmend täuschend echt, sodass Fälschungen nur mit großem Aufwand identifiziert werden können. „news-polygraph“ soll Medienschaffende und weitere betroffene Branchen in Zukunft verlässlich, zeitsparend und intuitiv bei der Erkennung von Falschinformationen unterstützen. Für eine zuverlässige Erkennung manipulierter Medieninhalte müssen die KI-Modelle von den Expert:innen für Desinformation „angelernt“ werden. Wie gut das Training funktioniert, wird in einem ersten Pilotprojekt im journalistischen Bereich überprüft. Weitere Anwendungsbereiche sind vielfältig und reichen von PR-Agenturen bis hin zu öffentlichen Einrichtungen, Versicherungen oder Ermittlungsbehörden.

Ein starkes Bündnis mit Partnern aus Wissenschaft, Medien, Technologie und Wirtschaft

Zehn Partner aus der Region haben sich für „news-polygraph“ zusammengeschlossen und bilden ein interdisziplinäres Forschungsbündnis. Durch die drei Wissenschaftspartner – das Deutsche Forschungszentrum für Künstliche Intelligenz, das Fraunhofer-Institut für Digitale Medientechnologie IDMT und die Technische Universität Berlin – ist „news-polygraph“ eng an Grundlagen- und Anwendungsforschung angebunden. Die unternehmerische Ausrichtung des Vorhabens wird durch die fünf Unternehmenspartner Crowdee, delphai, neurocat, transfermedia production services und Ubermetrics Technologies gestärkt. Das konkrete Pilotprojekt von „news-polygraph“ wird durch die zwei Anwenderpartner Deutsche Welle und Rundfunk Berlin-Brandenburg umgesetzt, die den entwickelten Prototypen mit ihren redaktionellen Fact Checking Expert:innen testen werden. „Der Kampf gegen Desinformation ist die größte journalistische und gesellschaftliche Herausforderung unserer Zeit. Der schnellen und zuverlässigen Verifizierung von Medieninhalten kommt daher in der Nachrichtenproduktion, aber auch in anderen Anwendungsfeldern, immer mehr an Bedeutung zu. Hierfür wollen wir mit ,news-polygraph‘ eine breit einsetzbare, intuitive Lösung entwickeln“, sagt Wilfried Runde, Sprecher von „news-polygraph“ und Head of Research and Cooperation Projects, der Deutschen Welle. In die Umsetzungsphase startet „news-polygraph“ voraussichtlich offiziell im Frühjahr 2023.
 

Über news-polygraph

Das Forschungsbündnis news-polygraph besteht aus zehn Partnern, davon fünf Unternehmen Crowdee GmbH, delphai by AtomLeap GmbH, neurocat GmbH, transfermedia production services GmbH und Ubermetrics Technologies GmbH, drei Wissenschaftspartner Deutsches Forschungszentrum für Künstliche Intelligenz GmbH, Fraunhofer-Institut für Digitale Medientechnologie IDMT und Technische Universität Berlin und zwei Anwenderpartner Deutsche Welle und Rundfunk Berlin-Brandenburg.