Zusammenfassung

Digitale Medien, Texte, Bilder sowie Audio- und Videoinhalte wurden in den letzten Jahrzehnten immer einfacher verfügbar. Durch Fortschritte im Bereich von Methoden des generativen Maschinellen Lernens (ML) können seit wenigen Jahren auch Inhalte synthetisiert werden, die von realen Medieninhalten ununterscheidbar sind. Vor diesem Hintergrund verdienen Fragen der Datenauthentifizierung eine sorgfältige und systematische Analyse.

In einem von der Deutschen Stiftung Friedensforschung geförderten Projekt untersuchen Prof. Dr. Felix Bießmann (Berliner Hochschule für Technik), Prof. Dr. Rebecca D. Frank (University of Tennessee, Knoxville) und Prof. Dr. Alexander Glaser (Princeton University) die mögliche Rolle von Open Science / Citizen Science Ansätzen für Verifikation und Monitoring für Frieden und Sicherheit.

Das zweistufige Forschungsprojekt zielt darauf ab, das Potential von Citizen Science anhand des wichtigen Beispiels von Satellitenbildern im Kontext der nuklearen Überwachung und Verifizierung systematisch zu bewerten. Dabei gilt es besonders die Risiken und Herausforderungen zu verstehen, die von modernen ML Techniken ausgehen, sowie auch die Problemstellungen, die mit dem Open Science Ansatz einhergehen. Im ersten Teil des Projekts werden synthetische Bilder relevanter Standorte unter sorgfältig kontrollierten Bedingungen generiert. Mit diesen Bilder werden dann konkrete Überwachungsszenarien entwickelt und untersucht. Im zweiten Teil des Projekts werden qualitative Interviews und praktische Übungen mit Fokusgruppen durchgeführt, um künftige Herausforderungen für Open Science / Citizen Science basierte Ansätze zu untersuchen.

Besonderes Augenmerk werden wir auf die Gefahren von sogenannten DeepFakes legen, also mit ML Methoden generierten synthetischen Bildfälschungen. Daneben werden wir auch allgemeinere ethische Fragen im Zusammenhang mit raum-zeitlich hochaufgelösten Satellitenbildern untersuchen, sowie Schutzmaßnahmen in Betracht ziehen, die Citizen Science zu einem praktikablen und robusten Instrument zur Unterstützung von Frieden und Sicherheit machen könnten.

Abstract

In a future where digital data from from a variety of sources are abundant and widely available to non-governmental experts and independent analysts, and where virtually any type of digital media can be generated in ways that can make them effectively indistinguishable from real data, issues of data authentication in monitoring and verification deserve a careful and systematic analysis. In this project, funded by the Deutsche Stiftung Friedensforschung (German Foundation for Peace Research), Prof. Dr. Felix Bießmann (Berliner Hochschule für Technik), Prof. Dr. Rebecca D. Frank (University of Tennessee, Knoxville), and Prof. Dr. Alexander Glaser (Princeton University) examine the potential role of citizen-based monitoring and verification for peace and security.

This two-phase research project seeks to systematically assess the long-term opportunities for citizen-based monitoring using the important example of satellite imagery in the context of nuclear monitoring and verification, and to understand the risks and challenges, often enabled by these very same techniques and tools. Leveraging advanced machine-learning techniques to generate synthetic imagery of relevant sites, we can produce dedicated datasets under carefully controlled conditions. This imagery will then be used to develop and examine concrete monitoring scenarios. This will be followed by qualitative interviews and hands-on exercises with focus groups and data users in order to examine future challenges for citizen-based monitoring. We will place a particular emphasis on the possibility of image spoofing and fabricated data, examine broader ethical issues related to persistent earth observation, but also consider safeguards that could make citizen-based monitoring a viable and robust tool in support of peace and security.