Deepfakes: Sensibilisierungsmaßnahmen, Erkennungssoftware und internationale Kooperation gegen “reale Bedrohung”

Wien, w23. September 2022 – Auf Basis eines einstimmig vom Nationalrat angenommenen Entschließungsantrages (365/A(E)) erstellte eine interministerielle Arbeitsgruppe bestehend aus Vertreterinnen und Vertretern des Bundeskanzleramtes, des Außen-, Justiz- und Verteidigungsressorts und unter Federführung des Innenministeriums einen Aktionsplan zum Umgang mit Deepfakes (III-740 d.B.). 

Unter dem Begriff “Deepfake” werden verschiedene Formen der audiovisuellen Manipulation durch eine auf Künstlicher Intelligenz basierende Technologie verstanden. Dadurch können täuschend echt wirkende Videos, Bilder oder Audios entstehen, um Personen Aussagen in den Mund zu legen, oder sie bei Handlungen zu zeigen, die sie nie getätigt haben. Der nun vorliegende Aktionsplan umreißt eine Strategie zur Bekämpfung der implizierten politischen, gesellschaftlichen und  wirtschaftlichen Risiken, um “Sicherheit und Resilienz gegen die Gefährdung durch Deepfakes herzustellen”.

Bedrohungslage und Lösungsansätze

Die Bedrohungslage wird im Aktionsplan anhand von drei Teilbereichen (Sicherheitspolitik, Recht und Technik) und verschiedenen Szenarien illustriert. Zu den sicherheitspolitischen Gefährdungen werden etwa Desinformationskampagnen gezählt, die zur Erosion des Vertrauens in staatliche Institutionen führen können. Diesen soll unter anderem mit einem effektiven Krisenmanagementmechanismus, Sensibilisierungsmaßnahmen für die Bevölkerung und der Entwicklung bzw. Beschaffung von Softwaretools zur Detektion von Deepfakes begegnet werden

In rechtlicher Hinsicht sehen die Verfasser:innen keinen weiteren Regelungsbedarf, da der Rechtsbestand für entsprechende Szenarien ausreichend ausgestaltet sei – etwa durch Gesetze gegen Betrug, Drohung oder Erpressung. Sie geben jedoch zu bedenken, dass die bestehenden Gesetze angesichts einer “massenhaften, anonymen und nicht als Deepfakes offengelegten Verbreitung im Internet praktisch schwer durchsetzbar” seien und empfehlen daher eine staatliche Intervention auf international möglichst breiter Basis. Das Rapid Alert System der EU könne zu einem raschen Austausch in der Deepfake-Problematik genützt werden.

Auf technischem Gebiet wird im Aktionsplan ein “permanenter Wettlauf” zwischen dem Herstellung und Verbreitung von Deepfakes und dem Erkennen und Gegensteuern konstatiert. Hier seien die regelmäßige Weiterentwicklung der zur Erkennung eingesetzten Werkzeuge, die Forcierung der Zusammenarbeit mit Forschung und Entwicklung sowie der internationalen Kooperation angezeigt.

Zielsetzungen und Maßnahmen

Da Österreich sich immer rascher in Richtung einer digitalen Gesellschaft entwickle, Deepfakes zu ihrer Erstellung keiner umfangreichen Software mehr bedürfen und die Erkennungssoftware immer einen Schritt hinterher hinke, sei die Bedrohung durch solche Inhalte real, wie es im Aktionsplan heißt. Darin werden verschiedene Zielsetzungen angeführt, die von einem konsequenten Schutz der Integrität demokratischer Institutionen vor einer Einflussnahme von außen über die Bewusstseinsbildung und Stärkung der Kompetenz zur Verifikation digitaler Inhalte in der Bevölkerung bis zum etwaigen Ausbau der Strafverfolgungskompetenz reichen.

Zur Erreichung dieser Zielsetzungen wurden laut Aktionsplan bereits Maßnahmen im Bereich der aktiven europäischen Zusammenarbeit und der interministeriellen Kooperation gesetzt. Zudem habe das Austrian Institute of Technology (AIT) im Auftrag des Bundeskanzleramtes eine Studie zum Thema Resilienz gegen Desinformation durchgeführt und 2020 sei das KIRAS Forschungsprojekt “Defalsif-AI” mit dem Schwerpunkt auf audiovisuelle Medienforensik gestartet.

Als weitere Maßnahme gegen die Gefährdung durch Deepfakes soll eine Schwerpunktgruppe strategische Vorgehensweisen zum Schutz der Demokratie, des Individuums und der nationalen Sicherheit erarbeiten. Auf behördlicher Ebene sieht der Aktionsplan unter anderem eine Erhöhung der Kapazitäten für das Monitoring und Screening sowie eine Sensibilisierung der öffentlich Bediensteten für das Thema Deepfakes vor. Im Governance-Bereich seien laut Verfasser:innen verstärkt Online-Plattformen in die Pflicht zu nehmen und eine forcierte Medienkompetenzvermittlung soll speziell online einen kritischen Medien- und Informationskonsum fördern. Dafür sollen auch Lösungsansätze für eine bessere Verifizierbarkeit von Onlineinhalten durch die User selbst evaluiert werden.

Für relevante Stakeholder aus Verwaltung, Wirtschaft, Medien und Forschung sieht der Aktionsplan gemeinsame Projekte zur Entwicklung der konzeptionellen Grundlagen und technologischen Instrumente zur raschen Erkennung von Bedrohungen durch Deepfakes vor. Bestehende Forschungsprojekte wie “Defalsif-AI” sollen weiter ausgebaut werden, ebenso wie die Rolle Österreichs in der internationalen Zusammenarbeit. (PK/IIM)