Das Science Media Center Germany hat mich um eine Einschätzung zur Rolle von KI-generierter Desinformation im Wahlkampf gebeten:
Frage: Welchen Einfluss können KIs zur Erstellung oder Bearbeitung von Bildern und Videos auf öffentliche Meinungsbildung, online-Informationsfluss oder Wahlen haben? Wie ist der Stand der Forschung dazu?
KI-erstellte oder KI-bearbeitete Bilder funktionieren im Wahlkampf wie andere Bildfälschungen oder -bearbeitungen. Der Wahlkampf ist immer einer Zeit des extremen Wettbewerbs um Aufmerksamkeit. Um Einfluss zu entwickeln, müssen Bilder einen Moment oder eine Position symbolisch verdichtet abbilden. Gelingt dies und werden Bilder im richtigen Moment in den Umlauf gebracht, können sie von Medien, Diskurseliten oder Politikerinnen und Politikern aufgegriffen und weiterverbreitet werden. Der Einfluss von KI-generierten Bildern hängt also nicht primär von technischer Perfektion oder Photorealismus ab, sondern von der Bereitschaft der Medien und politischer Akteure entsprechende Bilder aufzugreifen, in ihre Narrativen zu integrieren und damit weiter zu verbreiten. Etwaige Probleme mit KI-generierter Desinformation in Wahlkämpfen stammen also weniger aus der Technik, als der Bereitschaft politischer Eliten Falschinformationen zu verwenden und der Medien Aufregerthemen prominent zu platzieren.
Frage: Welche Gegenmaßnahmen halten Sie für sinnvoll?
Der Umgang mit KI-generierten Inhalten wird klar ein wichtiges Element in politischer Kommunikation und Berichterstattung. Hier müssen Politik und Journalismus Kompetenzen entwickeln. Ein möglicher Umgang mit KI-generierten Inhalten kann sein, dass Regierung, Parteien und Medienmarken ihr Bild- und Videomaterial mit eindeutigen digitalen Fingerabdrücken kennzeichnen. Damit würden entsprechende Akteure signalisieren welche Inhalte verlässlich von ihnen stammen, so dass mögliche Fälschungen schneller für professionelle Beobachter und Kommentatoren identifizierbar sind.
Grundsätzlich sollten wir in der Gesellschaft breiter KI-Nutzungskompetenzen vermittelt. Hierbei sollte der Fokus allerdings auf der Ermächtigung durch KI-Nutzung liegen, anstelle der Vermittlung von Angst und Überforderung durch herbeifantasierte Phänomene auf Basis anekdotischer Evidenz oder mit bestenfalls marginaler Wirkung – wie Wahlbetrug durch KI-generierter Desinformation. Teil der gesellschaftlichen KI-Kompetenz ist eben auch, nicht jede Panik-Welle unkritisch mitzunehmen und anzufeuern.
Wie sich diese Einschätzungen zu denen geschätzter Kolleginnen und Kollegen verhalten kann man hier sehen.