NEWS

Wenn die Rede von Desinformation oder Fake News ist, dann ist auch der Begriff «Deepfakes» meist nicht weit entfernt. Diese Bild- und Videomanipulationen tauchen immer häufiger im Internet auf und sind weit mehr als nur ein manuell bearbeiteter Bildinhalt. Vielmehr kommen Deepfakes einer digitalen Maske gleich, die durch einen Algorithmus auf ein Gesicht, einen Körper oder eine Stimme aufgesetzt wird. Doch wie lassen sich solche Inhalte erstellen und vor allem: Wie lassen sich Deepfakes von echten Inhalten unterscheiden?
‍
Deepfakes sind visuelle und auditive Medieninhalte (Bilder, Videos, Stimmen), die mithilfe von künstlicher Intelligenz (KI) manipuliert wurden. Diese oft täuschend echten Verfälschungen können mittlerweile mit einem handelsüblichen Computer und einer Gratissoftware erstellt werden. Dabei kommen künstliche neuronale Netzwerke zum Einsatz, die auf dem maschinellen Lernen basieren und fähig sind, diese abgeänderten und verfälschten Medieninhalte weitestgehend autonom zu erzeugen.
‍
Am weitesten verbreitet ist das «face-swapping», bei dem in einem Foto oder Video das Gesicht einer Person durch jenes einer anderen ersetzt wird. Somit lässt sich der Kontext, in der sich die jeweilige Person befindet, verändern. Beispielsweise wird das Gesicht einer Zielperson in jenes des Angreifers eingefügt, wobei der Gesichtsausdruck des Angreifers beibehalten wird. So entstandenes Bildmaterial ist in sozialen Medien mittlerweile weit verbreitet und wird oft sehr destruktiv und manipulativ verwendet.
‍
Im März dieses Jahres hat das US-Startup Midjourney die fünfte Generation ihres gleichnamigen KI-Bildgenerators lanciert. Seither haben sich täuschend echte Bilder und Videos von prominenten Persönlichkeiten über Plattformen wie Tiktok oder Twitter viral verbreitet. Fachleute sind sich einig, dass spätestens jetzt die Deepfake-Ära angebrochen sei.

Bildquelle: Twitter"Eliott Higgins"

Deepfake-Bilder wie dieses von der mutmasslichen Verhaftung Donald Trumps gehen in den sozialen Medien viral. Es wurde von Eliott Higgins mithilfe der Software Midjourney v5 generiert.

Je einfacher es mittlerweile ist, Deepfakes herzustellen, desto schwieriger ist es, diese als solche zu erkennen. Folgende Tipps können bei aufkommendem Zweifel eine Hilfe sein, gefälschtes Bildmaterial zu entlarven:

• Auf Details achten: Seltsam geformte Augenbrauen, Haare oder Ohren, fehlende Leberflecke und Sommersprossen, aber auch unnatürliche Schattenwürfe können Hinweise auf ein Deepfake sein.
• Auf Übergänge achten: Unschärfen zwischen Gesicht und Hals, Gesicht und Haaransatz oder auch, im Inneren des Mundes, wenn eine Person spricht.
• Auf Bildschärfe achten
• Blinzelt die Person? Fehlt dieser natürliche Reflex in einem Video, ist das Risiko gross, dass es sich um einen Deepfake handelt.
• Gibt es das Video/Bild nochmal? Über Suchmaschinen und eine Bild-Rückwärtssuche lässt sich oft feststellen, ob das Bildmaterial auf einer weiteren Internetseite zu finden ist. Wenn dies nicht der Fall ist, sollte das Material mit Zurückhaltung betrachtet werden. Dies gilt für sämtliche Inhalte aus dem Internet – auch für Texte.
• Kontext des Videos: Wann und wo ist das Video das erste Mal aufgetaucht? Wird das Video von einer seriösen Informationsquelle vertrieben? Stehen Aussagen und Verhalten der gezeigten Person(en) im Gegensatz zu deren üblichem Verhalten bzw. zu den üblichen Aussagen?

Diese Tipps können helfen, echte von gefälschten Inhalten zu unterscheiden. Jedoch sind die Täuschungen oft so gut, dass selbst die beste Software an dieser Aufgabe scheitert. Deshalb ist es speziell beim Konsum in sozialen Medien wichtig, mit einer kritischen Haltung an dort verbreitete Inhalte heranzutreten.

Quellen:
https://de.wikipedia.org/wiki/Deepfake
https://www.srf.ch/sendungen/school/medien-und-informatik/taeuschend-echt-deep-fake
Weiterführende Informationen:
https://www.bsi.bund.de/DE/Themen/Unternehmen-und-Organisationen/Informationen-und-Empfehlungen/Kuenstliche-Intelligenz/Deepfakes/deepfakes_node.html
‍