Datum: | Artikel, Internet, Mobil, Software

Deepfake-Apps sind in der Lage, mithilfe von künstlicher Intelligenz Medieninhalte zu verfälschen. So lassen sich beispielsweise bei existierenden Fotos und Videos Stimmen und Gesichter der darin auftretenden Personen austauschen oder gleich ein komplett neues Antlitz generieren. Die Konsequenzen dieser Vorgehensweise können fatal sein. Vor allem dann, wenn der Deepfake nicht als Scherz gedacht ist, sondern zum Zwecke eines Betruges oder einer Erpressung generiert wurde. In diesem Beitrag erfahren Sie, wie Deepfakes erzeugt werden, welche Risiken und Gefahren sie bergen und wie Sie sich davor schützen können, Opfer einer Deepfake-Attacke zu werden.

Welche Kenntnisse benötige ich zum Erzeugen eines Deepfakes?

Das Erzeugen von Deepfakes ist zwar kein Kinderspiel, stellt Menschen mit durchschnittlichen bis guten Computerkenntnissen aber auch vor keine allzu großen Herausforderungen. Mittlerweile stehen im Internet zahlreiche Tools für Computer und Handys zur Verfügung, mit denen Sie auch als Laie herumexperimentieren und eigenen Deepfakes erzeugen können.

Sind Deepfakes legal?

Das Erzeugen von Deepfakes ist an sich nicht illegal, solange kein Verstoß gegen das allgemeine Persönlichkeitsrecht, das Urheberrecht und das Recht am eigenen Bild vorliegt (z. B. in Form von Verleumdung, Beleidigung oder übler Nachrede). Andernfalls können Sanktionen drohen oder der Sachverhalt sogar ein zivil- oder strafrechtliches Vorgehen nach sich ziehen.

Was kann ich tun, wenn ich Opfer eines Deepfakes geworden bin?

Es gibt verschiedene Ansätze, die Sie verfolgen können, um eine weitere Verbreitung des Deepfakes zu unterbinden. Möglich sind unter anderem eine Berufung auf die DSGVO oder den Schutz der persönlichen und beruflichen Ehre. Darüber hinaus können Sie natürlich auch eine Klage wegen Belästigung, Verleumdung, Urheberrechtsverletzung oder Verletzung der Privatsphäre einreichen. Ein möglicher Reputationsschaden lässt sich auf diese Weise allerdings nicht verhindern.

1. Was versteht man unter einem Deepfake?

Definition eines Deepfakes

Der Begriff „Deepfake“ setzt sich aus den englischen Ausdrücken „Deep Learning“ und „Fake“ zusammen und bezeichnet der Verändern und Verfälschen von Medieninhalten mithilfe von künstlicher Intelligenz.

Der Begriff „Deepfake“ setzt sich aus den englischen Ausdrücken „Deep Learning“ (einer Methode des maschinellen Lernens) und „Fake“ (zu dt. „Schwindel“ oder „Fälschung“) zusammen und bezeichnet das Verändern und Verfälschen von Medieninhalten mithilfe von künstlicher Intelligenz. Zu diesem Zweck kommen künstliche neuronale Netzwerke zum Einsatz, mithilfe der sich die Fälschungen sogar weitestgehend autonom erzeugen lassen.

Das bedeutet, dass selbst Laien ohne Fachkenntnis in der Lage sind, qualitativ hochwertige Deepfakes zu erstellen. Aufgrund der zunehmenden Rechenleistung und immer leistungsfähigerer KIs wirken die so erstellen Inhalte äußerst authentisch und sind oftmals nur schwer oder gar nicht als Fälschungen zu erkennen.

2. Welche Arten von Deepfakes gibt es?

Eine der bekanntesten Arten von Deepfakes ist das sogenannte „Face Swapping“, mit dem Gesichter in Videosequenzen ausgetauscht werden, um die dargestellten Personen fremde Texte sprechen zu lassen oder ihre Bewegungsabläufe zu verändern. Analog dazu existiert mit dem „Voice Swapping“ eine Möglichkeit, Audioinhalte so zu verändern, dass fremden Personen beliebige Texte oder sogar Stimmen in den Mund gelegt werden können.

Eine weitere Form von Video-Deepfakes wird als „Body Puppetry“ bezeichnet. Dabei werden einzelne Bewegungen oder komplette Bewegungsabläufe auf anderen Personen übertragen. Da die KI dafür den Hintergrund automatisch rekonstruieren und vor dem Ändern der Inhalte mit dem Ausgangsmaterial trainieren muss, gilt diese Art von Deepfakes nach wie vor als die Komplizierteste. Andere Methoden (z. B. Face Swapping oder Voice Swapping) funktionieren hingegen sogar in Echtzeit.

3. Wie erstellt man einen Deepfake?

Das Erzeugen von Deepfakes ist zwar kein Kinderspiel, stellt Menschen mit durchschnittlichen bis guten Computerkenntnissen aber auch vor keine allzu großen Herausforderungen. Mittlerweile stehen im Internet zahlreiche Tools (sogenannte Deepfake Creator) für iOS, Android und Windows zum Download bereit. Damit können auch Laien herumexperimentieren und eigene Deepfakes erzeugen. Ein Tool dieser Art ist Puzzle Deepfake für Android, das Sie kostenlos auf dem Google Play Store herunterladen können. Einfach Foto in die App laden, Filter drauf und - voilá - in Sekundenschnelle erstellt die App automatisch einen rudimentären Deepfake. 

Gut zu wissen: Im Jahr 2019 sorgte die Deepfake-App Zao für einen Aufschrei, mit der sich auf einem iPhone täuschend echte Videomontagen aus nur einem Foto erstellen ließen. Das Tool war allerdings ausschließlich in China verfügbar und wurde inzwischen eingestellt.

Deepfake-App Zao auf einem iPhone

Die nur in China verfügbare Deepfake-App Zao sorgte 2019 für einen Aufschrei. Inzwischen ist das Tool aber auch dort nicht mehr verfügbar.

Profis arbeiten anders und erstellen Deepfakes mit sogenannte GANs (Generative Adversarial Networks), bei denen zwei maschinelle Lern-Algorithmen miteinander konkurrieren. Während einer davon ein gefälschtes Bild erzeugt, versucht der andere, dieses zu erkennen. Konnte die Fälschung erkannt werden, bessert die KI beim Ergebnis nach, um auf diese Weise eine erneute Identifizierung zu verhindern.

Gleichzeitig führt auch der zweite Algorithmus Verbesserungen durch, damit auch bessere Fälschungen erkannt werden können. Der Vorgang wird so lange wiederholt, bis die erkennende KI die produzierende KI übertrifft und der Inhalt somit täuschend echt aussieht. Für die Nutzung eines GAN-Tools benötigen Sie neben den finanziellen Mitteln allerdings auch einen sehr leistungsstarken Computer.

4. Welche Risiken und Gefahren bergen Deepfake?

Deepfakes bergen viele sehr ernstzunehmende Risiken und stellen eine Gefahr für die Gesellschaft, das soziale Mitarbeiter und sogar die Wirtschaft dar. So lassen sich Deepfakes beispielsweise hervorragend für einen umfangreichen Betrug in Form einer Phishing-Kampagnen zweckentfremden. Denn wer würde schon misstrauisch werden, wenn er in einer Sprachnachricht die Stimme des Vorgesetzten hört, der eine Überweisung in Auftrag gibt?

Frau wird mit Deepfake-App erpresst

Die möglichen Folgen eines Deepfakes sind fatal. In der Vergangenheit wurde auch schon des Öfteren Frauen mit gefälschten Porno-Aufnahmen erpresst.

Eine noch größere Gefahr als von gefälschten Medieninhalten geht allerdings durch den Einsatz von Deepfakes bei Rufmord und Verleumdungskampagnen aus. So ist es auch kaum verwunderlich, dass die meisten Deepfakes neben dem Wirtschaftsbetrug im Bereich der Pornografie zu finden sind. Die im Jahr 2019 veröffentlichte Software DeepNude für iOS und Android war beispielsweise in der Lage, aus dem Foto einer bekleideten Person ein Nacktbild zu generieren – allerdings nur auf dem Körper von Frauen. Inzwischen ist das Tool zwar legal nicht mehr verfügbar, kursiert aber bestimmt noch irgendwo als Download im World Wide Web.

Die möglichen Folgen eines solchen Deepfakes sind fatal. Denn nicht nur Promis müssen befürchten, dass irgendein Wahnsinniger Ihr Gesicht auf den Körper einer Porno-Darstellerin bastelt und das Video anschließend via WhatsApp, Telegram, TikTok und Co. in der halben Welt verteilt. So kursieren im Klassenchat plötzlich gefakte Nacktaufnahmen von Mädchen aus der Oberstufe oder der unbeliebte Abteilungsleiter wird in einer anonymen Rundmail als Fremdgeher verunglimpft. In der Vergangenheit wurde auch schon des Öfteren Frauen mit gefälschten Porno-Aufnahmen erpresst.

5. Wie kann ich Deepfakes erkennen und mich davor schützen?

Ob und wie schnell Sie gefälschte Medien erkennen können, hängt von der Qualität des Ergebnisses ab. Unscharfe Kontraste, unnatürliche Gesichtsregungen, unpassende Lippenbewegungen oder eine falsche Beleuchtung können Hinweise auf einen Deepfake sein. Im Gegensatz dazu kann aber auch ein zu perfektes Gesicht, das nicht mehr natürlich wirkt, für einen Deepfake sprechen.

Prüfen Sie zudem auch immer, ob der logische Inhalt Sinn ergibt. Tritt Ihr Lieblingsschauspieler in einem Video urplötzlich mit einer komplett anderen Gesinnung auf oder ergeben bestimmte Aussagen im Gesamtkontext keinen Sinn mehr, kann es sich dabei ebenfalls um Anzeichen für einen Deepfake handeln.

Gut zu wissen: Die Daten zum Erzeugen von Deepfakes stammen häufig aus den sozialen Netzwerken. Überlegen Sie sich daher immer ganz genau, welche Informationen Sie auf welchen Kanälen teilen wollen.

Um einen professionellen Deepfake zu entlarven, benötigen Sie in der Regel aber ein spezielles Tool, mit dem Sie die Medieninhalte auf Ihre Echtheit überprüfen können. Eine kostenlose Möglichkeit dieser Art stellt beispielsweise der DeepFake-o-meter dar, den Informatiker der University of Buffalo entwickelt haben.

Die wichtigsten Mittel im Kampf gegen Deepfakes sind letzten Endes aber immer ein gesunder Menschenverstand und die Fähigkeit, bestimmte Sachverhalte auch in einem (größeren) Gesamt-Kontext erfassen zu können. Überraschende oder plötzliche Forderungen (z. B. der Überweisungsauftrag des Vorgesetzten) sollten Sie hellhörig werden lassen. Dann lässt sich derartigen Betrügereien recht einfach und unkompliziert mithilfe einer Multi-Faktor-Authentifizierung entgegenwirken.

Denn dann müssten die Betrüger, um Zugang zu Ihren Geräte zu erlangen, nicht Ihre nur Stimme und Ihr Gesicht imitieren, sondern beispielsweise auch Buchstaben- oder Zahlencodes erkennen können. Im Unternehmen sollten zudem klare Richtlinien erstellt werden, welche Personen und Gruppen wann und unter welchen Umständen Zugang zu bestimmten Informationen gewährt wird.

39 Bewertungen

1 Stern2 Sterne3 Sterne4 Sterne5 Sterne Ø 4,50
Deepfake App: Zweifelhafte Gesichter-App für Handy und PC
Loading...

Hinterlasse eine Antwort

(wird nicht veröffentlicht)

Nutzungsrichtlinien beachten