Deepfakes: Die Gefahren Künstlicher Intelligenz

Von anwalt.org, letzte Aktualisierung am: 21. September 2020

Stellen Deepfakes eine Bedrohung für unsere Gesellschaft dar?
Stellen Deepfakes eine Bedrohung für unsere Gesellschaft dar?

FAQ: Deepfakes

Was sind Deepfakes?

Als Deepfake werden laut Definition veränderte Video- Bild- oder Audioinhalten bezeichnet, die mithilfe von Künstlicher Intelligenz entstehen. Anwendung findet diese Technik beispielsweise in der Kunst- und Filmbranche, allerdings auch bei der Erstellung von Fake News.

Sind Deepfakes illegal?

Grundsätzlich können Sanktionen drohen, wenn Personen mithilfe von Deepfake ein Video erstellen. So besteht zum Beispiel die Möglichkeit, dass ein Verstoß gegen das Recht am eigenen Bild, das Allgemeine Persönlichkeitsrecht oder Urheberrecht vorliegt. In Betracht kommen zudem die Tatbestände Beleidigung, Verleumdung und üble Nachrede.

Woran erkenne ich einen Deepfake?

Es ist nicht immer einfach, Deepfakes oder Falschmeldungen im Allgemeinen zu erkennen. Daher sollten Sie sich grundsätzlich fragen, wie wahrscheinlich eine entsprechende Meldung ist und prüfen, ob auch andere Medien darüber berichten. Bei einem möglichen Deepfake sollten Sie zudem auf den Rand des Gesichtes, unnatürliches Blinzeln sowie nicht passende Lippenbewegungen achten.

Gezielt Falschinformationen durch moderne Technik

Deepfakes: Ist den Videos im Internet noch zu trauen?
Deepfakes: Ist den Videos im Internet noch zu trauen?

Das Internet ist eine schier unerschöpfliche Quelle an Informationen. Allerdings beruhen nicht alle Inhalte auf belegbaren Fakten und auch Fake News – also gezielte Falschinformationen – werden über das World Wide Web verbreitet. Besonders schwer kann sich die Unterscheidung zwischen seriösen und falschen Meldungen bei sogenannten Deepfakes gestalten, denn diese Videos, Bilder oder Tonspuren wirken sehr realistisch und authentisch.

Doch worum handelt es sich bei einem Deepfake? Wo kommt diese Technik zum Einsatz? Welche Gefahren gehen von dieser Art der Video- bzw. Bildbearbeitung aus? Und kann die Erstellung von Deepfakes juristische Konsequenzen haben? Antworten auf diese und weitere Fragen liefert der nachfolgende Ratgeber.

Deepfakes – eine Begriffserklärung

Durch ein Deepfake können zum Beispiel Prominente für Propagandazwecke missbraucht werden.
Durch ein Deepfake können zum Beispiel Prominente für Propagandazwecke missbraucht werden.

Der Begriff „Deepfake“ setzt sich aus den englischen Begriffen „deep learning“ und „fake“ zusammen. „Deep learning“ bezeichnet dabei Methoden des maschinellen Lernens – also den Einsatz von Künstlicher Intelligenz – und „fake“ lässt sich mit Fälschung, Imitation oder Schwindel übersetzen. Somit vermittelt bereits die Wortbedeutung einen guten Eindruck, was Deepfakes sind.

Denn hierbei handelt es sich um die Fälschung oder Veränderung von medialen Inhalten mithilfe von Künstlicher Intelligenz. Dabei wird eine Software regelrecht darauf trainiert, die charakteristischen Merkmale einer Person mithilfe von vorhandenen Bild- oder Tonmaterial zu erkennen und diese dann in ein bereits vorhandenes Video zu übertragen.

Damit das Endergebnis auch möglichst realistisch erscheint, benötigt die Software möglichst viele Daten. Aus diesem Grund werden für Deepfakes vor allem Prominenten oder Politikern genutzt, denn von diesen gibt im Internet viel Material. Darüber hinaus beanspruchen aufwändige Bearbeitungen eine hohe Rechenleistung und sind verhältnismäßig zeitaufwändig. Allerdings entwickelt sich die Technologie immer weiter und mittlerweile gibt es auch schon kostenlose Apps, mit denen selbst Laien innerhalb von kürzester Zeit Deepfakes erzeugen können. 

Deepfakes stehen durchaus in der Kritik. Zwar ermöglichen Sie einerseits neue Formen der Satire und können gerade im Bereich der Unterhaltung – insbesondere in der Filmindustrie – eine kostengünstige Alternative zu bisherigen Techniken darstellen, andererseits bergen sie auch ein nicht unerhebliches Gefahrenpotenzial. Denn auch ein gezielter Einsatz bei der Verbreitung von Falschinformationen, der Propaganda oder zur Rufschädigung sind bei dieser Technologie möglich. Denn je besser ein Deepfake ist, desto schwerer lässt es sich als solches erkennen.

Die Gefahren von Deepfakes verdeutlicht auch das nachfolgende Video:

Welche Arten der Fälschung lassen sich unterscheiden?

Realität oder Deepfake? Die Software lernt immer weiter und erschwert die Unterscheidung.
Realität oder Deepfake? Die Software lernt immer weiter und erschwert die Unterscheidung.

Abhängig von den verwendeten Inhalten und der Art der Veränderung lassen sich vor allem folgende Formen von Deepfakes unterscheiden:

  • Face Swapping
  • Voice Swapping
  • Body Pupperty

Beim Face Swapping (dt. Gesichtertausch) handelt es sich um die bekannteste Form der Deepfakes. Dabei werden Gesichter in Videos durch die Gesichter anderer Personen ersetzt. Dadurch lässt sich zum Beispiel simulieren, dass ein anderer Schauspieler die Hauptrolle in einem Film übernommen hätte oder bereits verstorbene Personen mithilfe von altem Filmmaterial zumindest auf der Leinwand wieder zum Leben erwachen. Allerdings wird diese Methode auch dazu verwendet, um die Gesichter von Schauspielerinnen in Pornofilme einzubauen.

Mit der richtigen Deepfake-Software ist es darüber hinaus auch möglichen, die Stimme einer Person zu rekonstruieren. Durch das Voice Swapping (dt. Stimmentausch) lassen sich Politikern irgendwelche Worte in den Mund legen. Aber auch in der Wirtschaft kann diese Technik ein Problem werden. Denn unter Umständen können Betrüger Audioaufnahmen mit der Stimme von führenden Angestellten erzeugen und dadurch telefonisch die Überweisung von Geldbeträgen anordnen.

Es ist außerdem möglich, einzelne Bewegungen oder sogar komplette Bewegungsabläufe bei einem Video auf eine andere Person übertragen. Diese Form des Deepfakes wird als Body Puppetry (dt. „Körper-Marionettentheater“) bezeichnet.

Juristische Folgen von Deepfakes

Was droht Personen, die einen Deepfake erstellen?
Was droht Personen, die einen Deepfake erstellen?

Die Erstellung von Deepfakes ist juristisch nicht ganz unproblematisch. Allerdings fehlt es bislang an konkreten Vorschriften oder auch Urteilen, die sich explizit mit dieser Technik beschäftigen. Grundsätzlich könnten den Verantwortlichen aber verschiedene Verstöße vorgehalten werden.

Für die Erzeugung der Fälschung benötigt die Software Bild- bzw. Videomaterial als Vorlage. Diese können urheberrechtlich geschützt sein, weshalb eine Vervielfältigung ohne die Erlaubnis des Urhebers ggf. eine Urheberrechtsverletzung darstellt. Ein entsprechender Verstoß zieht üblicherweise eine Abmahnung samt Unterlassungserklärung und Forderung von Schadensersatz nach sich.

Darüber hinaus kann gemäß Kunsturheberrechtsgesetz ein Verstoß gegen das Recht am eigenen Bild vorliegen. Denn für die Verwendung von Bildnissen einer Person ist ebenfalls eine Einwilligung notwendig. Eine Ausnahme kann unter Umständen aber bei Personen des öffentlichen Lebens vorliegen.

Abhängig vom Inhalt der Deepfakes können diese Videos gegen das Persönlichkeitsrecht der abgebildeten Person verstoßen. Zu den möglichen strafrechtlichen Tatbeständen zählen darüber hinaus Beleidigung, Verleumdung oder üble Nachrede.

Personen, die bereits von einem Deepfake betroffen sind, können verschiedenen Ansätze nachgehen, um sich vor einer weiteren Verbreitung zu schützen. Möglich wäre zum Beispiel eine Berufung auf die DSGVO oder den Schutz der persönlichen Ehre.

Quellen und weiterführende Links

1 Stern2 Sterne3 Sterne4 Sterne5 Sterne (60 Bewertungen, Durchschnitt: 4,10 von 5)
Deepfakes: Die Gefahren Künstlicher Intelligenz
Loading...

Bildnachweise: fotolia.com/© peshkova (Vorschaubild), fotolia.com/© peshkova, fotolia.com/© Production Perig, fotolia.com/© Fxquadro , fotolia.com/© hanohiki , istockphotos.com/JanPietruszka

Hinterlassen Sie einen Kommentar

Deine E-Mail-Adresse wird nicht veröffentlicht. Erforderliche Felder sind mit * markiert.