Deepfakes: Umgang und mögliche Gefahren für Kinder und Jugendliche

Deepfake-Videos, in denen Gesichter oder ganze Personen „ausgetauscht“ werden, können zur Verbreitung von Desinformationen missbräuchlich eingesetzt werden. In diesem Beitrag erfahren Sie, welche Gefahren insbesondere für Kinder und Jugendliche von realistisch wirkenden Video-Manipulationen ausgehen und was es im Umgang mit Deepfakes zu beachten gilt.

Kind sitzt mit Mutter vor einem aufgeklappten Laptop
Information und Aufklärung Foto: Colourbox

Deepfakes entstehen durch eine relativ junge Technologie, die es ermöglicht, Videos ähnlich, wie wir es von Fotos aus Bildbearbeitungsprogrammen kennen, zu bearbeiten. Häufig werden damit satirische Videos erstellt, die auf den ersten Blick harmlos erscheinen. Auf manchen Social-Media-Plattformen widmen sich sogar ganze Kanäle der Erzeugung und Verbreitung von parodistischen Videos, in denen Prominente vorgeblich Dinge sagen und tun, die sie tatsächlich nie gemacht haben. Die Technologie kann aber auch für gefährliche und kriminelle Inhalte benutzt werden. Besonders Kinder und Jugendliche können von Desinformation durch Deepfakes betroffen sein, wenn sie das manipulierte Video nicht als solches identifizieren können.

Tipp

Nähere Informationen zum Thema finden Sie auch in unseren Beiträgen Deepfakes: Falsches Vertrauen in Videos und Die Entstehung von Deep Fakes auf Reddit und ihre Verbreitung

Zwei Szenarien können durch Deepfakes für Kinder und Jugendliche bedrohlich werden:

  1. Die Verbreitung von Desinformationen beziehungsweise Fake News: Kinder und Jugendliche sind leicht manipulierbar. Stars und Influencer haben nicht nur großes Werbe-Potential, sondern beeinflussen auch die Meinungen und Weltsicht ihrer oft jugendlichen Followerinnen und Follower. Rufen diese Personen in einem gefälschten Video außerdem zu gefährlichen oder kriminellen Aktionen auf, kann das ernsthafte Folgen haben.
  2. Kinder oder Jugendliche werden zum Ziel einer Deepfake-Videomontage: Smartphone-Kameras haben eine hohe Bildauflösung, und über viele Apps sind “Selfies” und Videos schnell öffentlich im Netz gepostet. Je mehr Fotos und Videos von einer Person verfügbar sind, umso leichter lassen sich Deepfakes erstellen. So kann es passieren, dass plötzlich ein Video auftaucht, das die Person in einer kompromittierenden Situation zeigt, die so niemals wirklich stattgefunden hat. Auch die Verbreitung von gefälschten Aussagen und Meinungen kann das Opfer nachhaltig schädigen.

So gelingt der Umgang mit Deepfakes

Die ersten Deepfakes waren noch leicht als Fälschungen zu erkennen, doch die Technik entwickelt sich stetig weiter. Mittlerweile muss man genauer auf die Details achten, um ein gefälschtes Video als ein solches zu erkennen. Gerade auf populären Social-Media-Plattformen ist ein kritischer Zugang allein durch die Fülle an Material schwierig. Deshalb ist es besonders wichtig, bereits bei Kindern ein Bewusstsein für die Möglichkeiten und Gefahren zu schaffen, die es durch die neuen technischen Möglichkeiten von Deepfakes gibt. Wie Ihnen das gelingen kann, fassen wir hier kurz zusammen:

  • Information und Aufklärung
    Sobald Kinder einen unbeaufsichtigten Zugang zum Internet haben, sollten sie auch über mögliche Gefahren informiert werden. Ein kritischer Zugang zu (vermeintlichen) Informationen ist die wichtigste Voraussetzung für einen sicheren Umgang mit neuen Technologien. Im Fall von Deepfakes bietet es sich an, ein bekanntes gefälschtes Video mit dem Kind anzuschauen und gemeinsam zu analysieren, woran die Fälschung erkennbar ist. Optische Details wie Bildflackern, ein heller Rand um die ausgetauschten Bildteile oder seltsame Kopfhaltungen und unwirkliche Perspektiven sind Hinweise auf Manipulationen. Je ausgereifter hier die technologischen Möglichkeiten sind, umso wichtiger wird es auch, das vorliegende Videomaterial kritisch zu hinterfragen.
  • Folgende Fragen helfen beim Entdecken von Fälschungen:
    Wie wahrscheinlich ist es, dass die Person in dem Video eine solche Aussage oder Handlung tätigen würde?
    Auf welchem Kanal beziehungsweise auf welcher Plattform wurden die Inhalte veröffentlicht?
    Gibt es eine andere Quelle, über die sich die Inhalte verifizieren lassen?
  • Eigene Daten schützen:
    Das Posten von Fotos und Videos von sich selbst ist die Lieblingsbeschäftigung vieler Jugendlicher und mittlerweile durchaus auch eine Methode zur Selbstfindung in der Pubertät geworden. Da die Erstellung von Deepfake-Videos vor allem viel Ausgangsmaterial benötigt, ist hier Vorsicht geboten. Ein Verbot wirkt aber oft kontraproduktiv, da die Jugendlichen auf heimliche Kanäle ausweichen. Vielmehr sollte man ihnen bewusst machen, welche Gefahren durch die Veröffentlichung privater Fotos drohen können. Ein wichtiges Instrument gegen den Missbrauch von Bildmaterial ist es, den Personenkreis einzuschränken, der die Bilder sehen kann. Alle gängigen Plattformen bieten die Möglichkeit, die Sichtbarkeit der Inhalte entweder generell oder sogar einzeln zu beschränken. Das schützt immerhin vor einer Verwendung durch fremde Personen.

Tipp

Nähere Informationen zu wichtigen Privatsphäre-Einstellungen auf Social Media finden Sie in den Privatsphäre-Leitfäden von Saferinternet.at.

Letzte Aktualisierung: 15. September 2021

Für den Inhalt verantwortlich: A-SIT Zentrum für sichere Informationstechnologie – Austria