Nicht einvernehmliche pornografische oder sexualisierende Deepfakes sind Videos oder Fotos, die mittels künstlicher Intelligenz so manipuliert wurden, dass die gezeigte Person nackt zu sein oder sexuelle Handlungen vorzunehmen scheint. Sie können seit 2017 in hoher Bildqualität mit allgemein verfügbaren Videoprogrammen und Apps hergestellt werden. Mittels sogenannter Face Swap Apps lässt sich das Gesicht einer Person in einen Porno montieren, mit DeepNude-Apps kann eine ursprünglich bekleidet abgebildete Person gewissermaßen ausgezogen werden. Die auf diese Weise erzeugten Bilder und Videos erscheinen als täuschend echt. Täter*innen nutzen Originalfotos, die sie entweder privat besitzen oder die sie von frei zugänglichen Internetseiten oder Social-media-Accounts herunterladen. Es kann also jeden Menschen treffen, von dem digitale Bilder verfügbar sind. Sexualisierende Deepfakes werden häufig auf Pornoplattformen hochgeladen, teils mit herabwürdigenden Kommentaren verbunden und mit persönlichen Daten versehen, die die Identifizierung der dargestellten Person erlauben.
Ursprung
Ein Reddit-Nutzer namens „deepfakes“ veröffentlichte 2017 gefälschte Videos, bei denen die Gesichter berühmter Schauspielerinnen in Pornofilme montiert worden waren. Zudem wurde der zugrunde liegende Algorithmus als Open-Source-Code mit einer Anleitung zur Verfügung gestellt, so dass auch andere ihn einfach nutzen konnten. Daraufhin verbreiteten sich Deepfakes auf Reddit rasant. Auch jüngst wurden sexualisierende Deepfakes, die Taylor Swift darstellten, massenhaft auf X (ehemals Twitter) verbreitet. Sie zeigten Swift angeblich nackt und waren mit einem KI-Dienst von Microsoft erstellt worden.
Doch es trifft nicht nur Prominente, sondern auch Privatpersonen. Noelle Martin, eine australische Jurastudentin, fand, schon vor dem Jahr 2015, zufällig durch eine umgekehrte Google Bildersuche heraus, dass Social-Media-Fotos von ihr mittels Photoshop in pornographische Inhalte montiert und auf pornografischen Internetseiten in überwältigender Zahl verbreitet worden waren. Ihr Bemühen darum, die Inhalte löschen zu lassen, das Geschehen bei der Polizei anzuzeigen und andere Unterstützung zu erhalten, verlief ergebnislos: Die Plattformen waren quasi unerreichbar, sie wusste nicht, wer der- oder diejenigen waren, die die Fotos manipuliert und verbreitet hatten, es gab keine Rechtsnormen, die das nicht einvernehmliche Herstellen von Deepfakes und ihre Verbreitung verboten, und auch Beratungs- und Unterstützungsangebote waren zu dieser Zeit noch nicht verfügbar. Psychisch extrem belastet entschied sich Martin schließlich, an die Öffentlichkeit zu gehen und sich aktivistisch für Gerechtigkeit für die von Deepfakes Betroffenen einzusetzen. Sie setzte sich für die Kriminalisierung von Deepfakes ein, was im Jahr 2018 in Australien auch umgesetzt wurde.
Verbreitung und Anteil an Deepfakes
Deepfakes können dazu genutzt werden, unmittelbar in politische und öffentliche Meinungsbildungsprozesse einzugreifen, beispielsweise indem Politiker*innen etwas zu sagen scheinen, was sie in Wirklichkeit nie gesagt haben. Teils werden ihnen auch mögliche positive Effekte zugesprochen, etwa im Rahmen von Satire, künstlerischen Prozessen oder im Bildungsbereich. Einer im Jahr 2019 erschienenen Studie zufolge, waren jedoch 96 % der im Netz aufgefunden Deepfake-Videos sexualisierende Deepfakes. In dieser Studie waren die von sexualisierenden Deepfakes betroffenen Personen ausschließlich Frauen. Es ist zu vermuten, dass auch Kinder betroffen sind, wobei sich das Phänomen kinderpornografischer Deepfakes deutlich schlechter empirisch untersuchen oder schätzen lässt. Denn das Herstellen und Zugänglichmachen kinderpornografischer Inhalte ist rechtlich verboten, so dass sie gewöhnlich nicht allgemein zugänglich verfügbar gemacht und getauscht werden.
Motive und Folgen für die Betroffenen
In einer Studie vermuteten Betroffene sexualisierender Deepfakes, dass die Täter durch das Bedürfnis, sie zu kontrollieren oder zu beherrschen, Rache und sexuelle Befriedigung motiviert wurden. Betroffene erleben bildbasierte sexualisierte Gewalt – zu der sexualisierende Deepfakes zählen – wie einen körperlichen sexuellen Übergriff. Sie kann lebenszerstörend wirken, denn sie geht mit erheblichen psychischen Belastungen einher und kann zum Rückzug von sozialen Online- und Offline-Kontakten führen, weil die Betroffenen befürchten, dass Personen aus dem privaten und beruflichen Bereich, die sie kennen, diese Bilder entdecken und dann negative Konsequenzen sozialer und finanzieller Art drohen. Personen, die im öffentlichen Bereich bspw. journalistisch oder politisch tätig sind, können durch sexualisierende Deepfakes diskreditiert werden und sich gezwungen sehen, sich aus öffentlichen Diskursen zurückzuziehen. Betroffene können zudem Opfer von Victim Blaming (Täter-Opfer-Umkehr) und Slut Shaming (u.a. Beschämung von Personen, insb. weiblichen Opfern sexualisierter Gewalt, oder sexuell aktiven Personen, als Schlampen) werden.
Einordnung als geschlechtsspezifische sexualisierte Gewalt und Demokratierelevanz
Die Daten zeigen, dass das nicht einvernehmliche Herstellen und Zugänglichmachen sexualisierender Deepfakes eine relativ neue Form sexualisierter Gewalt vor allem gegen Frauen ist, die durch Informations- und Kommunikationstechnologien ermöglicht wird. Nicht einvernehmliche sexualisierende Deepfakes sind damit ein weiteres Mittel, um Frauen geschlechtsbezogen zu marginalisieren. Es handelt sich um eine Form sexualisierter Gewalt, weil es sich um eine Verletzung von Grund- und Menschenrechten der betroffenen Personen als Recht am eigenen Bild in Verbindung mit dem Recht auf sexuelle Selbstbestimmung handelt, die äußerst schwerwiegende Folgen haben kann. Zudem zeigen die manipulierten Bilder die Körper der Betroffenen auf eine sexualisierte Weise. In Bezug auf Frauen ordnet sich dies ein in das „Kontinuum sexualisierter Gewalt“, dem Frauen im Laufe ihres Lebens ausgesetzt sind. Dies können unterschiedliche (nicht zwingend rechtsverletzende) Erfahrungen sexualisierender geschlechtsbezogener Marginalisierung sein, die Frauen gewöhnlich erleben und die sich aufgrund ihrer Häufigkeit und ihrem Kern, der Reduktion von Frauen auf ihre Sexualität und ihre diesbezügliche Unterordnung, zu einem Kontinuum verdichten. Auch andere Diskriminierungsdimensionen können eine Rolle spielen. Beispielsweise gibt es rassistische sexualisierende Deepfakes, die Schwarze Menschen sexualisiert darstellen und in Kreisen weißer Rassist*innen zirkulieren.
Bildbasierte sexualisierte Gewalt mag zwar nicht unmittelbar auf politische Einflussnahme zielen, sie schädigt aber die Demokratie auf schwerwiegende Weise. Denn sie verletzt den Kerngedanken des demokratischen Miteinanders, sich selbstbestimmt auf gleiche Weise frei von Diskriminierung einbringen zu können.
Einordnung als eine Form bildbasierter sexualisierter Gewalt
Nicht-einvernehmliche sexualisierende Deepfakes verletzen das Grund- und Menschenrecht der betroffenen Person als Persönlichkeitsrecht oder Recht auf Privatheit, genauer als Recht am eigenen Bild in Verbindung mit dem Recht auf sexuelle Selbstbestimmung. Denn es ist jeder Person selbst überlassen, ob und wie sie sich bildhaft im Hinblick auf ihre Sexualität darstellen will. Das gilt insbesondere für Personen, die wie Frauen, queere Personen oder Kinder, hinsichtlich ihrer sexuellen Selbstbestimmung besonders verletzlich sind. Außerdem kann das Recht auf Nichtdiskriminierung verletzt sein. Hinzu kommt bei sexualisierenden Deepfakes der verleumderische Aspekt.
Weil nicht einvernehmliche sexualisierenden Deepfakes die Grund- und Menschenrechte der betroffenen Personen auf schwerwiegende Weise verletzen, sollten sie nicht als pornografisch bezeichnet werden. Der Begriff des Pornografischen ist zwar durchaus noch negativ konnotiert, diese negative Konnotation verweist aber auf das als obszön empfundene öffentliche oder private Thematisieren von Sexualität und gerade nicht auf eine Verletzung der Rechte von Personen, die ohne ihre Einwilligung auf sexualisierte Weise dargestellt werden. Dies trifft nicht nur auf nicht einvernehmliche sexualisierende Deepfakes, sondern auf alle Formen von Nacktbildern oder sexuellen Inhalten zu, die ohne Einwilligung der dargestellten Personen hergestellt, gebraucht oder Dritten zugänglich gemacht werden, also auch auf Inhalte, die ein tatsächliches Geschehen wiedergeben.
Alle Formen des nicht einvernehmlichen Herstellens, Gebrauchens und Zugänglichmachens von Inhalten, die eine andere Person nackt oder sexualbezogen darstellen, sollten als bildbasierte sexualisierte Gewalt (Image-based sexual Abuse) bezeichnet werden. Dies ermöglicht zum einen eine klare Abgrenzung von Pornografie, deren einvernehmliches Herstellen und Zugänglichmachen sich als Ausübung des Rechts am eigenen Bild und des Rechts auf sexuelle Selbstbestimmung darstellen kann. Zum anderen kann damit das nicht einvernehmliche Herstellen von sexuellen Inhalten, das sexualisierende Manipulieren von Inhalten, deren Gebrauch und Zugänglichmachen an Dritte klar als eine schwerwiegende Verletzung der Grund- und Menschenrechte der dargestellten Personen charakterisiert werden. Bislang ist bildbasierte sexualisierte Gewalt im Interner Link: deutschen Recht nur unsystematisch und lückenhaft geregelt.
Strafwürdige Handlungen im Zusammenhang mit sexualisierenden Deepfakes
Sexualisierende Deepfakes werden häufig mit herabwürdigenden Kommentaren auf Pornoplattformen versehen, teils werden auch persönliche Daten der dargestellten Person hinzugefügt, die es ermöglichen, sie zu identifizieren (Doxing). Sexualisierende Deepfakes können zudem dazu benutzt werden, die dargestellte Person zu mobben oder ihr nachzustellen. Teils werden sie auch eingesetzt, um der dargestellten Person mit der Veröffentlichung zu drohen, um sie zu erpressen oder zu nötigen (Sextortion). Sexualbezogene Inhalte, die ein Kind darstellen, spielen auch eine wichtige Rolle beim Cybergrooming, bei denen Kindern damit gedroht wird, sexualbezogene Inhalte von ihnen zu veröffentlichen oder den Eltern zugänglich zu machen, wenn sie nicht weitere schicken oder sich nicht auf sexuelle Handlungen einlassen (als eine Form von Cybergrooming). Diese Verhaltensweisen sind teils strafbar, etwa als Beleidigung, Nötigung, Bedrohung, Nachstellung und als sexueller Missbrauch von Kindern, teils sind sie aber nicht strafbar, etwa beim Doxing und als Mobbing.