Strafrecht und Regulierung von Deepfake-Pornografie | Wenn der Schein trügt – Deepfakes und die politische Realität | bpb.de

Immer wieder sehen sich Betroffene nach der Veröffentlichung von Nacktaufnahmen mit diesem oder vergleichbaren Vorwürfen konfrontiert. Die deutsche Wissenschaftlerin und Menschenrechtlerin Nivedita Prasad spricht von einer „erstaunlichen Renaissance“ des Victim Blaming im Kontext digitaler geschlechtsspezifischer Gewalt. Auch diese Schuldumkehrungen entbehren jeglicher Grundlage: Die fortschreitende Digitalisierung dient als Einfallstor für neue Dimensionen strafwürdiger Taten. Schon längst nicht mehr beschränken sich (audio-) visuelle Inhalte im Internet auf die Wiedergabe eines tatsächlichen Geschehens. Eine relevante Ausprägung dessen ist die sog. Deepfake-Pornografie. In einer nie dagewesenen Qualität werden Bilder-, Audio- und Videoinhalte unter Einsatz Künstlicher Intelligenz (KI) manipuliert und modifiziert. Das Ergebnis sind täuschend echt wirkende (pornografische) Inhalte, welche mit dem bloßen Auge nicht als Täuschung zu erkennen sind.

Deepfake-Pornografie ist keinesfalls im luftleeren Raum, sondern viel mehr in ihrem übergeordneten Kontext der bildbasierten sexualisierten Gewalt zu sehen. Geprägt durch die britischen Wissenschaftlerinnen Clare McGlynn und Erika Rackley wird der Begriff im deutschen Sprachraum für verschiedene Formen des Erstellens, Verbreitens und Verwendens intimer und/oder sexualbezogener Aufnahmen ohne Einverständnis der dargestellten Person verwendet. Intimes bzw. sexualbezogenes Bildmaterial bildet dabei unbedeckte oder in Unterwäsche gekleidete Genitalien oder den Analbereich einer Person, Brüste und weitere intime und/oder sexualbezogene Posen oder Aktivitäten ab. Kennzeichnend ist der häufig sexualisierte diffamierende Kontext der Inhalte. Umfasst werden vielfältige Erscheinungsformen.

Deepfakes betreffen uns alle – aber nicht alle gleich

Das wachsende niedrigschwellige und große Angebot von Deepfake Apps ermöglicht es jeder Person ohne Vorkenntnisse einfach Deepfakes zu erstellen. Gefährdet sind dabei nicht nur die Personen, die auf frei zugänglichen (audio-) visuelle Inhalten im Internet, etwa in den sozialen Netzwerken, dargestellt sind. Täter*innen bedienen sich zur Herstellung und Verbreitung von Deepfakes sowohl an im Einverständnis privat erlangten Inhalten als auch an Inhalten, zu denen sie sich unbefugt Zugang verschaffen. Im Verhältnis zwischen pornografischen und nicht-pornografischen Deepfakes überwiegt die Anzahl der veröffentlichten Deepfake-Pornografie deutlich; laut Auswertungen des Unternehmens Sensity im Jahr 2020 machten pornografische Inhalte bis zu 93 % aus, mit einer zunehmenden Bedeutung von und Nachfrage nach Deepfake-Pornografie.

Intersektionale Betrachtung: Geschlechtsspezifische Komponente der Deepfake-Pornografie

Eine intersektionale Perspektive auf das Phänomen zeigt eine besondere Betroffenheit von Frauen und weiteren marginalisierten Gruppen. Während nicht-pornografische Videos nach einer Auswertung des Unternehmens Deeptrace im Jahr 2019 in 61 % der Videos männliche und nur in 39 % weiblichen Personen darstellten, waren es hinsichtlich pornografischer Videos in allen Fällen (100 %) Frauen. Besonders betroffen waren Personen des öffentlichen Leben, insbesondere Politikerinnen, Wissenschaftlerinnen, Aktivistinnen und Frauen aus der Unterhaltungsbranche. Wie auch Deepfakes im Allgemeinen wirkt sich Deepfake-Pornografie vielseitig aus: Die schädlichen und schwerwiegenden Folgen entfalten sich sowohl auf gesamtgesellschaftlicher als auch auf individueller Ebene. Auf gesamtgesellschaftlicher Ebene kann sie zur Verdrängung von Diversität im virtuellen Raum in Rahmen des sogenannten Silencing -Effekts führen. Dies schwächt die Meinungsvielfalt im öffentlichen Raum und bedroht den demokratischen Diskurs. Auf individueller Ebene kann sie tiefgreifende und langanhaltende psychische sowie physische Schäden verursachen, insbesondere durch die herabstufende sexualisierende Objektivierung.

Verbreitung auf pornografischen und nicht pornografischen Plattformen – Misogyne Gruppen als Katalysator

Zur Verbreitung von Deepfake-Pornographie werden neben der Verwendung von etwa WhatsApp, Emails, SMS über das private Umfeld hinaus nicht-pornografische Plattformen, wie soziale Netzwerke und Dating-Plattformen, ebenso wie Mainstream-Pornografie Plattformen und spezifische Pornografie-Plattformen, wie Rache-Pornografie-Plattformen, genutzt. Befeuert wird die Verbreitung durch misogyne Gruppen, wie bspw. die Incel-Bewegung, welche es sich zur Aufgabe gemacht hat, Hass im Internet gegen Frauen zu verbreiten. Die deutschen Wissenschaftlerinnen Jenny-Kerstin Bauer und Ans Hartmann sprechen insofern von „einem bewusst gewählten frauenfeindlichen, gewaltvollen Milieu“. Der intimen und weitgehend unkontrollierbaren Natur des Phänomens liegt ein erhöhtes Risiko einer wiederholten, länger andauernden oder sogar ständigen Viktimisierung inne.

Harmlose vs. schädliche (pornografische) Deepfakes

Im Rahmen der rechtlichen Einordnung sind grundsätzlich harmlose von gezielt schädlichen Deepfakes abzugrenzen. Die Grenzen sind hierbei fließend: Das Beispiel der beliebten, leicht zugänglichen Face-Swapping Angebote, welche auf den Austausch von Gesichtern spezialisiert sind, verdeutlich dies. Neben der Generierung zunächst harmloser nicht-pornografischer Inhalte für humoristische oder künstlerische Zwecke ist der Missbrauch durch die Montage der Gesichter von Schauspielerinnen auf Darstellerinnen in pornografischen Inhalten weit verbreitet. Nicht nur die Rechte der im Ausgangsmaterial dargestellten Personen können durch Deepfake-Pornographie potenziell verletzt werden, sondern auch die der im manipulierten bzw. modifizierten Inhalt abgebildeten Menschen. Wird beispielsweise das Gesicht einer Pornodarstellerin ohne Einverständnis durch jenes einer Politikerin ausgetauscht, kann dies nicht nur die Rechte, der in neuem sexualbezogenem Kontext dargestellten Politikerin verletzen, sondern auch die der im Ausgangsmaterial dargestellten Pornodarstellerin.

Rechtliche Grenzen grundsätzlich harmloser und unschädlicher Deepfake-Pornografie

Grundsätzlich harmlose, im Einverständnis der dargestellten Personen erstellte, überwiegend nicht-pornografische Deepfakes finden ihren Einsatz etwa zu Unterhaltungszwecken, bspw. im Bereich der Werbung oder Filmindustrie. Jedoch auch im Bereich der Deepfake-Pornografie lässt der Einsatz von KI Spielraum für eine harmlose, unschädliche Verwendung – unter der Voraussetzung des Einverständnisses der dargestellten Person(en). Begründet werden kann dies z. B. mit der Nachfrage nach Science-Fiction-Pornografie, wie es als eigenständige Kategorie auf diversen Pornografie-Plattformen zu finden ist. Fehlt es an jedoch an dem entscheidenden Merkmal des Einverständnisses kann die Herstellung und Verwendung von Deepfake-Pornografie Rechtsverletzungen darstellen. Diese betreffen oft bestehende Urheberrechte gem. § 106 UrhG i. V. m. § 108 Abs. 1 Nr. 3, Nr. 7 UrhG oder des Rechts am eigenen Bild, aus Art. 2 Abs. 1 i. V. m. Art. 1 Abs. 1 GG, nach § 33 KUG i. V. m. § 22 f. KUG. Nicht selten werden Deepfakes zu humoristischen Zwecken und der Satire, etwa in Form von Memes, eingesetzt. Die rechtlichen Grenzen dieser Belustigung entscheidet im Einzelfall eine Abwägung der sich entgegenstehenden Rechte der sich äußernden und der betroffenen Person. Hinsichtlich der Beurteilung der Rechtsverletzung muss hier regelmäßig abgewogen werden, ob dabei das Allgemeine Persönlichkeitsrecht, etwa als Verletzung des Rechts am eigenen Bild (Art. 2 Abs. 1 i. V. m. Art. 1 Abs. 1 GG) oder der Verletzung der Meinungsfreiheit der abgebildeten Person (Art. 5 Abs. 1 GG) überwiegen. Es liegt in der intimen Natur der Deepfake-Pornografie, dass diese gewöhnlich das Recht auf sexuelle Selbstbestimmung aus Art. 2 Abs. 1 GG verletzen. Insbesondere dieser schwerwiegende Eingriff in die Intimsphäre der dargestellten Person kann das Recht auf Meinungsfreiheit aus Art. 5 Abs. 1 GG überwiegen.

Strafrechtliche Einordnung schädlicher Deepfake-Pornografie: nicht-einvernehmliche sexualisierte Deepfakes

Ganz maßgeblich kennzeichnet diese schädlichen sexualisierten Deepfakes, dass ihre Inhalte ohne Einverständnis der dargestellten Personen erstellt, verbreitet oder anderweitig verwendet werden. Dabei können nicht-einvernehmliche sexualisierte Deepfakes – häufig, aber nicht ausschließlich – geschützte Rechtsgüter wie das Recht auf sexuelle Selbstbestimmung (Art. 2 Abs. 1 GG) sowie das Allgemeine Persönlichkeitsrecht, etwa als Verletzung des Rechts am eigenen Bild (Art. 2 Abs. 1 i. V. m. Art. 1 Abs. 1 GG) durch die Erstellung, Verbreitung und anderweitigen Verwendung von nicht-einvernehmlicher sexualisierten Deepfakes verletzt werden. Ein Blick auf nationale sowie internationale Gesetzeslagen offenbart einen lückenhaften strafrechtlichen Schutzrahmen.

Wie sieht die rechtliche Lage in Deutschland aus?

Der strafrechtliche Schutzrahmen vor nicht-einvernehmlicher sexualisierten Deepfakes ergibt sich zunächst aus den nationalen Gesetzen, insbesondere dem StGB. Dabei trifft die strafrechtliche Einordnung der höchst aktuellen, modernen Taten auf ein für die analoge Welt geschaffenes Gesetz. Folge dessen ist eine über das Gesetz verteilte, teilweise als Einzelfallgesetzgebung einzuordnende, Gesetzgebung, deren vielfältige Straftatbestände unterschiedliche Aspekte nicht-einvernehmlicher sexualisierter Deepfakes erfassen. Es kommt auf den Einzelfall an, welche Straftatbestände einschlägig sein können.

• Nicht-einvernehmliche sexualisierte Deepfakes betreffend Gewaltdarstellungen: Beinhaltet die Deepfake-Pornografie Gewaltdarstellungen, so könnte diese das Herstellen und Verbreiten von Gewaltdarstellungen nach § 131 Abs. 1 Nr. 1, 2 StGB erfasst werden. Darüber hinaus wird das Verbreiten gewaltpornografischer Inhalte nach § 184a 1. Alt. StGB erfasst. Es ist jedoch nicht abschließend entschieden, ob der Schutzrahmen auch „fiktive“, sprich mittels KI manipulierte, oder nur reale Darstellungen erfasst.

• Weitere, typische Formen nicht-einvernehmlicher sexualisierter Deepfakes: Das Verbreiten sexualisierter Deepfakes, nicht jedoch das Herstellen kann als Verletzung des höchstpersönlichen Lebensbereichs und von Persönlichkeitsrechten durch Bildaufnahmen gem. § 201a Abs. 1 Nr. 1, Nr. 4, Abs. 2 StGB erfasst werden. Weiterhin kann die Verbreitung von nicht-einvernehmlichen sexualisierten Deepfakes unter dem Straftatbestand des Verbreitens pornografischer Inhalte gem. § 184 StGB gefasst werden. Denkbar ist, dass sowohl das Herstellen als auch das Verbreiten von sexualisierten Deepfakes sowie weitere Begleittaten, z. B. beleidigende Kommentare, die Tatbestände der Beleidigungsdelikte nach §§ 185 ff. StGB betreffen können. Unklar bleibt bisher, inwiefern die Verletzung des Intimbereichs durch Bildaufnahmen nach § 184k StGB auf Taten der Deepfake-Pornografie anwendbar ist.

• Begleittaten nicht-einvernehmlicher sexualisierter Deepfakes: Begleitet wird Deepfake-Pornografie, häufig von weiteren strafrechtlich relevanten Taten. Neben beleidigenden Kommentaren (s. o.) können z. B. Hacking zur Beschaffung der Inhalte (Ausspähen von Daten strafbar gem. § 202a Abs. 1 StGB), der Sextortion (sexuelle Nötigung strafbar nach § 177 StGB; Erpressung nach § 253 StGB) und Doxing, das gefährdende Verbreiten personenbezogener Daten nach. § 126a StGB strafbar sein.

• Geschlechtsspezifische Beweggründe als Strafschärfungsgrund: Mit einer geschlechtsspezifischen Perspektive auf das Phänomen kann zudem ein geschlechtsspezifischer Beweggrund als Strafschärfungsgrund nach § 46 Abs. 2 StGB gelten. Demnach können Taten gerichtet gegen Frauen aufgrund ihres Geschlechts, innerhalb des Strafrahmens, verschärft geahndet werden.

• Ausblick: Ein zentraler Straftatbestand zur Ahndung von Deepfakes Zuletzt beschloss der Bundesrat im Juli 2024 mit Blick auf die gravierenden Schutzlücken vor und der wachsenden Gefahren durch genereller Deepfakes einen Gesetzentwurf zum strafrechtlichen Schutz von Persönlichkeitsrechten. Dieser sieht die Schaffung eines neuen Tatbestandes „Verletzung von Persönlichkeitsrechten durch digitale Fälschung“ gem. § 201b StGB vor. Darüber hinaus soll ein neues Gesetz gegen digitale Gewalt Betroffene dabei unterstützen, ihre Rechte auch vor Gericht durchsetzen zu können.

Wie sieht es auf internationaler Ebene aus?

Neben dem nationalen steht das internationale Recht. Das EU-Recht genießt bspw. bei Mitgliedsstaaten Anwendungsvorrang vor nationalem Recht:

• Haftung der Plattformbetreibenden sowie Verantwortliche in der Entwicklung und im Betreiben von KI-Systemen: Im Kampf gegen sexualisierte Deepfakes ist es bedeutend, die Plattformbetreibenden und Entwickelnden sowie Betreibenden der KI-Systeme in die Verantwortung nehmen zu können. Schließlich stellt die überwiegende Anonymität der Nutzenden, die solche Inhalte verbreiten, eine große Hürde bei der Entfernung der Inhalte sowie der möglichen Strafverfolgung dar. Ansatzpunkte hierfür bietet die jüngste EU-Regulierung. Der im November 2022 in Kraft getretene DSA, umgesetzt durch das nationale DDG, legt großen Online-Plattformen und Suchmaschinen diverse Verpflichtungen auf, um unter anderem das Entfernen illegaler Inhalte durch ein vorgesehenes Meldeverfahren zu erleichtern und somit die Rechte der Nutzenden zu schützen. Der im August 2024 in Kraft getretene AI Act, stuft KI-Systeme mittels eines risikobasierten Ansatzes ein. Deepfake-Software wurde hierbei jedoch lediglich als KI-System mit begrenztem Risiko eingestuft, weswegen hier geringere Transparenzpflichten gelten.

• Schutz von Frauen und weiteren marginalisierten Gruppen Zuletzt erfasst Art. 7 der Richtlinie zur Bekämpfung von Gewalt gegen Frauen und häuslicher Gewalt, in Kraft getreten im Juni 2024, die nicht-einvernehmliche Herstellung und Weitergabe von intimem oder manipuliertem Material. Und ist damit Ausdruck der besonderen Betroffenheit von Frauen und weiteren marginalisierten Gruppen von digitaler Gewalt

Ein (ernüchterndes) Fazit und hoffnungsvoller Ausblick

Gerade der unvollständige Schutz vor der Erstellung von nicht-einvernehmlichen sexualisierten Deepfakes sowie weiteren Erscheinungsformen bildbasierter sexualisierter Gewalt gegen Erwachsene sorgt für Schutzlücken zulasten Betroffener. Mit Blick auf die besondere Betroffenheit von Frauen sowie weiteren marginalisierten Gruppen gilt es nicht-einvernehmliche sexualisierte Deepfakes zu bekämpfen, um Diversität im Internet zu bewahren. Gleichzeitig geben kürzlich in Kraft getretene sowie bevorstehende nationale wie internationale neue Gesetzgebungen sowie ein wachsendes Bewusstsein in der Gesellschaft Hoffnung im Kampf gegen nicht-einvernehmliche sexualisierte Deepfakes.

Im Kampf gegen Deepfake-Pornografie

Wer sich nun fragt, ob er*sie selbst derzeit in (Deepfake-) Pornografie zu finden ist, kann sich KI-Detektoren zu eigen machen, um dies herauszufinden. Betroffene sind nicht auf sich allein gestellt; neben rechtlicher Beratung sind es allem voran Hilfsorganisationen, wie bspw. HateAid , die ihnen zur Seite stehen.