Ausgelöst von dem Fall um Collien Fernandes wird aktuell viel über digitale Gewalt gesprochen. Wie auch bei analoger Gewalt handelt es sich hierbei nicht um Einzelfälle. Durch Technologien und generative KIs ist digitale Gewalt, wie etwa das Erstellen pornografischer Deepfakes, einfacher geworden. Das Problem: Die Tatpersonen sind anonym, und die Verbreitung der Inhalte ist schnell und einfach.
Für Betroffene bedeutet das oftmals ein Gefühl von Ohnmacht und die Macht über den eigenen Körper verloren zu haben. Aktuell wird die Ausarbeitung des Strafbestandes gegen digitale Gewalt in Deutschland gefordert, um Betroffene auch vor sexualisierten Deepfakes zu schützen. Was genau ist digitale Gewalt und welche Möglichkeiten haben Betroffene? Hier ist ein Überblick.
Was ist digitale Gewalt?
Der Bundesverband Frauenberatungsstellen und Frauennotrufe (bff) definiert digitale Gewalt als einen „Oberbegriff für Angriffsformen, die sich digitaler Medien bedienen oder im digitalen Raum, wie auf Online-Portalen oder sozialen Plattformen, stattfinden“. Dabei wird auf Erniedrigung, Rufschädigung, soziale Isolation und die Erpressung der Betroffenen abgezielt. Da hauptsächlich Frauen von digitaler Gewalt und pornografischen Deepfakes betroffen sind, spricht man auch von einer geschlechtsspezifischen Gewalt. Aber auch Kinder und Jugendliche sind zunehmend betroffen.
Typische Formen sind: Cyberstalking (ständige Überwachung, Verfolgen auf Social Media, unerwünschte Kontaktaufnahme), Cyberharassment (systematische Beleidigung, Bedrohung, Einschüchterung), Doxxing (Veröffentlichung privater Daten, wie der Adresse), Identitätsdiebstahl (Fake-Profile im Namen der Betroffenen) und Deepfakes.
Deepfake-Pornografie ist eine Form der digitalen Gewalt, bei der die realen Gesichter und Körper von Betroffenen mithilfe von KI in pornografische Fotos oder Videos bearbeitet werden – ohne Einverständnis der Betroffenen. Laut der Bundeszentrale für Politische Bildung gab es schon im Jahr 2023 100.000 KI-generierte Videos im Netz, von denen 96 % pornografisch waren. Die Beratungsstelle HateAid ist auf digitale Gewalt und Hassrede spezialisiert: „Auch wenn es sich nicht um den tatsächlichen Körper handelt, dem Gewalt angetan wird, sind die psychischen und emotionalen Folgen real und können tiefgreifend sein.“
Sexualisierte Deepfakes und geschlechtsspezifische digitale Gewalt haben oftmals mit Machtansprüchen der Tatpersonen zu tun. Die Macht über den Körper einer anderen Person zu beanspruchen, ist Teil einer strukturellen Gewalt gegen Frauen. Digitale Gewalt ist damit eine Verlängerung von analoger Gewalt in digitale Räume.
Wie steht es um die aktuelle Rechtslage, um gegen digitale Gewalt vorzugehen?
Die Veröffentlichung personenbezogener Daten, Bedrohung und Nachstellung seien strafrechtlich geregelt, sexualisierte Deepfakes jedoch nicht eindeutig, so HateAid. „Für bildbasierte sexualisierte Gewalt besteht in Deutschland gerade bei den sexualisierten Deepfakes eine Strafbarkeitslücke“. Bisher ist die Verbreitung von Deepfakes strafbar, nicht aber die Erstellung, obwohl auch damit das Recht auf sexuelle Selbstbestimmung verletzt wird.
Betroffene können Anzeige erstatten, was in der Praxis jedoch oft schwierig ist. „Viele Tatbestände, die in Betracht kommen, sind sogenannte Antragsdelikte – das heißt, Betroffene müssen selbst aktiv werden und neben einer Anzeige auch noch an einen Strafantrag denken“, sagt HateAid. Vor allem die Identifizierung der Tatpersonen ist aufgrund anonymer Accounts oder ausländischer Plattformen häufig kompliziert. Diese Identifizierung brauche man jedoch, um rechtlich Unterlassung zu verlangen, Inhalte löschen zu lassen oder Schadensersatz zu fordern. Es gibt jedoch die Möglichkeit, anonymes Vorgehen bei digitalen Angriffen nachzuverfolgen, etwa durch IP-Adressen, heißt es beim bff.
Dennoch hätten die Straftatbestände, die für pornografische Deepfakes in Deutschland überhaupt infrage kommen, wie etwa §33 KUG (Nebenstrafrecht), einen sehr niedrigen Strafrahmen, so HateAid. Aufgrund der aktuellen diffusen Rechtslage sei vor allem zivilrechtliches Vorgehen gegen Plattformen möglich: indem man die Inhalte auf den Plattformen selbst meldet, um die Verbreitung der Inhalte einzudämmen.
Hier eine Übersicht, was Betroffene machen können, wenn sie digitale Gewalt erfahren.
1. Was kann ich tun, wenn ich von digitaler Gewalt betroffen bin?
Für den ersten Schritt ist es wichtig, sich Unterstützung zu suchen, etwa im vertrauten Umfeld bei Freund*innen oder spezialisierten Beratungsstellen, auch wenn es Betroffenen aus Scham oder Angst schwerfällt.
Für die unterschiedlichen Formen von digitaler Gewalt gibt es unterschiedliche rechtliche Rahmenbedingungen. Aktuell wird über ein digitales Gewaltschutzgesetz diskutiert, um die rechtliche Lücke zu füllen. Trotz der unzureichenden Rechtslage ist es wichtig, dass Betroffene nicht denken, sie müssten das allein durchstehen.
Neben der Inanspruchnahme von Hilfestellen, sei laut HateAid ein zentraler Schritt das Sichern von Beweisen, zum Beispiel durch rechtssichere Screenshots.
2. An wen kann ich mich wenden, wenn ich von digitaler Gewalt betroffen bin?
Um die individuelle Situation richtig einzuschätzen und passende weitere Schritte einzuleiten, können Beratungsstellen helfen. Im Kern ist es wichtig, nicht zu schweigen, sondern sich Hilfe zu suchen.
HateAid ist auf digitale Gewalt und Hassrede spezialisiert und bietet eine erste Anlaufstelle, bei der sich Betroffene kostenlos melden können, sowie weiterführende Unterstützung erhalten.
„Frauen gegen Gewalt“ ist eine Webseite des Bundesverbands Frauenberatungsstellen und Frauennotrufe (bff). Hier kann man deutschlandweite Frauennotrufe und Beratungsstellen finden.
Weißer Ring ist eine Opferhilfe für alle Formen von Gewalt, auch bei digitaler. Sie bietet rechtliche und emotionale Unterstützung. Das Hilfetelefon ist täglich von 7 bis 22 Uhr unter 116 006 erreichbar und auf der Webseite sind 400 Standorte deutschlandweit gelistet, bei denen man sich vor Ort beraten lassen kann.
Der Austausch mit anderen Betroffenen, die Ähnliches erlebt haben, kann ebenfalls helfen. Wichtig ist, sich nicht entmutigen zu lassen, da der Prozess oft Geduld erfordert.
3. Wie kann ich die gefakten Inhalte finden?
Mit dem kostenlosen STOPNCII-Tool kann für intime Bilder ein digitaler Fingerabdruck (Hash) erstellt werden, ohne die Bilder hochzuladen. Mit diesem Tool kooperieren bekannte Technologieunternehmen und Plattformen, wie Instagram, Facebook, TikTok oder OnlyFans. Diese können anhand des digitalen Fingerabdrucks prüfen, ob jemand diese Bilder auf ihren Plattformen geteilt hat oder zu teilen versucht.
Mit diesem Tool hat man zwar keine absolute Sicherheit, die Verbreitung zu verhindern, es lässt sich aber zumindest ein erster Eindruck gewinnen. HateAid berichtet, dass viele Betroffene durch Hinweise von bekannten oder fremden Personen erfahren, dass solche Aufnahmen im Umlauf sind.
4. Was kann ich tun, damit die Aufnahmen aus dem Netz verschwinden?
HateAid nennt drei Möglichkeiten für Betroffene:
1. Plattformen kontaktieren: Über die Meldewege der jeweiligen Plattform können Betroffene die Inhalte melden und auf deren Löschung bestehen. Viele Plattformen bieten spezielle Formulare für die Meldung von nicht einvernehmlich verbreiteten Inhalten oder Deepfakes an.
2. Suchmaschine informieren: Auch bei Suchmaschinen wie Google können Betroffene die Entfernung von Links zu den Inhalten beantragen, sofern diese gegen die Nutzungsbedingungen oder geltendes Recht verstoßen.
3. Rechtliche Schritte einleiten: Falls die Plattformen nicht reagieren, können rechtliche Schritte – etwa Abmahnungen oder Unterlassungsaufforderungen – helfen, die Löschung durchzusetzen.
Da es überfordernd sein kann, rechtliche Schritte einzuleiten, gilt auch hier, sich Hilfe von Beratungsstellen zu suchen. Diese können bei der Formulierung von Löschanträgen und der Durchsetzung unterstützen.
5. Kann ich mich überhaupt vor digitaler Gewalt schützen?
HateAid berichtet, dass sich Betroffene nicht vollständig vor sexualisierter Gewalt schützen können. Auch aus harmlosen Fotos, wie Profilbildern, können sexualisierte Deepfakes erstellt werden. Ein bewusster und sensibler Umgang mit persönlichen Daten sei wichtig. Es könne jedoch nicht die Konsequenz sein, dass sich FLINTA*-Personen, die häufiger von Gewalt betroffen sind, aus dem Netz zurückziehen müssen. Für einen wirksameren Schutz müssen die rechtlichen Rahmenbedingungen und ein spezifischer Strafbestand angepasst werden.
Trotz der diffusen Bedrohung und Angst, die Betroffene erleben, ist es wichtig, nicht zu schweigen, sondern sich Hilfe zu suchen und mit anderen darüber zu sprechen.