Spanien: Mutmaßlicher Deepfake – KI-Nacktbilder von Mädchen sollen an Schulen zirkulieren

Javier Izquierdo de la Rosa von der zentralen Cybercrime-Abteilung: Pressekonferenz zum mutmaßlichen Deepfake-Skandal

Javier Izquierdo de la Rosa von der zentralen Cybercrime-Abteilung: Pressekonferenz zum mutmaßlichen Deepfake-Skandal


Foto: Alex Zea / Europa Press / Getty Images

The police in Spain have initiated investigations into a suspected case of multiple Deepfakes. According to the newspaper „El País,“ AI-generated nude photos of more than 20 girls are said to be circulating at their schools in Almendralejo, in the western Spanish region of Extremadura. Ten underage suspects have been identified so far, with some of them being younger than 14 and therefore not legally accountable.

Several mothers of the affected girls reached out to the public. The case may have attracted particular attention because among them is Miriam Al Adib, a gynecologist with a large following on Instagram. In a video lasting several minutes, she reported on the incident and wrote, among other things, „Girls, don’t be afraid to report such acts.“ And to those who „came up with this“: „If you’re a bit intelligent, help fix what you’ve caused.“

An dieser Stelle finden Sie einen externen Inhalt von Instagram,
der den Artikel ergänzt und von der Redaktion empfohlen wird. Sie können ihn sich mit einem Klick anzeigen lassen
und wieder ausblenden.


Externer Inhalt

I agree to have external content displayed to me. This may involve the transfer of personal data to third-party platforms.

For more information, please refer to our privacy policy.

She told the newspaper „El País“ that she had just returned from a lecture trip in Barcelona when her 14-year-old daughter said to her, „Mom, look what happened. They have already done this to many girls.“ Then she showed her the photo. „My heart skipped a beat,“ says Al Adib. „If I didn’t know my daughter’s body, this photo would look real.“ She then joined forces with the mothers of other affected girls. One of them told the broadcaster Canal Extremadura that a boy had tried to blackmail her daughter with a manipulated image.

An dieser Stelle finden Sie einen externen Inhalt von Twitter,
der den Artikel ergänzt und von der Redaktion empfohlen wird. Sie können ihn sich mit einem Klick anzeigen lassen
und wieder ausblenden.


Externer Inhalt

I agree to have external content displayed to me. This may involve the transfer of personal data to third-party platforms.

More information can be found in our privacy policy.

María Guardiola Martín, die Präsidentin der autonomen Gemeinschaft Extremadura, sagte den Mädchen und ihren Familien bei X, dem ehemaligen Twitter, Unterstützung zu. »Digitale Gewalt gegen Frauen ist eine wachsende Geißel«, hieß es in dem Beitrag weiter.

Die Technik hinter Deepfakes basiert auf sogenannter künstlicher Intelligenz (KI). Sie lässt sich heutzutage auch für Laien einfach nutzen und liefert immer häufiger realistische Ergebnisse. Millionenfach installierte Apps ermöglichen es für wenige Euro, beliebige Fake-Videos zu generieren.

In dem Fall aus Spanien sollen die Bilder von Instagram-Accounts der Mädchen gestohlen worden sein. Auf diesen seien sie voll bekleidet gewesen. Die Täter hätten sie dann mit der App so bearbeitet, dass sie unbekleidet aussahen – und die neuen Fotos in WhatsApp-Gruppen geteilt.


bbr