Seit Wochen steht die Kurznachrichtenplattform X in der Kritik, weil immer wieder digital manipulierte Fotos mit sexualisierten Darstellungen auftauchten. Der Chatbot Grok entkleidete per Befehl die Bilder realer Frauen und Minderjähriger digital, ersetzte Kleidung durch durchsichtige Bikinis oder Unterwäsche. Nun schaltet sich die Europäische Kommission ein. Sie hat ein Verfahren gegen die Plattform von Elon Musk eingeleitet.
Die Behörde verdächtigt das Unternehmen, die von dem Chatbot ausgehenden Risiken bei der Einführung der Künstlichen Intelligenz nicht sorgfältig genug bewertet und eingeschränkt zu haben. Das wäre ein Verstoß gegen das Gesetz für digitale Dienste, den Digital Service Act (DSA) der EU.
23.000 Bilder von Kindern
Konkret geht es nach Angaben der Kommission um die Verbreitung illegaler Inhalte, wie „manipulierte sexuell eindeutige Bilder, einschließlich Inhalte, die Material über sexuellen Kindesmissbrauch darstellen können“. Weil genau das eingetreten sei, sei EU-Bürgern ernsthafter Schaden entstanden. Nach Angaben der britischen Nichtregierungsorganisation CCDH waren unter den sexualisierten Fotos 23.000 Bilder von Kindern.
„Sexuelle Deepfakes von Frauen und Kindern sind eine gewalttätige, inakzeptable Form der Erniedrigung“, sagte die zuständige finnische EU-Kommissarin Henna Virkkunen. „Mit dieser Untersuchung werden wir feststellen, ob X die Rechte der europäischen Bürger – einschließlich der Rechte von Frauen und Kindern – als Kollateralschaden seines Dienstes behandelt hat.“
X will Problem gelöst haben
Die Plattform X hat zwar inzwischen mitgeteilt, es habe technische Schritte unternommen, „um zu verhindern, dass über Grok Bilder von realen Personen in freizügiger Kleidung wie Bikinis bearbeitet werden können“. Offenbar ist es aber nach wie vor möglich.
Die Bilderstellung mit Grok ist zudem nur noch zahlenden Nutzern zugänglich. Das genügt der Kommission aber nicht. „Kindesmissbrauchs-Material ist kein Privileg für Premium-Nutzer“, sagte ein Sprecher der Behörde. „Solche Inhalte haben in Europa keinen Platz.“
Wenn die Kommission in dem nun eröffneten förmlichen Verfahren nachweisen kann, dass X gegen den DSA verstoßen hat, kann sie Strafen gegen X verhängen. Eine Frist für das laufende Verfahren gibt es nicht. Die Kommission kann am Ende auch Selbstverpflichtungen von X zur Behebung des Problems akzeptieren.
Erste Strafe gegen X
Anfang Dezember hatte die Kommission eine erste Strafe von 120 Millionen Euro gegen das Unternehmen verhängt. Damals ging es unter anderem um mangelnde Transparenz bei der Werbung. Die Vorwürfe im Zusammenhang mit Grok wiegen aber viel schwerer.
Die Europaabgeordnete der Grünen Alexandra Geese begrüßte das Verfahren. „Die Europäische Kommission setzt endlich ihre stärkste Waffe ein, um die europäischen Bürger gegen Tech-Oligarchen zu verteidigen“, sagte sie. Die Untersuchung komme zu spät, könne aber dennoch ein klares Signal senden, dass Plattformen sich an europäisches Recht halten müssen. Europa müsse endlich für seine Werte einstehen.
Unabhängig davon hat die Kommission das schon seit Dezember 2023 laufende förmliche Verfahren gegen X verlängert. Sie will dabei prüfen, ob X die Risiken ausreichend bewertet hat, die vom kürzlich angekündigten Wechsel zu einem auf Grok basierenden Empfehlungssystem ausgehen.