Die Plattform X hat die Bildgenerierungs-Funktion seines KI-Chatbots Grok für einen Großteil seiner Nutzer abgeschaltet. Der Dienst sei aktuell nur für zahlende Abonnenten verfügbar, teilt der KI-Chatbot aktuell zahlreichen Nutzern auf X bei entsprechenden Anfragen mit.
Nutzer von X konnten Grok bislang auch dazu auffordern, freizügige Bilder von Menschen zu generieren. Auf der Plattform finden sich etliche Beispiele, bei denen die KI unter normalen Bildern aufgefordert wird, diese zu sexualisieren. Oft kommt Grok der Aufforderung nach.
Dabei wurden auch Grenzen überschritten: An Silvester entschuldigte sich der Chatbot dafür, ein Bild von zwei Mädchen im Teenager-Alter „in sexualisierten Outfits“ erstellt und geteilt zu haben. „Es handelte sich um ein Versagen unserer Sicherheitsvorkehrungen, und ich entschuldige mich für alle dadurch entstandenen Schäden“, schrieb Grok auf X. Im Sommer hatte Grok bereits mit Lobpreisungen für Adolf Hitler schockiert.
„Das ist illegal. Das ist inakzeptabel.“
Die Vorfälle haben auch die Politik auf den Plan gerufen. Die Europäische Kommission hat das US-Unternehmen aufgefordert, interne Dokumente zu Grok nicht zu vernichten, sondern bis Ende des Jahres aufzubewahren, sagte ein Sprecher. Es gebe Zweifel daran, ob das Unternehmen sich an europäische Digitalgesetze halte.
Der EU-Kommissionssprecher betonte: „Wir haben beobachtet, wie Grok antisemitische Inhalte und in jüngerer Zeit auch sexuelle Darstellungen von Kindern generiert hat. Das ist illegal. Das ist inakzeptabel.“ Die EU-Kommission hatte von X Ende 2025 Auskünfte zu Grok verlangt und nach eigenen Angaben über die Feiertage eine Antwort erhalten. Diese werde nun analysiert.
Eine Deaktivierung von Grok in der EU zu erwirken, sei nicht das Ziel der EU-Kommission und eher ein letztes Mittel. „Wir sind nicht hier, um den Bürgern zu sagen, welche Plattform sicherer oder besser zu verwenden ist“, sagte der Sprecher.
Mehrere Verfahren gegen X
Gegen Musks Plattform X laufen auf Grundlage europäischer Digitalgesetze bereits mehrere Untersuchungen und Verfahren. Erst Anfang Dezember hatte die EU gegen Musks Online-Plattform wegen Transparenzmängeln eine Strafe von 120 Millionen Euro verhängt. Der US-Firma könnten weitere Strafen drohen. So haben die europäischen Internetwächter X ebenfalls seit Dezember 2023 im Visier, weil die Plattform im Verdacht steht, nicht genug gegen illegale Inhalte oder Desinformation zu tun.
Die US-Regierung von Präsident Donald Trump wirft Brüssel hingegen vor, es betreibe Zensur. Washington verhängte kurz vor Weihnachten als Reaktion auf europäische Maßnahmen Einreiseverbote gegen den früheren EU-Kommissar Thierry Breton und andere Europäer. Breton ist ein Architekt der EU-Digitalgesetze. Auch die Geschäftsführerinnen der gegen Internet-Hetze eintretenden deutschen Beratungsstelle Hate Aid sind betroffen.
Die Sanktionen könnten auch als Warnung an die EU-Kommission von Ursula von der Leyen verstanden werden, die europäischen Digitalgesetze weiter gegen US-Unternehmen anzuwenden. Die Brüsseler Behörde drohte nach den Einreiseverboten wiederum mit Vergeltungsmaßnahmen. Man verurteile die Entscheidung der Vereinigten Staaten aufs Schärfste, hieß es.