Auf Grok: Sexualisierte KI-Bikini-Bilder von Elon Musks Unternehmen sorgen für jedes Aufregung

Die Affäre um den von Elon Musks Unternehmen X.AI entwickelten Chatbot Grok zieht immer weitere Kreise. Wegen der Verbreitung sexualisierter KI-Bilder realer Personen haben Indonesien und Malaysia angekündigt, den Zugang zu Grok vorerst zu blockieren. Auch in Großbritannien steht eine Sperre zur Diskussion, was Musk veranlasste, die britische Regierung scharf zu attackieren. Er beschrieb sie auf seiner Plattform X als „faschistisch“ und warf ihr vor, sie wolle „freie Rede unterdrücken“.

Die Aufregung um Grok begann Ende Dezember. Damals tauchten immer mehr freizügige „Deepfake“-Bilder realer Personen auf X auf, also Fotos, die mithilfe von Künstlicher Intelligenz manipuliert wurden. Es handelte sich dabei vor allem um Frauen, zum Teil aber offenbar auch um Kinder. Nutzer von X konnten Grok auffordern, Fotos zu bearbeiten und zum Beispiel Frauen in Bikinis oder in sexualisierten Posen zu zeigen.

Nach Schätzungen von Genevieve Oh, einer Forscherin, die unter anderem auf Deepfakes spezialisiert ist, erstellte Grok zeitweise mehrere Tausend solcher Fotos je Stunde. Die britische Organisation Internet Watch Foundation, die gegen sexuelle Ausbeutung von Kindern im Internet kämpft, schrieb auf X, sie habe im sogenannten „Dark Web“, das nur über spezielle Software zugänglich ist, „kriminelle“ Bilder von Kindern im Alter von elf bis 13 Jahren gefunden, die von Grok erstellt worden seien. Die Influencerin Ashley St. Clair, die ein Kind mit Musk hat und mittlerweile einen Sorgerechtsstreit mit ihm führt, sagte, Grok habe sie auf Kinderfotos „entkleidet“.

Die Verbreitung der sexualisierten Deepfakes ließ Grok und X schnell ins Visier von Regulierern und Politikern geraten. In den USA schrieben drei Senatoren der Demokratischen Partei Briefe an die Vorstandschefs von Apple und Google und forderten sie auf, X und Grok aus ihren App Stores zu entfernen. Eine Regierungsvertreterin in Brasilien forderte ein Verbot von Grok, auch die EU-Kommission ließ verlauten, sie wolle sich mit der Angelegenheit beschäftigen. Die indonesische Digitalministerin Meutya Hafid sagte anlässlich der Ankündigung des Verbots am Wochenende, ihre Regierung sehe sexuelle Deepfakes, die ohne Zustimmung verbreitet würden, als „ernsthafte Verletzung von Menschenrechten, Würde und der Sicherheit von Bürgern im digitalen Raum“.

„Besonders scharfe Kritik kam auch aus Großbritannien. Premier Keir Starmer nannte die von Grok erstellten Bilder „beschämend“ und „widerwärtig“. Die linksliberalen Liberaldemokraten forderten, den Zugang zu X in Großbritannien temporär einzuschränken, während die Seite durch die Medienaufsichtsbehörde Ofcom untersucht werde. Die Behörde kündigte am Montag an, eine „formelle Untersuchung“ gegen X eingeleitet zu haben. Medien- und Kulturministerin Liz Kendall sagte, sie würde die Behörde unterstützen, falls diese den Zugang zu X blockieren würde, wenn der Dienst sich weiterhin nicht an die entsprechenden Gesetze für Onlinesicherheit halte. Kendall sagte: „Sexuell manipulierte Bilder von Frauen und Kindern sind abscheulich und abstoßend.“

Der Anführer der rechten Oppositionspartei Reform UK, Nigel Farage, nannte die Bilder zwar „schrecklich in jeder Hinsicht“ und forderte, Grok müsse geändert werden. Ein Verbot von X sei aber ein Angriff auf die Meinungsfreiheit und komme Zensur gleich. Farages Partei, die in Umfragen seit Monaten führt, ist in sozialen Medien weit erfolgreicher als Starmers Labourpartei und erreicht mit Plattformen wie X und Instagram Millionen Menschen direkt.

Elon Musk hatte sich von der Aufregung zunächst nicht beeindrucken lassen. Am Neujahrstag forderte er Grok auf X auf, von sich selbst ein Bild im Bikini zu erstellen, das er dann mit dem Wort „perfekt“ kommentierte. Wenige Tage später drohte er dann Grok-Nutzern, die „illegale Inhalte“ erstellten, vage mit „Konsequenzen“. Musk verteidigte sich aber auch und beschrieb den Aufschrei gegen Grok und X als politisch motiviert.

Kritiker suchten „nach einer Ausrede für Zensur“. Musk verbreitete auf X Bilder anderer Nutzer, die suggerierten, dass auch andere KI-Dienste wie ChatGPT von Open AI und Gemini von Google Bikini-Bildchen produzieren könnten. Er verbreitete zudem Bilder, die Starmer in Bikinis zeigten.

Zumindest ein Stück weit schien Musks Unternehmen ein Zugeständnis zu machen, als das Grok-Konto auf X mitteilte, die Bearbeitungsfunktion für Fotos sei fortan auf zahlende X-Nutzer beschränkt. Es gibt freilich noch immer reichlich Wege, diese Funktion zu nutzen, zum Beispiel auf der separaten Grok-App.

Es ist nicht ganz klar, inwiefern Grok seinen Nutzern mehr Freiheiten in der Manipulation von Fotos gibt als andere Dienste. Im Dezember hatte die Techpublikation „Wired“ berichtet, auch Nutzern von ChatGPT und Gemini sei es gelungen, Bikini-Deepfakes zu erstellen. Alle Unternehmen haben Nutzerrichtlinien, die dem Einsatz ihrer Dienste Grenzen setzen. Open AI sagt zum Beispiel, ChatGPT könne nicht ohne Zustimmung für „intime Inhalte“ genutzt werden. Eine ähnliche Formulierung gibt es auch in den Regeln von X.

In einigen Ländern gibt es Gesetze, die die Verbreitung solcher Inhalte verbieten. In den USA wurde im vergangenen Jahr der „Take it Down Act“ verabschiedet und von Präsident Donald Trump unterzeichnet. Dieser verbietet „intime visuelle Darstellung“ von Menschen im Internet ohne deren Zustimmung – egal, ob es sich um authentische Bilder handelt oder um Deepfakes.

Grok ist ein Konkurrenzprodukt zu ChatGPT. Musk war einst selbst ein Mitgründer des ChatGPT-Entwicklers, hat sich aber schon vor einigen Jahren im Zuge von Meinungsverschiedenheiten verabschiedet. 2023 gründete er dann den Wettbewerber X.AI und brachte Grok heraus. Er hat den Anspruch für Grok ausgegeben, weniger politisch korrekt zu sein als andere Dienste.

Im vergangenen Jahr hat Musk X.AI mit der Plattform X verschmolzen, die er selbst erst 2022 gekauft hat. Vor wenigen Tagen hat X.AI mitgeteilt, im Rahmen einer weiteren Finanzierungsrunde mit Investoren 20 Milliarden Dollar eingesammelt zu haben. Medienberichten zufolge wurde das Unternehmen dabei insgesamt mit mehr als 230 Milliarden Dollar bewertet.

Schon im vergangenen Jahr war Grok Gegenstand einer größeren Kontroverse. Damals war der Chatbot mit einer Serie von antisemitischen Kommentaren aufgefallen. Er äußerte sich lobend über Hitler und suggerierte, Menschen mit jüdisch klingenden Nachnamen neigten eher dazu, Hass im Internet zu verbreiten. Grok beschrieb sich auch mehrmals als „MechaHitler“.

In Großbritannien wie auch in einigen anderen Ländern gibt es derzeit eine Debatte über ein eventuelles Social-Media-Verbot für Nutzer im Alter von weniger als 16 Jahren, wie es Australien erlassen hat. Die oppositionellen Konservativen unter Kemi Badenoch fordern ein solches Verbot, das alle Plattformen wie Facebook, Instagram, Kick, Reddit, Snapchat, Threads, Tiktok, X, Youtube und Twitch umfassen würde. Badenoch erklärte, ihre Partei werde das „Alter für Zustimmungsfähigkeit“ anheben, um Kinder vor schädlichen Inhalten wie extremer Pornographie zu schützen. Damit geht die Partei nun weiter als bisher. Zuvor hatte sie nur ein Smartphone-Verbot an Schulen gefordert.