Die geheimen ChatGPT-Malocher: „Die Arbeit findet im Verborgenen statt und ist gewalttätig“

Viele sind fasziniert von den schier endlos scheinenden Möglichkeiten der Künstlichen Intelligenz. Doch kaum jemand denkt darüber nach, womit „die Maschine gefüttert“ werden muss, damit sie funktioniert. Mit den wachsenden KI-Angeboten nimmt auch die Arbeit hinter den Bildschirmen zu. Die Schichten: lang. Die Überwachung: streng. Der Lohn: niedrig. Für die Tech-Konzerne in Europa und den USA bleibt diese Arbeit jedoch oft unsichtbar.

In ihrem Buch „Feeding the Machine“ nehmen die Briten Mark Graham, James Muldon und Callum Cant die brutalen Bedingungen in den Blick, unter denen Menschen arbeiten, damit andere ChatGPT mit Fragen löchern können. Im Gespräch mit dem Freitag erklärt Mark Graham, wie diese Maschinerie funktioniert, warum nur wenige von ihr profitieren, und welche Rolle Gewerkschaften und Verbraucher spielen können, um Arbeitsbedingungen in der KI-Branche weltweit zu verbessern.

der Freitag: Herr Graham, die Idee für Ihr Buch über KI kam Ihnen bei einer Exkursion nach Nairobi. Warum?

Mark Graham: Ich forsche seit 16 Jahren in Nairobi zu digitaler Arbeit. Dort wurden damals sehr viele Callcenter eingerichtet. Mittlerweile sind aus den Callcentern Datencenter für die KI-Technologie geworden. Das Setup ist ähnlich: Man braucht nur ein großes Gebäude mit Computern. Aber die Arbeit unterscheidet sich. Die Arbeitsbedingungen sind wirklich brutal. Außerdem findet diese Arbeit im Verborgenen statt, viele Menschen wissen nichts davon. Wir wollten deshalb die Arbeit, die nötig ist, dass es überhaupt KI-Entwicklungen gibt, in den Mittelpunkt unseres Buchs stellen.

Einer dieser Jobs, die sie im Buch vorstellen, ist ein „Annotator“. Was macht der?

Der Annotator bringt der Maschine bei, menschlicher zu werden. Nehmen wir eine KI für ein selbstfahrendes Auto: Der Annotator trainiert das System darauf, den Unterschied zwischen einer Straße, einem Hund, einem Laternenpfahl, einem anderen Auto und einem Kind zu erkennen. Millionen und Abermillionen Stunden menschlicher Arbeit werden damit verbracht, Videos und Bilder zu markieren, um die KI zu trainieren. Je mehr Daten, desto besser die KI.

Es passt nicht zum Image von KI, dass tausende Arbeiter auf den Philippinen, in Indien und Kenia zu furchtbaren Arbeitsbedingungen gearbeitet haben

Warum sind die Arbeitsbedingungen so brutal?

In den riesigen Datencentern sitzen die Annotatoren in großen Hallen, in denen Hunderte, manchmal Tausende von Schreibtischen nebeneinanderstehen. Die Schichten sind oft zehn Stunden lang, an sechs Tagen in der Woche. Die Arbeiter werden dabei permanent überwacht von ihren Managern. Sie bekommen sowohl Geschwindigkeitsziele als auch Qualitätsziele vorgegeben. Die Datenarbeiter wissen, wenn sie die Ziele nicht erfüllen, verlieren sie wahrscheinlich ihren Job. Das erzeugt enormen Druck, während die Jobs gleichzeitig langweilig und repetitiv sind.

Sind die Datenannotatoren denn stolz darauf, dass sie an einer Zukunftstechnologie mitarbeiten?

Die haben keinen Bezug dazu. Eine Frage, die wir ihnen bei unserer Recherche immer gestellt haben, ist: Wisst ihr, was ihr da tut? Welches Produkt stellt ihr her? Meistens haben sie keine Ahnung, wofür ihre Arbeit genutzt wird. Auch die Manager wussten oft nicht, für welches Produkt, welche Technologie oder welches Unternehmen sie arbeiten.

Die Automobil- und Tech-Unternehmen in Europa und den USA stellen die Datenannotatoren nicht selbst an, sie beauftragen Subunternehmer. Wieso?

Es passt nicht zum Image von KI, dass tausende Arbeiter auf den Philippinen, in Indien und Kenia zu furchtbaren Arbeitsbedingungen gearbeitet haben, um eine Maschine zu befüllen, die dann wie ein Mensch handeln kann. Das ist nicht das Produkt, das Sie verkaufen. Sie versuchen, die Idee zu verkaufen, dass sie eine autonome künstliche Intelligenz entwickelt haben, die in der Lage ist, wie ein Mensch zu handeln, zu denken und autonom zu agieren. Die KI-Unternehmen haben also Interesse daran, dass die Arbeit im Globalen Süden unsichtbar bleibt. Das geht am besten über Subunternehmer. Sie schließen dafür in der Regel Vertraulichkeitsvereinbarungen über die gesamte Lieferkette ab, so dass das System undurchsichtig bleibt – und die Arbeitsbedingungen nicht auf sie zurückfallen.

Wir haben festgestellt, dass ein paar Faktoren zusammenkommen müssen, damit ein Ort sich für ein KI-Datencenter eignet

Warum sind diese Datencenter eigentlich nur im globalen Süden?

Wir haben festgestellt, dass ein paar Faktoren zusammenkommen müssen, damit ein Ort sich für ein KI-Datencenter eignet. Man braucht sehr viele Arbeitskräfte, die außerdem bereit sind, für niedrige Löhne zu arbeiten. Fast immer ist an diesen Orten die Arbeitslosigkeit sehr hoch und die Gewerkschaften sind schwach bis nicht existent. Wichtig ist außerdem ein politisches Umfeld, in dem Politiker nicht versuchen, die Löhne und Arbeitsstandards anzuheben.

Wie viele solcher Orte gibt es?

Sehr viele, und das ist ein großes Problem, denn so können diese Orte von den Auftraggebern gegeneinander ausgespielt werden. Wenn sich in einem Datencenter eine Gewerkschaft gründet oder Lohnforderungen gestellt werden, wird der Auftrag einfach woandershin verschoben. Wenn Sie politischer Entscheidungsträger in einem dieser Länder sind, haben Sie fast nur die Wahl zwischen schlechten und keinen Arbeitsplätzen.

Trotzdem haben Datenarbeiter in Nairobi und Uganda eigene Gewerkschaften gegründet. Das ist ein hoffnungsvolles Moment in Ihrem Buch.

Ich finde es sehr inspirierend zu sehen, was sich in dieser Hinsicht tut. Aber es macht mir auch Sorgen, weil diese frisch gegründeten Gewerkschaften kaum Spielraum für Verhandlungen haben. Sie können sich für ein bisschen bessere Arbeitsbedingungen einsetzen. Aber in dem Moment, in dem sie den Unternehmen, die sie beauftragen, das Leben wirklich schwer machen, können die den Auftrag immer woandershin vergeben.

Könnten die Gewerkschaften hierzulande vielleicht die Gewerkschaften in Afrika unterstützen?

Das müssten sie sogar. Ein Montagearbeiter in Baden-Württemberg und ein Datenannotator in Kenia arbeiten zum Beispiel oft am gleichen Produkt, sie bauen beide an einem Auto mit, an verschiedenen Punkten der gleichen Lieferkette. Also müsste es auch transnationale Organisationen geben, die beide organisieren. Es wäre kurzsichtig, wenn eine Gewerkschaft in Deutschland denken würde, dass die Arbeiter in Afrika nicht auch ihr Problem sind. Sie sind Teil der gleichen Lieferkette.

Jemand, der ChatGPT befragt, denkt selten an die Menschen, die daran beteiligt waren, dass die KI eine Antwort auf die Frage geben kann

Das würde auch ein Umdenken bei den Gewerkschaften erfordern.

Es gibt sogar schon Gewerkschaften, die transnational arbeiten. Es gibt zum Beispiel Uni Global, ein internationaler Gewerkschaftsdachverband. Dort setzen sich Gewerkschaften aus verschiedenen Ländern für die Verbesserung der Arbeitsbedingungen auf der ganzen Welt ein. Aber dort sitzen oft nur Gewerkschaftsvertreter gemeinsam am Tisch. Wichtig wäre, dass sich die Beschäftigten gemeinsam organisieren und über gemeinsame Forderungen verständigen.

In ihrem Buch sprechen Sie von KI immer als Maschine. Wieso eigentlich?

Weil wir dann über Input und Output nachdenken. Aktuell ist der Diskurs über KI getrieben vom Output, also dem, was die KI produziert. Dabei wird der Input oft vergessen. KI lässt uns, im Gegensatz zu vielen anderen Produkten oder Dienstleistungen, oftmals die Lieferkette vergessen, die zum Output führt. Bei einem T-Shirt oder einer Tasse Kaffee haben wir oft wenigstens eine vage Vorstellung davon, woher beides kommt, welche Schritte in einer globalen Lieferkette notwendig sind, dass diese Dinge bei uns landen. Bei der KI ist das anders. Jemand, der ChatGPT befragt, denkt selten an die Menschen, die daran beteiligt waren, dass die KI eine Antwort auf die Frage geben kann.

Sie gehen sogar noch weiter und schreiben, dass KI eine „Extraktionsmaschine“ ist – was meinen Sie damit?

Es werden natürliche Ressourcen, Wissen und menschliche Arbeit extrahiert. Etwa drei Prozent des weltweiten Stroms werden heute für die Versorgung von Rechenzentren verwendet. Das ist so viel wie Deutschland insgesamt verbraucht. Dazu werden immense Mengen an Wasser benötigt, um die Rechenzentren zu kühlen. Es werden also natürliche Ressourcen extrahiert. Dann werden enorme Mengen an Wissen und intellektuellen Ressourcen umgewandelt. Sehen Sie sich die großen Sprachmodelle an! Damit die laufen, wurden Unmengen an kodifizierter Information verarbeitet, das heißt gescannte Bücher, wissenschaftliche Zeitschriftenartikel, auf Plattformen hochgeladene Fotos, komplette soziale Medien, das gesamte Internet wird als Rohstoff für die KI benutzt. Und schließlich gibt es noch die Extraktion der menschlichen Arbeit, die in die Kommentierung und Moderation dieser Systeme einfließt. Wenn wir also von einer Extraktionsmaschine sprechen, können wir auch die Frage stellen, wer von der Extraktion profitiert.

Wir müssen uns schrittweise in Richtung menschenwürdigerer Arbeitsbedingungen bewegen

Wer profitiert denn?

Es wird nur wenige Gewinner geben, die „Big KIs“. Wir werden noch stärkere Monopolbildungen beobachten als bei den Techunternehmen, die in den 2010er Jahren groß geworden sind. In den 2010ern konnten Startups mit wenig Investitionskosten einen Siegeszug antreten. Das verändert sich gerade. Mit KI steigen dieKapitalinvestitionen wieder, vor allem wegen der Datenzentren, die für die enormen Rechenleistungen benötigt werden. Das bedeutet also, dass es für kleinere Unternehmen sehr schwer ist, aufzusteigen und zu versuchen, diese Giganten herauszufordern.

Werden Amazon, Meta und Google auch die neuen KI-Monopole sein?

Sie haben zumindest die richtigen Voraussetzungen, sie investieren bereits in die nötige Infrastruktur und haben das Kapital zum Investieren. Es wird schwierig werden, mit ihnen in Konkurrenz zu treten. Es gibt aber auch noch ein paar andere Firmen, die gerade das Rennen gewinnen.

Wie könnte man sie herausfordern? Die EU möchte gerne eigene KI-Firmen ins Rennen schicken.

Wenn Europa einen eigenen, ernsthaften Herausforderer für diese großen Player haben möchte, wird das nicht organisch passieren. Dann muss ein Innovations-Ökosystem aufgebaut werden und es müssten enorme Investitionen getätigt werden.

Wie sollten Regierungen eigentlich auf KI reagieren?

Regulierungsinitiativen wie das deutsche Lieferkettengesetz müssten dringend ausgeweitet werden, auf die KI und auf weitere Länder. Ich weiß, dass es in Deutschland viel Kritik daran gab, weil das Lieferkettengesetz angeblich einen Wettbewerbsnachteil für deutsche Unternehmen darstelle. Wenn Deutschland aber andere Länder überzeugen würde, es auch einzuführen, gäbe es keinen Nachteil mehr für deutsche Unternehmen gegenüber chinesischen oder amerikanischen. So könnten die Arbeitsbedingungen auf der ganzen Welt verbessert werden. Aktuell erleben wir stattdessen einen globalen Wettlauf der Löhne und Arbeitsbedingungen nach unten, und der wird uns alle irgendwann treffen.

Was kann jeder Einzelne von uns tun? Sollten wir aufhören, ChatGPT zu nutzen?

Ich glaube nicht, dass Verbraucheraktivismus allein das Machtgleichgewicht verschieben kann, aber man sollte ihn auch nicht unterschätzen. Gemeinsam mit Kollegen habe ich das Fair-Work-Projekt ins Leben gerufen. Wir bewerten Unternehmen mit einer Punktzahl von eins bis zehn, je nachdem wie ihre Arbeitsbedingungen sind. Verbraucher können auf Grund dieser Bewertungen dann zwischen Unternehmen entscheiden.

Bringt das wirklich was?

Wir hatten bereits hunderte Fälle, in denen Unternehmen die Arbeitsbedingungen verbessert haben, um eine bessere Note zu erhalten. Als nächstes wollen wir dieses Zertifizierungssystem auf die komplette Lieferkette ausweiten. Es ist außerdem eine Möglichkeit, den KI-Bereich nicht nur Schwarz-Weiß zu betrachten, sondern zu versuchen, sich schrittweise in Richtung menschenwürdigerer Arbeitsbedingungen zu bewegen.