Der hartnäckigste Fehler in der KI-Debatte ist die Annahme, künstliche Intelligenz sei nur ein Werkzeug. KI ist ein Werkzeug, aber warum dieses diminutive „nur“? Denn es soll suggerieren, dass das, was KI bewirkt, wie sie die Welt umstellt, lediglich davon abhängt, wie wir sie nutzen. Diese Annahme könnte falscher nicht sein. Denn ein Werkzeug ist nie neutral, es hat stets einen Angebotscharakter und formt so den Weltbezug seines Nutzers. In den Kulturwissenschaften nennt man das Affordanz.
Vielleicht ein Beispiel. Wer einen Hammer in Händen hält, kann sich zwar entscheiden, ob er damit Michelangelos David aus dem Marmor klöppelt oder jemandem den Schädel einschlägt, aber das ist in Wahrheit ein sehr kurzer Satz an Möglichkeiten. Egal ob Kunst oder Gewalt, der Hammerhalter wird immer hämmern. Nicht umsonst heißt es: Wer einen Hammer hat, sieht in jedem Problem einen Nagel. Und auf die Frage, was man sieht, wenn man eine mächtige künstliche Intelligenz verwendet, gibt Kate Crawfords Atlas der KI folgende, beunruhigende Antwort: Benutzt man mächtige Rechenmaschinen – was KI im Kern ist – wird alles zum Rechenproblem, teils mit desaströsen Folgen.
Wer das leugnet und so unverbindlich auf die neutrale Werkzeughaftigkeit von Technologie verweist, möchte in Wahrheit etwas vermeiden: Entweder die KI-Debatte insgesamt (im Falle von Journalisten und Politikerinnen, die bei dem Thema aus ihrer Komfortzone schliddern) oder die Verantwortung (im Falle von Silicon-Valley-Ingenieuren, die zwar die Profite, aber nicht die Negativfolgen aus ihren Erfindungen für sich beanspruchen wollen).
KI wird so auf etwas reduziert, das völlig abhängig von seiner Nutzung ist, eine Technologie, die alles kann, aber nichts muss. Gott sei Dank gibt es Bücher, die so elegant durch diesen diskursiven Neutralitätsschleier schneiden, dass man sie gerne zur Pflichtlektüre erheben möchte. Crawfords Atlas der KI, das nun drei Jahre nach Erstveröffentlichung ins Deutsche übersetzt wurde, ist ein solches Buch.
Die materielle Basis der KI
Künstliche Intelligenz ist laut Crawford eben nicht nur ein Werkzeug, sondern „eine Idee, eine Infrastruktur, eine Industrie, eine Form der Machtausübung und eine Art zu sehen. Gleichzeitig ist sie aber auch die Manifestation eines hochgradig organisierten Kapitals, das von riesigen Extraktions- und Logistiksystemen gestützt wird, mit Lieferketten, die die ganze Erde umspannen.“
Doch das Buch beginnt erst mal ganz bodenständig – wortwörtlich, denn das erste Kapitel setzt ein mit den Lithiumseen, Zinnvorkommen, Kobaltminen, die die Grundlage der Technologie bilden. Die Industrie versteckt diese Basis, ihre ökologischen und menschlichen Kosten, geschickt hinter einer Rhetorik der Immaterialität, hinter der federleichten „Cloud“ und diffusen „neuronalen Netzen“. Doch in Wahrheit, schreibt Crawford, sprechen sie über Platinen und Chips, weltumspannende Unterseekabel, riesige Rechenzentren mitsamt ihrer Kühlungsanlagen, über genug Strom, um ganze Nationen zu versorgen und die menschlichen Hände, die die Systeme trainieren und die notwendigen Erden und Erze gewaltsam dem Boden entreißen. Ruinierte Körper und Landstriche sind oft die Folge.
Sind die Systeme dann erbaut, müssen sie sich durch Profit rechtfertigen, so will es der Kapitalismus. Das bedeutet zweierlei: Einerseits braucht es so viele Daten wie möglich, um die Leistung der Systeme zu steigern, andererseits gibt es eine Motivation, Probleme zu (er)finden, die sich mit den beeindruckenden Rechenkapazitäten und Fähigkeiten zur Mustererkennung durch KI effektiv (sprich: lukrativ) lösen lassen.
Der hartnäckigste Fehler in der KI-Debatte ist die Annahme, künstliche Intelligenz sei nur ein Werkzeug. KI ist ein Werkzeug, aber warum dieses diminutive „nur“? Denn es soll suggerieren, dass das, was KI bewirkt, wie sie die Welt umstellt, lediglich davon abhängt, wie wir sie nutzen. Diese Annahme könnte falscher nicht sein. Denn ein Werkzeug ist nie neutral, es hat stets einen Angebotscharakter und formt so den Weltbezug seines Nutzers. In den Kulturwissenschaften nennt man das Affordanz.
Vielleicht ein Beispiel. Wer einen Hammer in Händen hält, kann sich zwar entscheiden, ob er damit Michelangelos David aus dem Marmor klöppelt oder jemandem den Schädel einschlägt, aber das ist in Wahrheit ein sehr kurzer Satz an Möglichkeiten. Egal ob Kunst oder Gewalt, der Hammerhalter wird immer hämmern. Nicht umsonst heißt es: Wer einen Hammer hat, sieht in jedem Problem einen Nagel. Und auf die Frage, was man sieht, wenn man eine mächtige künstliche Intelligenz verwendet, gibt Kate Crawfords Atlas der KI folgende, beunruhigende Antwort: Benutzt man mächtige Rechenmaschinen – was KI im Kern ist – wird alles zum Rechenproblem, teils mit desaströsen Folgen.