Wird die Menschheit die Maschine überleben, oder steht ihr Ende kurz bevor? Die rasante Entwicklung auf dem Gebiet der Künstlichen Intelligenz (KI) scheint alle Befürchtungen zu bestätigen, die seit Jahrzehnten in Science-Fiction-Dystopien durchexerziert werden. Eine neue Weltuntergangssekte ist entstanden, und ganz vorne dabei sind jene Herrschaften, die für den KI-Hype verantwortlich sind, was die Aufmerksamkeitsmaschinerie zusätzlich anheizt.
Aber vielleicht ist alles doch nicht so schlimm? Vielleicht sind ChatGPT & Co. sogar manchmal ein bisschen doof? Dieser Eindruck drängt sich auf, wenn man den Ausführungen aus Katharina Zweigs neuem Buch Glauben schenkt. „Weiß die KI, dass sie nichts weiß?“, fragt die Informatikerin im Titel und kommt auf rund 250 Seiten zu dem Schluss: Von Wissen oder Intelligenz im menschlichen Sinne kann man bei KI nicht sprechen. Das wird sich mit der derzeitigen Technologie auch nicht ändern, auch wenn die Modelle immer größer werden und immer mehr Geld für Rechenleistung investiert wird. Es fehlt schlicht der Zugang zur physischen Welt.
Der Turing-Test wäre damit hinfällig
Warum lassen wir uns trotzdem davon beeindrucken, wenn ChatGPT uns in Rekordzeit Bewerbungsschreiben oder Hochzeitsreden formuliert? Zweig hält den Menschen für kein geeignetes „Messinstrument“, um die Intelligenz einer Maschine zu beurteilen: „Evolutionär gesehen gab es vermutlich nicht sehr viele Situationen, in denen es für uns Menschen vorteilhaft gewesen wäre, zwischen verschiedenen Intelligenzstufen fein unterscheiden zu können.“ Nach der Theory of Mind, die Zweig sich aus der Psychologie ausleiht, ist der Mensch im Gespräch stattdessen permanent damit beschäftigt, sich in den anderen hineinzuversetzen und „Sinn in dem zu finden, was der andere sagt“.
Die Idee des Turing-Tests, den der namensgebende Mathematiker Alan Turing 1950 noch „Imitation Game“ nannte, wäre damit hinfällig: Dass ein Mensch nicht unterscheiden kann, ob er gerade mit einem anderen Menschen oder einer Maschine chattet, sagt nichts über die Intelligenz der Maschine aus – zumal wir uns, historisch betrachtet, von wesentlich einfacheren Maschinen als ChatGPT aus der Fassung bringen lassen. Als Beispiel nennt Zweig den ersten Chatbot der Welt aus den Sechzigerjahren, Joseph Weizenbaums Eliza, bekannt geworden für das Skript „Doctor“ und die Simulation einer Gesprächstherapie. Die regelbasierte Dialogsoftware, so beschrieb es der Informatiker Weizenbaum, soll die Probanden mit rein mechanischen Reaktionen auf ihre Fragen beeindruckt haben, und das nach dem einfachen Muster: „Ich bin BLAH.“ – „Wie lange bist Du schon BLAH?“
Und was sagen diese historischen Ausführungen nun aus über die heutigen KI-Systeme, denen von der Urlaubsplanung über die Revolutionierung der Arbeitswelt bis zur Unterjochung der Menschheit so ziemlich alles zugetraut wird, je nachdem, wen man fragt? Immerhin haben wir es hier nicht mehr mit regelbasierten Chatbots wie Eliza zu tun, die für beschränkte Anwendungsfälle nach Schema F reagieren, sondern mit gigantischen Assoziationsmaschinen, die für nahezu alle Anwendungsbereiche geeignet scheinen. Zweig bleibt aber unbeeindruckt, frei nach dem Motto: Wollen wir ChatGPT wirklich unsere Kreditkarten anvertrauen, wenn es nicht mal einfachste Fragen beantworten kann?
Wer ist die Mutter von Tom Cruise?
Da wäre etwa der „Reversal Curse“ (deutsch: „Fluch der Umkehrung“), also die Unfähigkeit der Sprachmodelle zu logischen Umkehrschlüssen, wie wir Menschen sie beherrschen. Wer ist die Mutter von Tom Cruise? Mary Lee Pfeiffer. Wer ist der Sohn von Mary Lee Pfeiffer? Keinen blassen Schimmer. Angesichts der rasanten Entwicklung auf dem Gebiet der KI können Details freilich auch veralten. Die von Zweig im Buch zitierten Studien stützen sich auf ältere Versionen von ChatGPT, die mit der Veröffentlichung ihres Buchs teilweise überholt sind. Ein Selbsttest zeigt: ChatGPT weiß sehr wohl, wer der Sohn von Mary Lee Pfeiffer ist, nämlich „Thomas Cruise Mapother IV“, bekannt als Tom Cruise.
Das ändert aber nichts am Grundproblem, wie Zweig auf Anfrage mitteilt. Im Systemprompt, also der grundsätzlichen Verhaltensanweisung unabhängig von der Anfrage, ließen sich zwar einzelne Fehler reparieren, aber das sei nur „Stückwerk und muss für jeden neuen Fehler neu repariert werden“. Das Grundproblem ist die Abhängigkeit der Maschine von der Musterfindung – die „Mutter von Tom Cruise“ ist viel öfter im Internet zu finden als der „Sohn von Mary Lee Pfeiffer“.
Der Untertitel von Zweigs Buch lautet: „Wofür wir Chatbots und KI-Agenten nutzen sollten, wo sie sich irren und wo wir aufpassen müssen“. Wie sich Chatbots produktiv nutzen lassen, darüber erfährt der Leser fast nichts, über ihre Limitationen dafür umso mehr. Das Buch eignet sich damit kaum für KI-Optimisten, die schon tief in der Fachdiskussion stecken, sondern mehr für jene, denen der ganze Boom von Anfang an ein bisschen Sorge machte. Zweigs interdisziplinärer Zugang ermöglicht dabei den Ansatz einer Vogelperspektive, die in der täglichen Diskussion oft fehlt.
Katharina Zweig: Weiß die KI, dass sie nichts weiß? Wofür wir Chatbots und KI-Agenten nutzen sollten, wo sie sich irren und wo wir aufpassen müssen – ChatGPT und Co. einfach erklärt. Heyne Verlag, München 2025, 272 Seiten, 20 Euro.