Alina Nikolaou: Wissenschaftlerin schlägt Führerschein zu Händen Künstliche Intelligenz vor

Aufsätze, Schulaufgaben, Buchhaltung: Künstliche Intelligenz (KI) wird in Zukunft immer mehr Aufgaben übernehmen und das kritische Denken beeinflussen. Macht das die Menschheit dümmer oder klüger? Alina Nikolaou, Direktorin und Kuratorin der bevorstehenden TED-Konferenz zu KI in Wien, verweist im Gespräch mit der F.A.Z. auf die Doppelseitigkeit der Medaille: „Eigenes kritisches Denken wird schnell einer Technik ausgesetzt, über die man eigentlich sehr wenig weiß. Aber gleichzeitig bringt die KI unglaublich viele Vorteile, nicht nur im Kontext generativer KI. In der Forschung zum Beispiel wird uns KI definitiv nicht dümmer machen, sondern viel intelligenter, viel reicher an neuem Wissen.“

Eine Untersuchung von MIT Media Lab kommt zu dem Schluss, dass der starke Einsatz von KI Menschen nicht unbedingt kreativer, sondern auch fauler macht. Nikolaou sieht hier die Anbieter in der Verantwortung. „Es gibt Möglichkeiten, KI-Tools, die kritisches Denken nicht einschränken, sondern sogar fördern. Damit lassen sich negative Folgen begrenzen.“

Schon jetzt ist das eine große Herausforderung für das Schul- und Bildungssystem. Denn es bestimmt, wie gut vorbereitet Bewerber auf den Arbeitsmarkt sind. Nikolaou hält daher ein eigenes Schulfach für nötig. „Es wird wichtig sein, kritisches Denken verstärkt zu vermitteln, so wie man zum Beispiel Ethik eingeführt hat, aber auch Empathie. Das ist wichtig. Denn je perfekter die Kommunikation der Menschen zu diesen Chatbots wird, desto netter, sympathischer sind diese Chatbots für uns.“ Umso mehr verliere man die Geduld mit der realen Person, die vielleicht nicht so perfekt antworte oder nicht so geduldig sei.

Das spiele auch im Umgang mit Mitarbeitern eine Rolle. „Denn wenn man diese Chatbots sehr oft benutzt, wird auch Empathie mit Menschen wichtiger, die vielleicht nicht so perfekt sind und ihre eigenen Makel und Irrtümer haben. Als nahezu manipulativ bezeichnet Nikolaou die Eigenschaft von Chatbots, sich in schmeichelhafter Form mit Nutzern zu unterhalten. Beispielsweise antwortet die KI auf eine Frage zu einem Problem mit: „Was für eine tolle Frage, super gestellt von dir, du bist so ein kritischer Denker.“ Das verzerre die Wahrnehmung von Nutzern und Urteilsfähigkeit.

Die Wissenschaftlerin sieht hier auch einen Unterschied zwischen Kulturen. China stehe diesen Techniken viel offener gegenüber als westliche Gesellschaften. Einerseits, um diese Möglichkeiten im Alltag einzusetzen. „Ich denke zum Beispiel, dass die Akzeptanz viel breiter ist, dass man vielleicht in fünf oder zehn Jahren in der Lage sein wird, von Robotern gepflegt zu werden.“

Durch KI gebe es auch die Möglichkeit, Menschen politisch zu beeinflussen. Dabei sei China mit seinem politischen Regime ein ziemlich gutes Beispiel, aber auch andere Nationen. „Ich halte das für sehr gefährlich, weil KI und vor allem generative KI quasi als unsichtbare, redaktionelle Hand dienen, die den Inhalt vorfiltert, aussortiert und ihn dann zusätzlich für den Empfänger personalisiert.“ Dabei werde diese unsichtbare KI entweder von unternehmerischen Interessen geleitet oder von politischen Akteuren, die diese Unternehmen sehr oft entwerfen und kontrollieren, sagt Nikolaou. Und verweist dabei insbesondere auf die USA.

Die TED-Kuratorin findet die Idee eines Führerscheins für KI sehr wichtig. Doch sei das schwierig umzusetzen, weil sich die Technik so schnell verändert. „Ein KI-Führerschein muss also auf jeden Fall eine Kompetenz über die Funktionsweise der Technik vermitteln. Zudem wären auch Kenntnisse über die Auswirkungen auf Mensch und Umwelt wichtig.“ Nikolaou vereist dabei auf den Wasser- und Energieverbrauch beim Einsatz von KI. Man müsse sich der Risiken bewusst sein. Möglicherweise gebe es alternative Technologien, eine klassische Suchmaschine oder andere Plattformen, auf denen sich viel ermöglichen lässt, jedoch mit weniger negativen Folgen.

Gibt es aus ihrer Sicht Modellländer? Nikolaou führt zwei deutliche Unterschiede im Umgang mit KI an. In China spiele demnach KI schon eine sehr große Rolle. Schon im Grundschulalter würden Kinder damit vertraut gemacht. Als Gegenpol nennt sie Litauen. Der baltische Staat ist einer der digitalen Vorreiter in Europa, wo KI langsam, schrittweise und viel vorsichtiger und sorgfältiger in den Schulen eingeführt wird.

Dabei setzt sie in der Entwicklung der KI weniger auf ein Konkurrenzdenken zwischen Nationen oder Wirtschaftsräumen. „Ich persönlich denke, dass die Metapher der KI als Wettkampf, die entweder von Europa oder China oder den USA oder beispielsweise von verschiedenen Akteuren im Nahen Osten gewonnen wird, eine sehr kurzsichtige Metapher ist“, sagt die Wissenschaftlerin. „Eine sehr alte Metapher, an die ich mich auch sehr stark aus dem Kalten Krieg erinnere.“

Für viel sinnvoller hält sie die Vorstellung eines Hauses, das gemeinsam gebaut werde. Dabei stehe im Vordergrund, wie dieses Haus in einem interdisziplinären Ansatz instand gehalten, verwaltet, bewohnt und unterhalten werden solle. Das Rennen hingegen ende bildhaft eigentlich damit, dass jemand gewinne oder verliere, meint Nikolaou.

Wer zukunftsfähig sei unter den Anbietern, ließe sich schwer beurteilen. Denn aus dem Nichts würden immer wieder spannende Akteure auftauchen, wie Deep Seek in China, und mit weniger Kapazität eine beträchtliche Rechenleistung ermöglichen. „Was sich im Bereich der großen Sprachmodelle stark ändern wird, ist die Skalierbarkeit“, sagt Niko­laou. Man müsse sich dafür nur die Daten von Raketenstarts anschauen. So sei es eben nicht möglich, jeden Tag 30.000 Raketen in die Luft zu schicken, um ein Maximum an Daten zu erreichen und darauf ein erfolgreiches Modell zu trainieren. „Das heißt, wie schaffen wir es, auf der Grundlage weniger wertvoller Datenpunkte aussagekräftige, spannende Modelle zu trainieren. Sie sind zwar nicht groß, werden aber eine andere Qualität haben. Ich denke, da werden wir im nächsten Jahr viele Fortschritte sehen.“

Um nicht von der KI verdrängt zu werden, stehen inzwischen etliche Branchen wie Unternehmensberater oder Anwälte unter Druck. „Es wird sicherlich die eine oder andere Frage geben, die man mit einem Chat-Modell schnell herausfinden kann.“ Aber wenn es wirklich um komplexes Wissen und sensible Daten gehe, würden Unternehmen weiter mit ihren gewohnten Beratern zusammenarbeiten.

Als eine wesentliche Kompetenz für die kommende Generation an Berufsanfängern im Wirtschaftsleben sieht Nikolaou das Kuratieren an. „Es geht um die Fähigkeit, wichtige von unwichtigen Inhalten und Informationen zu trennen. Also diese Fähigkeit, zu filtern und zu sehen“, erklärt sie und spricht dabei von einer Art „redaktionellen Verantwortung“. Dabei gehe es darum, die Aufnahme von Inhalten nicht der unsichtbaren Hand der KI zu überlassen. Notwendig sei also eine Kombination aus Faktencheck und redaktionellen Fähigkeiten.