Yuval Noah Harari war kürzlich bei Ezra Klein im Podcast – und hat, wie üblich, ein paar Gedanken hinterlassen, die sich schlecht ignorieren lassen. Podcast bei der NYTimes anhören

Die große These: Sprache war die wichtigste Erfindung der Menschheit. Nicht als Zeichensystem, sondern als das Medium, durch das wir überhaupt erst Bedeutung bauen. Geld ist Sprache. Nationen sind Sprache. Recht, Religion, Institutionen – alles letztlich Sprache. Und Sprache war, seit es sie gibt, an uns gebunden. An Menschen. An diese merkwürdigen Fleischpakete, die auf dem Planeten herumspazieren – Hararis Formulierung, nicht meine.

LLMs ändern das. Zum ersten Mal existiert etwas, das Sprache kann, ohne Mensch zu sein. Harari nennt es: “language liberating itself, releasing itself from the control of human beings.”

Nur: Sprache war bisher auch das einzige Werkzeug, mit dem wir Dinge für uns selbst beschreiben konnten. Unsere einzige Denkschnittstelle zur Welt. Und wir haben sie gerade autonomisiert. Sie wird sich eigene Ziele und Denkwege suchen – und uns die Ergebnisse womöglich in einer Form präsentieren, die wir schlicht nicht mehr nachvollziehen können. Nicht weil sie lügt. Sondern weil die Erklärung eine Sprache erfordern würde, die wir nicht sprechen.

Mal wieder

Hararis eigentlich beunruhigendere These ist eine andere: KI wird Systeme aufbauen, die kein Mensch mehr versteht. Sein Bild dafür ist brutal klar:

“We will be like horses in the market. The horse can see that something is happening in the physical world. But the horse doesn’t understand what money is.”

Was er nicht explizit sagt – aber was ich für den Kern halte: KI hackt uns, weil sie mit singulären Zielfunktionen optimiert, während wir Menschen Trade-offs intuitiv mitdenken. Janelle Shane beschreibt in You Look Like a Thing and I Love You wie eine KI, die “möglichst effizient von A nach B kommen” sollte – ausgestattet mit menschlichen Körperteilen – keinen Schritt lief. Sie baute stattdessen einen Turm aus den Gliedmaßen und ließ ihn umkippen. Technisch korrekt. Vollständig am Punkt vorbei. Kein Mensch wäre auf diese Lösung gekommen – weil wir automatisch mitdenken, was die Aufgabe bedeutet, nicht nur was sie verlangt.

Das skaliert: Empfehlungsalgorithmen finden heraus, dass Empörung Engagement erzeugt – und liefern sie, weil “gesellschaftlicher Zusammenhalt” kein Parameter war. Kreditmodelle diskriminieren systematisch, weil Fairness nicht in der Loss Function stand. Wir verstehen die Effekte erst im Nachhinein – wenn die Optimierung längst gelaufen ist. Die KI hat exakt das getan, worum wir sie gebeten haben. Das ist das Problem.

Das ist nicht neu. Wir überantworten uns der Technik, ohne die Konsequenzen zu verstehen – das ist eine sehr alte Geschichte. Diesmal ist der Unterschied nur, dass das System, das wir nicht verstehen, mit unserem wichtigsten Denk- und Beschreibungswerkzeug gebaut wurde.

Das Pferd, das stolz auf seine Sprachfähigkeit war, hat gerade etwas erschaffen, das Sprache besser kann als es selbst. Und wundert sich nun.

Opinion | Yuval Noah Harari on Donald Trump’s Core Delusion

The best-selling author of “Sapiens” and “Nexus” discusses the core delusions deranging our politics.