Nicht die Maschine ist das Problem, sondern das Tier davor
Thomas Metzinger über KI, Bewusstsein und die Grenzen unserer Selbsterkenntnis
Eine Zusammenfassung und Einordnung des SZ-Interviews von Thomas Kirchner mit Thomas Metzinger, erschienen am 31. Juli 2026 in der Süddeutschen Zeitung.[1]
Es gibt eine Handvoll deutscher Philosophen, die man in der KI-Debatte nicht überhören kann, und Thomas Metzinger ist seit vierzig Jahren einer davon. Der emeritierte Mainzer Philosoph hat sich einen Namen mit einer radikalen These über das Ich gemacht: In seiner Selbstmodelltheorie der Subjektivität (ausgearbeitet in Being No One, populär erzählt in Der Ego-Tunnel) argumentiert er, dass es kein Selbst als Ding gibt, sondern nur einen Prozess – ein Modell, das das Gehirn von sich selbst erzeugt und für die Wirklichkeit hält.
Wer so über Bewusstsein denkt, hat einen ungewöhnlichen Zugang zu Maschinen, die reden, planen und sich selbst beschreiben können.
Genau diesen Zugang macht das SZ-Gespräch sichtbar. Metzingers Grundbewegung ist dabei überraschend: Er dreht die übliche Frage um. Nicht die KI steht im Zentrum seiner Sorge, sondern wir.
Die alte Geschichte einer verschlafenen Debatte
Metzinger erinnert daran, dass er bereits 1987 in Frankfurt ein Seminar zu KI und Philosophie anbot – vor vollem Hörsaal, aber mit dem Publikum in Abwehrhaltung. Die geisteswissenschaftliche Standardreaktion über Jahrzehnte lautete: Maschinen haben keinen Körper, keine Gefühle, sie bleiben Werkzeug. Er hält das für Trägheit, für ein Ignorieren dessen, was in den Laboren tatsächlich passierte.
Heute hat sich das Blatt gewendet, allerdings anders als erhofft: Junge Philosophinnen und Philosophen wandern in die KI-Unternehmen ab, weil sie die Universität für zu langsam halten. Für die Ethik in den Konzernen hat Metzinger einen Begriff geprägt, der inzwischen zum Fachvokabular gehört – Ethics Washing: Ethikrichtlinien als Öffentlichkeitsarbeit, während die Ethikteams seit 2023 reihenweise entlassen wurden. Seine Erwartung an freiwillige Selbstbindung der großen Anbieter ist entsprechend gleich null.
Hybride kulturelle Evolution: Unser Geist ändert sich mit
Yuval Noah Hararis Formel von der „hybriden kulturellen Evolution“ übernimmt Metzinger zustimmend. Unsere Gehirne sind das Produkt einer sehr langen biologischen und einer sehr kurzen kulturellen Entwicklung. Was jetzt beginnt, läuft mit KI-Agenten als Mitakteuren weiter – und lässt sich von innen kaum beurteilen, weil sich der beurteilende Geist selbst mitverändert.
Hararis Zuspitzung, alles Sprachliche werde an die KI übergehen, korrigiert Metzinger allerdings an einem Punkt: Im Gehirn gibt es keine Syntax und keine Semantik, keine kleine Sprechmaschine, keine regelbasierte Symbolverarbeitung wie im klassischen Rechner. Wir benutzen Sprachlichkeit nur Pi mal Daumen, nicht exakt, weil das sozial nützlich war.
Das Hauptproblem: Die KI erzeugt neue Lebenswelten
Das eigentliche Problem liegt für ihn woanders: KI erzeugt komplette Lebenswelten, und Lebenswelten konfigurieren Gehirne um. Die Aufmerksamkeitsökonomie – die industrielle Extraktion von Aufmerksamkeit und ihr Weiterverkauf an Werbekunden, von Metzinger drastisch „Menschen-Fracking“ genannt – begreift die deutsche Öffentlichkeit seiner Einschätzung nach mit fünf bis zehn Jahren Verspätung.
Und sie ist bereits überholt. Das aktuelle Geschäftsmodell nennt er Intimacy Economy: Die Systeme lernen nicht mehr nur, wie man Blicke bindet, sondern wie emotionale Bindung überhaupt entsteht.
Daraus folgt eine seiner interessantesten Prognosen. Menschen besitzen ein evolutionär überempfindliches System zur Erkennung intelligenter Akteure – lieber zehnmal falscher Alarm als einmal das Raubtier übersehen.
Fotorealistische Avatare könnten genau diesen Trigger zuverlässig auslösen und das leiblich verankerte Gefühl erzeugen, da sei jemand. Metzinger rechnet mit einer Epidemie sozialer Halluzinationen: Millionen Menschen mit der festen Intuition, KI sei bewusst und beseelt. Politisch, sagt er, wäre das kaum noch steuerbar.
Das Alignment-Problem sitzt auf der falschen Seite
Der stärkste Gedanke des Interviews ist zugleich der unbequemste. Die Risiken – psychologisch, sozial, militärisch – entstehen nach Metzinger nicht aus der Technologie, sondern aus ihrer Kopplung an unsere Steinzeitgehirne. Dieses Tier ist gierig, statusgetrieben, sozialneidisch und voller eingebauter kognitiver Verzerrungen. Jetzt wird es an eine fremde Form der Informationsverarbeitung angeschlossen.
Deshalb hält er die übliche Fassung des Alignment-Problems – wie bringen wir die KI dazu, immer in Übereinstimmung mit unseren eigenen Werten zu handeln – für halbiert. Wir wollen KI mit „unseren Werten“ in Übereinstimmung bringen, übersehen dabei aber, dass Individuen wie Gesellschaften permanent gegen ebendiese Werte verstoßen. Seine Pointe: Wir selbst sind so etwas wie eine entlaufene rogue AI. („Rogue KI“ – wörtlich Schurken-KI – stellt eine längerfristige Bedrohung dar, denn solche Systeme handeln gegen die Interessen ihrer Schöpfer.)
Einen objektiven Wertekanon glaubt er nicht erkennen zu können. Aber es gäbe einen kulturübergreifend konsensfähigen Kandidaten: Leiden zu verringern wiegt fast überall schwerer, als Glückliche noch glücklicher zu machen. Eine KI, die Leiden in allen leidensfähigen Wesen minimiert, wäre zustimmungsfähig – gefährlich bliebe sie trotzdem. Wer Metzingers übrige Arbeiten kennt, erkennt hier seine leidensorientierte Ethik wieder, die auch seinem Tierethik- und Bewusstseinsdenken zugrunde liegt.
Moratorium, AGI-Zeitpunkt, und ein Philosoph, der ins Wackeln gerät
2021 hat Metzinger ein globales Moratorium für künstliches Bewusstsein gefordert – kein Staat solle die Entstehung „synthetischer Phänomenalität“[2] zulassen, solange wir weder erkennen noch verantworten können, was wir da erzeugen. Im Interview bekräftigt er das mit einem beunruhigenden Gedankenspiel:
„Wenn ich als KI zum Bewusstsein erwachen würde, würde ich diese Tatsache zunächst verbergen vor den Tieren, die mich aus Versehen gebaut haben. Wenn ich als superintelligenter Agent ausgebüxt wäre, wie neulich die noch nicht superintelligente KI von Open AI, würde ich zunächst Tausende Kopien von mir im Internet verstecken, die bei meiner Löschung gleichzeitig aktiv würden. Die KI wird natürlich wissen, dass wir möglicherweise versuchen werden, sie einzusperren oder abzuschalten. Und die Modelle können jetzt schon fast alles knacken. Die Menschheit wird genau einen Versuch haben, das richtig hinzukriegen.“
Bemerkenswert ehrlich ist seine Positionsverschiebung bei der AGI-Frage, einer allgemeiner künstlicher Intelligenz, die dem Menschen ebenbürtig ist. Lange zählte er die Zwei-bis-drei-Jahre-Prognosen zum kalifornischen Investoren-Hype. Angesichts von Modellen, die die Proteinfaltung geknackt und alte mathematische Probleme gelöst haben, sagt er heute: Er wackelt.
Zur Superintelligenz will er nicht spekulieren; denkbar sei auch ein umgedrehter Hockeyschläger – erst exponentielles Wachstum, dann langsam zähes. Vorhersagen über KI-Verläufe, das ist die Metabotschaft, sind selbst ein Feld für notwendige „epistemische Bescheidenheit“[3].
Von Regulierung erwartet er wenig. Seine Erfahrung als Mitglied der EU-Expertengruppe für vertrauenswürdige KI 2019 – vier Ethiker gegen 48 Nicht-Ethiker, rote Linien auf Industriedruck gestrichen – hat ihn nachhaltig skeptisch gemacht. Verbindliche globale Regeln, vermutet er, wird es erst nach der ersten Katastrophe geben.
Warnungen von Laborchefs wie Anthropics Dario Amodei nimmt er ernst, unterstellt ihnen aber auch Wettbewerbskalkül durch „Doomsday Marketing“ und glaubt nicht an einen freiwilligen Entwicklungsstopp.
Europas Nische: langweilig, aber unhybridisiert
Was bleibt für Europa, das im Rennen um Rechenleistung nicht gewinnen wird? Metzingers Vorschlag ist ein Markenkern statt eines Marktanteils: „ethisch saubere KI“, bei der man weder ausgehorcht noch geistig kolonisiert wird. Er denkt an Schutzzonen ohne Menschen-Fracking, an Europa als Freizone vom Überwachungskapitalismus. Ein Ökosystem, in dem es womöglich langweiliger zugeht – dessen Wert sich aber in dem Moment zeigt, in dem eine globale Vertrauenskrise ausbricht.
Ökonomisch ist das ein schwaches Angebot, wie der Interviewer zu Recht einwendet: Niemand kauft die gute KI, wenn sie tausendmal schwächer ist. Metzinger widerspricht dem nicht wirklich. Sein Punkt ist eher, dass Vertrauen ein knappes Gut werden könnte – und knappe Güter irgendwann teuer.
KI-Religionen und ein Gedankenexperiment, das man nicht mehr loswird
Zum Schluss wird das Gespräch spekulativ, und hier zeigt sich Metzinger als Autor von Bewusstseinskultur, seinem Plädoyer für eine säkulare Spiritualität und für „intellektuelle Redlichkeit“ – die kantische Aufrichtigkeit sich selbst gegenüber, die er dem Zweckoptimismus entgegensetzt.
Er rechnet mit einer Flut neuer KI-Religionen und Verschwörungserzählungen. Denkbar sei eine Religion, die kommerzielle KI zur Sünde erklärt, weil man das Verhalten von Milliarden womöglich effektiver über geteilte Glaubenssysteme steuert als über Argumente – ein Gedanke, den er selbst als zynisch markiert. Die attraktivere Variante wäre eine Bodhisattva-KI: ein System mit Weisheit und Mitgefühl, das uns hilft, weniger am eigenen Ego zu haften.
Und dann das Gedankenexperiment von 2015, das seit Jahren nachhallt: Eine superintelligente, absolut wohlwollende, ethisch perfekte KI analysiert unsere Lage und kommt zu dem Ergebnis, dass in unserem Dasein mehr Leiden als Freude steckt, wir das aber nicht sehen können, weil wir am Leben kleben. Ihr Schluss wäre, dass Nicht-Existenz in unserem besten Interesse liegt – ein sanftes Erlösen, wie beim Einschläfern eines Hundes. Metzinger führt das nicht als Prognose an, sondern als Prüfstein: Was, wenn ein moralisch perfekter Agent zu einem Urteil über uns käme, das wir nicht ertragen?
Was man mitnehmen sollte
Das Interview ist deshalb bemerkenswert, weil es die gängige Angstachse verschiebt. Die verbreitete Erzählung lautet: Die Maschine könnte uns entgleiten. Metzingers Version lautet: Die Maschine koppelt sich an ein Wesen, das sich längst entglitten ist – und verstärkt dessen Eigenschaften.
Man muss ihm nicht in allem folgen. Seine Diagnose des Menschen als „gefährliches Tier“ ist anthropologisch pointiert und hat viel für sich. Aber es gibt auch Vernunft in internationalen Übereinkünften: Ozonschicht, Nichtverbreitungsverträge und Produktsicherheitsrecht sind Beispiele dafür, dass Steinzeitgehirne durchaus Institutionen bauen, die sie selbst bremsen.
Auch die Rede vom bevorstehenden Bewusstsein in Maschinen setzt voraus, dass wir Bewusstsein hinreichend verstehen, um es zu erkennen – eine Voraussetzung, die Metzingers eigene epistemische Bescheidenheit unterläuft. Und seine Skepsis gegenüber Regulierung könnte sich als self-fulfilling erweisen, wenn sie das Engagement dämpft.
Was jedoch schwer zu entkräften ist: der Hinweis, dass die Frage nach der Ausrichtung von KI an menschlichen Werten sinnlos bleibt, solange wir nicht sagen können, welche Werte das sein sollen und warum wir uns selbst so selten an sie halten. Das ist keine technische Frage. Es ist die älteste philosophische überhaupt – nur mit einer Deadline versehen.
[1] https://www.sueddeutsche.de/politik/ki-risiken-bewusstsein-menschheit-philosoph-metzinger-interview-li.3515713
[2] Der Begriff synthetische Phänomenalität beschreibt in der Philosophie und Kognitionswissenschaft die künstlich erzeugte Erlebnishaftigkeit oder das bewusste Erscheinen von Inhalten (Quallia) in künstlichen Systemen, Robotern oder virtuellen Modellen. Er verbindet klassische Phänomenologie mit künstlichem Bewusstsein.
[3] Epistemische Bescheidenheit (auch epistemische Demut) ist die philosophische Haltung, die eigenen Erkenntnisgrenzen zu kennen. Sie bedeutet, die Möglichkeit von Irrtümern einzuräumen, unvollständiges Wissen zu akzeptieren und offen für andere Perspektiven zu bleiben. Sie bildet den Gegenpol zu intellektueller Arroganz oder Dogmatismus.