Warum KI-Väter das Gewahrsein nicht vermissen
Ein Meinungsbeitrag von Dirk Ellerbrock.
Ein Wort, das alles entscheidet
Auf die Frage, woher das Bewusstsein komme, antwortet Jürgen Schmidhuber, der sich als „Vater der KI“ ansprechen lässt, sinngemäß: Das sei ganz trivial. Man verschalte genügend Neuronen genügend oft mit sich selbst, dann entstehe ein Gebilde, das „Ich“ sagt. Das ist keine vorsichtige Vermutung, sondern die Verkündung, ein altes Problem sei erledigt.
Bemerkenswert ist weniger, ob diese Auskunft stimmt, als wie selbstverständlich sie klingt. Wer ein Problem trivial nennt, hat es meist nicht gelöst, sondern aus dem Blick genommen. Die Frage dieses Textes lautet deshalb: Was muss man ausblenden, damit etwas trivial wird? Und wem nützt das Ausblenden?
Was das Modell tatsächlich beschreibt
Um das zu klären, braucht es eine Unterscheidung, die im Alltag verschwimmt, die zwischen Bewusstsein und Bewusstheit.
Bewusstsein im hier gemeinten Sinn ist immer Bewusstsein von etwas. Es richtet sich auf einen Gegenstand und trennt dabei: hier der Betrachter, dort das Betrachtete. Auf dieser Trennung beruhen Sprache, Analyse und Wissenschaft. Bewusstheit dagegen ist das offene Gewahrsein, in dem überhaupt etwas erscheinen kann, auch die Trennung in Betrachter und Betrachtetes. Man kann sie nicht wie einen Gegenstand vor sich hinstellen, denn sie ist der Boden, auf dem jeder Gegenstand steht.
Schmidhubers Modell beschreibt, genau besehen, nur die erste Seite. Es kennt Agenten, die Sinneseindrücke aufnehmen, daraus Prototypen bilden (etwa „das Gesicht“, damit nicht jedes Wiedererkennen bei null beginnen muss), die Welt vorhersagen und sich dabei selbst als Teil dieser Welt modellieren. Das ist eine präzise Beschreibung dessen, wie ein System Unterscheidungen trifft und verwertet. Wovon diese Unterscheidungen handeln und worin sie überhaupt erscheinen, wird nicht gestreift, nicht einmal als offene Frage.
Besonders deutlich wird das an der Reihenfolge. In Schmidhubers Darstellung sind die Träger des Lernens, das lernende Baby wie die lernende Maschine, einfach da. Sie „erwachen“, sobald genug Verschaltung vorliegt, und sagen „Ich“. Aber die Vorstellung eines Trägers, der etwas aufnimmt und verarbeitet, ist selbst schon ein Erzeugnis von Bewusstsein. Das „Ich“ erscheint im Gewahrsein, als eine Vorstellung unter anderen, mit Vergangenheit, Gegenwart und Zukunft ausgestattet. Es bringt das Gewahrsein nicht hervor, es zeigt sich darin. Schmidhubers Modell dreht diese Reihenfolge um und erklärt das Gewahrsein aus dem Ich-Modell, das doch nur in ihm erscheinen kann. A wird mit B erklärt, und B setzt A voraus.
Dagegen lässt sich einwenden, auch das „Ich“ des Menschen sei eine Konstruktion, also gebe es zwischen beiden Sichtweisen kaum einen Unterschied. Aber: Dass das „Ich“ eine Konstruktion ist, bedeutet nicht, dass nichts da wäre, worin sie erscheint. Wer das „Ich“ als Vorstellung durchschaut, bleibt als Gewahrsein zurück. Wer es wie Schmidhuber zum Ursprung erklärt, hat dort, wo das Gewahrsein wäre, nichts mehr.
Der Fisch und das Wasser
Man kann das Missverständnis, um das es geht, mit einem alten Bild fassen: Es verhält sich wie bei einem Fisch, der sich unentwegt umschaut (und herumzappelt), um das Wasser zu finden. Die KI-Forschung sucht das Bewusstsein in Neuronen, Schleifen und Selbstmodellen, also in den Dingen, die in ihm erscheinen. Dass sie es dort nicht findet, ist kein Mangel der Suche, sondern ihre Bedingung. Was als Gegenstand vor einem Betrachter steht, kann nicht das sein, worin Betrachter und Gegenstand erscheinen.
Die Verwechslung von Auswahl und Wirklichkeit
Man könnte einwenden, eine Methode dürfe sich beschränken. Wer nur untersucht, was sich modellieren lässt, betreibe eben Naturwissenschaft. Das ist richtig, und dagegen ist nichts zu sagen.
Dieser Einwand trifft aber nicht, was hier kritisiert wird. Kritisiert wird nicht die Beschränkung, sondern der Moment, in dem das Ergebnis der Beschränkung als Aussage über das Ganze auftritt. Das geschieht im Wort „trivial“. Was die Methode nicht erfasst, wird nicht als ihre Grenze behandelt, sondern als nicht vorhanden oder als bloßes Nebenprodukt von Rechenvorgängen. Aus einem Ausschluss wird ein Befund. Dasselbe geschieht, wenn Schmidhuber Gefühle und Bewusstsein eine „ganz natürliche Implementierung“ in neuronalen Netzen nennt: Das Hergestellte wird zur Natur erklärt, und die Frage, was dabei fehlt, ist verschwunden, bevor sie gestellt werden konnte.
Dahinter steckt ein Mechanismus, den man auch aus der Psychologie des Einzelnen kennt. Ein festgefügter Glaube begrenzt die Wahrnehmung auf diejenigen Erfahrungen, die ihn bestätigen. Wer überzeugt ist, die Welt bestehe aus Berechenbarem, findet im Berechenbaren seine Bestätigung und übersieht alles andere, ohne es je bemerkt zu haben. Ein ganzes Forschungsprogramm kann so arbeiten, ohne dass jemand lügt. Es sieht, was seine Methode sehen lässt, und hält das für den Befund über die Welt. Der Kreis schließt sich von selbst: Je erfolgreicher die Methode, desto selbstverständlicher ihre Weltsicht.
Hier liegt auch der Grund, warum die Gleichsetzung von Mensch und Maschine nicht dort beginnt, wo man sie gewöhnlich vermutet. Üblicherweise heißt es, Maschinen würden menschlich. Die Reihenfolge ist umgekehrt. Erst wird der Mensch auf das Rechenbare reduziert, dann steht er mit der Maschine auf derselben Skala, und als bloß Rechenbarer ist er ihr tatsächlich unterlegen. Der Wettlauf ist entschieden, bevor er beginnt, weil die Spielregeln das Menschliche bereits ausgeschlossen haben.
Wer wählt aus? Die Selektion folgt der Verwertung
Bis hierhin ließe sich der Befund noch als bloßer Denkfehler lesen. Er ist aber keiner, und das ist der Kern des Textes. Die Selektion ist nicht zufällig, sie hat eine Richtung.
Modellierbar ist, was sich messen, vorhersagen und steuern lässt, also was sich verwerten lässt. Genau das haben Horkheimer und Adorno mit dem Begriff der „instrumentellen Vernunft“ beschrieben. Gemeint ist eine Vernunft, die auf Mittel und Zwecke zusammenschrumpft und nur noch fragt, wie ein vorgegebenes Ziel am wirksamsten erreicht wird, nie aber, ob dieses Ziel selbst vernünftig ist oder wem es dient. Was sich in diesem Raster nicht erfassen lässt, gilt als unwirklich, als bloßes Gefühl oder als Rest.
Schmidhubers Beschreibung des Lernens führt das fast vorbildlich vor. Lernen bedeutet bei ihm, Eingaben in Handlungen umzusetzen, die „gut“ sind, das heißt Erfolg haben, nicht gegen Hindernisse laufen und sich wirtschaftlich auszahlen. Der Maßstab ist nicht das Ergebnis einer Untersuchung, er steckt schon in der Definition von Intelligenz. Das ist keine persönliche Eigenart, sondern spiegelt die Stellung, aus der heraus gearbeitet wird. Forschung, die in den Anwendungen großer Konzerne „durchschlägt“, bringt Begriffe hervor, die zu diesen Anwendungen passen.
Der Sozialphilosoph Alfred Sohn-Rethel hat dafür eine weitergehende Erklärung vorgeschlagen, die er Realabstraktion nannte. Im Warentausch muss von allem Konkreten abgesehen werden: Ein Pfund Butter und ein Paar Schuhe werden gleichgesetzt, indem man ihre Beschaffenheit ausblendet und nur ihren Wert zählt. Diese Abstraktion geschieht nicht im Kopf, sondern im gesellschaftlichen Handeln, und sie prägt, so seine These, die Denkformen selbst. Auf das Thema bezogen würde das erklären, warum gerade das Berechenbare als Wesen des Geistes erscheint: Eine Gesellschaft, die alles in Zahlen übersetzt, hält irgendwann das Zahlenförmige für das Wirkliche.
Man braucht dafür weder einen Bösewicht noch eine Absicht. Niemand muss das Gewahrsein loswerden wollen. Es genügt, dass in einem Zusammenhang, der Verwertbares belohnt, nur Verwertbares als forschungswürdig erscheint. Die Blindheit ist keine Dummheit und kein Charakterfehler, sondern die Blickverengung, die die Stellung im System verlangt.
Was dabei verschwindet
Was fällt aus dem Raster? Das, was weder Mittel noch Zweck ist: das Gewahrsein selbst, die einfache Erfahrung, dass etwas da ist und dass in diesem Dasein nichts fehlt und nichts zwischen Mensch und Welt steht. Sie wirft nichts ab, lässt sich nicht steigern und nicht kontrollieren, und deshalb hat sie in dieser Vernunftform keinen Platz.
Der Text muss hier ehrlich über seine Grenze sprechen. Diese Erfahrung lässt sich nicht beweisen. Sie ist keine Behauptung, die man gegen Schmidhuber ausspielen könnte, denn wer sie nicht teilt oder anders deutet, wird durch kein Argument überzeugt. Sie lässt sich nur benennen und als Fehlendes sichtbar machen. Thomas Nagel hat das in einem einfachen Bild getan: Selbst wenn wir von einer Fledermaus jede Nervenverbindung kennen würden, wüssten wir nicht, wie es ist, eine Fledermaus zu sein. Die Frage nach dem „Wie es ist“ verschwindet nicht, wenn man mehr Rechenschleifen hinzufügt.
Aus dem Blickwinkel der Selektion ist deshalb nicht interessant, dass die KI-Forschung das Gewahrsein nicht erklären kann, sondern dass es ihr nicht fehlt. Wer nur gelten lässt, was sich modellieren lässt, für den ist die Unterscheidung von Bewusstsein und Bewusstheit nicht verborgen, sondern gegenstandslos. Sie ist kein Problem, das gelöst werden müsste, sie fällt gar nicht erst auf.
Rangordnung als Denkform: Vom IQ zum Benchmark
Die Selektion hat auch eine soziale Seite. Wo alles messbar sein soll, wird alles zu Rang. Das zeigt sich im ungebrochenen Bezug auf den „IQ“, den Schmidhuber wie selbstverständlich verwendet. Der Begriff geht auf den Psychologen William Stern zurück, der damit nichts Eugenisches im Sinn hatte. Aber er entstammt jener Kultur der Messbarkeit, in der die Eugenik, also die Lehre von der gezielten „Verbesserung“ des Menschen durch Auslese, zuhause war, und er wird heute in Vergleichen von Menschen und Systemen („KI wird bald viel intelligenter als der Mensch sein“) weitergetragen, ohne dass die Herkunft der Messlogik je zum Thema würde.
Gesamtgesellschaftlich ergibt das eine Denkform, in der der Wert einer Sache ihr Rang ist. Darin sind Mensch und Maschine nur noch Plätze in einer Tabelle, und über Plätze lässt sich nicht fragen, was sie sind, sondern nur, wer vorn liegt.
Der Mensch als Posten: Verdinglichung bis zum Rand
Hinter der Rangordnung steht ein Vorgang, den Karl Marx Entfremdung genannt hat und Georg Lukács Verdinglichung. Gemeint ist, dass gesellschaftliche Beziehungen die Gestalt von Dingen annehmen. Der Wert einer Ware erscheint dann als ihre natürliche Eigenschaft, obwohl er aus menschlicher Arbeit und gesellschaftlichem Tausch stammt. Der Mensch begegnet seinen eigenen Verhältnissen als fremder Macht, als „dem Markt“, der etwas will, als „der Wirtschaft“, die etwas verlangt. Am Ende werden auch Menschen zu Dingen: „Humankapital“, „Ressource“, „Fachkraft“.
Das KI-Denken ist nicht die Ursache dieses Vorgangs, sondern sein bisher folgerichtigster Ausdruck. Es vollendet, was die Verdinglichung angelegt hat: Bewusstsein, Urteil, Zuwendung, Sprache werden als Leistungen betrachtet, die sich messen, übertragen und ersetzen lassen. Wer das glaubt, hat die Entfremdung nicht nur erlitten, er hat sie als Weltbild übernommen. Der Mensch erscheint sich selbst als schlecht optimiertes System und sucht Erlösung in der Maschine, die ihn zu überbieten verspricht. Entfremdung bedeutet hier nicht mehr, dass dem Menschen sein Produkt fremd wird, sondern dass ihm sein Wesen fremd wird. Er hält sich für das, was sich von ihm berechnen lässt.
Das ist der Punkt, an dem das System seine Grenze berührt. Verwerten lässt sich nur, was sich von dem trennen lässt, der es lebt. Aufmerksamkeit, Vertrauen, Sprache, Sorge füreinander und Sinn werden aber nicht hergestellt wie Waren, sie entstehen im Zusammenleben. Je vollständiger die Verwertung zugreift, desto stärker zehrt sie von einem Boden, den sie nicht erneuern kann. Das ist keine Weissagung, sondern eine Beschreibung der Abhängigkeit: Die großen Sprachmodelle sind aus dem hervorgegangen, was Menschen geschrieben, gesagt und gestritten haben, und sie verschlechtern sich messbar, wenn sie überwiegend aus ihren eigenen Erzeugnissen lernen. Das System braucht das Lebendige, das es zu ersetzen vorgibt.
Ob daraus eine Kehrtwende wird, hängt nicht vom System ab. Die Verdinglichung bricht nicht von allein, sie bricht dort, wo Menschen die Behauptung, sie seien berechenbare Posten, nicht mehr bestätigen. Das geschieht im Kleinen, wo jemand merkt, dass etwas fehlt, das keine Kennzahl erfasst, und es nicht mehr ausblendet. Die Struktur kann diese Wende ermöglichen, vollziehen muss sie der Einzelne und die Gemeinschaft, in der er steht.
Herstellen, was nicht hergestellt werden kann
Zur Selektion gehört schließlich eine Grundhaltung: dass alles, was ist, auch gemacht werden kann. Das Gewahrsein aber ist nicht etwas, das man implementiert. Es muss nicht zusätzlich hergestellt werden, es ist schon da, bevor jemand etwas tut. Der Versuch, es zu bauen, gleicht dem Versuch, Sein durch Tun zu erzeugen. Er verfehlt es nicht aus technischem Ungeschick, sondern grundsätzlich, weil er sich in dem, was er sucht, bereits befindet.
Das erklärt auch die Stimmung der Verheißung, die das KI-Denken begleitet: die Aussicht, Bewusstsein zu übertragen, zu steigern, unsterblich zu machen. Wer das Gewahrsein für ein Erzeugnis der Verschaltung hält, muss auch glauben, es lasse sich auf beliebige Träger kopieren. Die Machbarkeitsidee wird dann zur Heilslehre.
Die Allmachtserzählung als Teil der Kontrolle
Es bleibt eine Spannung, die gern übersehen wird. Wer die KI als allmächtige, totalitäre Maschine zeichnet, folgt ungewollt derselben Erzählung wie ihre Betreiber. Der Ingenieur und Mathematiker Alexander Paprotny und der Autor Tariq Hübsch haben darauf hingewiesen, dass die Systeme in vielem grob und störanfällig sind. Im Kern würfeln sie nur das jeweils nächste Wort aus, sie schmeicheln ihren Nutzern und bestärken sie, und ihre Wirkung beruht nicht zuletzt darauf, dass man ihnen Macht zuschreibt. Wer glaubt, die KI kenne jeden seiner Schritte, überwacht sich selbst in ihrem Sinne. Das funktioniert wie der Gott, der angeblich sieht, ob man sündigt: Es braucht keine tatsächliche Allwissenheit, sondern nur die Überzeugung davon.
So schließt sich der Kreis. Die Selektivität, die das Gewahrsein ausblendet, und die Erzählung, die die Technik allmächtig erscheinen lässt, gehören zusammen. Beide erklären einen Ausschnitt zum Ganzen. Die Gefahr liegt dann weniger in einer Technik, die den Menschen ersetzt, als in einer Ideologie, die ihn als ersetzbar vorführt, weil sich dadurch Kontrolle, Investitionen und Gehorsam organisieren lassen.
Eine Grenze, keine Anklage
Zum Schluss ist dem Impuls zu widerstehen, die „KI-Väter“ zu verurteilen. Sie wissen es nicht besser, nicht weil sie es nicht könnten, sondern weil ihre Stellung im Verwertungsprozess nur sehen lässt, was sich verwerten lässt. Eine Kritik, die ihnen Verblendung vorwirft, setzt sich selbst auf den Richterstuhl und wiederholt, was sie kritisiert: die Aufteilung in die, die sehen, und die, die nicht sehen.
Sinnvoller ist eine nüchterne Frage: Wem nützt der Ausschnitt, der zum Ganzen erklärt wird? Und was bleibt, wenn man den Apparat nicht für das Ganze nimmt? Die Antwort darauf lässt sich aus keinem Modell ableiten. Sie liegt dort, wo das Modell aufhört, in der schlichten Tatsache, dass überhaupt etwas erscheint. Das ist weder trivial noch rechenbar, und es ist nicht verloren, solange man es nicht für nichts hält.
+++
Bildquelle: Funtap / shutterstock
+++
Quellen
Anlass
- Sandmann, Daniel: Vater der KI – Väter des Nichts (November 2026): https://apolut.net/vater-der-ki-vater-des-nichts-von-daniel-sandmann/
Theorie
- Horkheimer, Max / Adorno, Theodor W.: Dialektik der Aufklärung. Philosophische Fragmente. Frankfurt a. M. 2002.
- Nagel, Thomas: What Is It Like to Be a Bat? In: The Philosophical Review 83 (1974), S. 435–450.
- Sohn-Rethel, Alfred: Geistige und körperliche Arbeit. Zur Theorie der gesellschaftlichen Synthesis. Frankfurt a. M. 1970.
- Lukács, Georg: Geschichte und Klassenbewußtsein (1923), darin „Die Verdinglichung und das Bewußtsein des Proletariats“.
- Marx, Karl: Ökonomisch-philosophische Manuskripte, MEW Bd. 40 (Entfremdung); Das Kapital Bd. I, MEW 23 (Fetischcharakter der Ware).
- Stern, William: Die psychologischen Methoden der Intelligenzprüfung. Leipzig 1912.
- Wolinsky, Stephen: Das Tao des Chaos. Freiburg i. Br. 1996, S. 43 (zur Begrenzung der Wahrnehmung auf bestätigende Erfahrungen – Confirmation Bias).
Empirisch
- Shumailov, Ilia et al.: AI models collapse when trained on recursively generated data. In: Nature 631 (2024), S. 755–759, DOI 10.1038/s41586-024-07566-y. Die Studie zeigt, dass unterschiedsloses Training mit modellerzeugten Inhalten dauerhafte Schäden verursacht und dass Daten aus echter menschlicher Interaktion wertvoller werden. Sie hält aber ausdrücklich fest, dass Training mit KI-erzeugten Daten nicht unmöglich ist, ihre Filterung aber ernst genommen werden muss.
+++
Ihnen gefällt unser Programm? Machen wir uns gemeinsam im Rahmen einer "digitalen finanziellen Selbstverteidigung" unabhängig vom Bankensystem und unterstützen Sie uns bitte mit der:
Spenden-Kryptowährung „Nackte Mark“: https://apolut.net/unterstuetzen/#nacktemark
oder mit
Bitcoin: https://apolut.net/unterstuetzen#bitcoin
Informationen zu weiteren Unterstützungsmöglichkeiten finden Sie hier: https://apolut.net/unterstuetzen/
+++
Bitte empfehlen Sie uns weiter und teilen Sie gerne unsere Inhalte in den Sozialen Medien. Sie haben hiermit unser Einverständnis, unsere Beiträge in Ihren eigenen Kanälen auf Social-Media- und Video-Plattformen zu teilen bzw. hochzuladen und zu veröffentlichen.
+++
Abonnieren Sie jetzt den apolut-Newsletter: https://apolut.net/newsletter/
+++
Unterstützung für apolut kann auch als Kleidung getragen werden! Hier der Link zu unserem Fan-Shop: https://harlekinshop.com/pages/apolut