Kommt die Künstliche Superintelligenz?

Versuch einer Klärung

 

Rainer Fischbach

 

21. Mai 2026 • www.rainer-fischbach.info • rainer_fischbach@gmx.net

 

Warnungen vor einer ‚Superintelligenz‘ aus dem Computer, die in der Lage sei, die Menschheit überflüssig zu machen, oder gar dazu neige, sie auszulöschen, sind an der Tagesordnung. Die Frage, was von ihnen zu halten sei, stellt sich umso nachdrücklicher, als sie inzwischen auch auf Plattformen erscheinen, die zur kritischen Gegenöffentlichkeit gerechnet werden. Die nachfolgend begründete Antwort lautet: eine Superintelligenz wird es nicht geben, wenn sich auch mit der Künstlichen Intelligenz (KI) Gefahren verbinden, von denen die sensationsheischenden Warnungen eher abzulenken geeignet sind. Der Verdacht liegt nahe, dass genau dies auf der Agenda der Warner steht, denn merkwürdigerweise sitzen sie in derselben Blase wie die, die entschlossen sind, die Superintelligenz zu schaffen, ja sind oft sogar mit solchen identisch. Die von Michael Holmes für die Nachdenkseiten interviewte Holly Elmore,1 Mitgründerin der Initiative Pause AI, zählt ebenso zu den Anhängern der Modephilosophie Effective Altruism (EA) wie Dario Amodei, einer der Gründer und Chef des KI-Unternehmens Anthropic, der zu denen gehört, die die Superintelligenz nicht nur für möglich und gefährlich halten, sondern auch erreichen wollen. Der Spiegel macht mit bei diesem Spiel, indem er Amanda Askell interviewt, die bei Anthropic für das Alignment zuständig ist, also den Versuch, die Large Language Models (LLMs), die heute im Zentrum der Aufmerksamkeit stehen, an ethischen Prinzipien auszurichten.2 Auch sie gehört zur EA-Sekte.
        Karen Hao bezeichnet Effective Altruism als „perfect Silicon Valley ideology“,3 geeignet, hohe Moralität durch Engagement für hochgestochene, doch möglichst fernliegende, Ziele zu signalisieren, während man die naheliegenden Probleme, insbesondere solche, deren Bearbeitung das eigene Geschäft in Frage stellen könnte, ignoriert. Emerging threats sind die beliebtesten. Neben der Warnung vor der übermenschlichen KI gehört auch die vor der nächsten Pandemie, durch Emerging Infectious Diseases zum Repertoire. Die Funktion der Warner besteht darin, die Validität dessen zu testieren, vor dem sie warnen: der Möglichkeit einer Pandemie oder der Superintelligenz, während die von ihnen angepriesenen Heilmittel höchstens Simulacra sind und in Wirklichkeit ganz anderen Zielen dienen, vor allem jedoch ihnen selbst. Das massive finanzielle und materielle Ressourcen, menschliche Talente ebenso wie zunehmend Sinn und Verstand des Publikums verschlingende Monster, zu dem die KI sich entwickelt hat, bleibt davon unangefochten. Dessen Verständnis tut Not.

 

Begriff und Genealogie

Zu der oft gehörten Formel ‚die KI …‘ ist anzumerken, dass es ‚die KI‘ nicht gibt. Damit ist heute meist die unter ihren Varianten dominierende gemeint. Ihr Charakteristikum besteht darin, dass sie nicht auf der Modellierung des einer Berechnung zuzuführenden Zusammenhangs, sondern auf statistischer Näherung eines, durch Beispiele gegebenen, vermuteten Zusammenhangs von Eingabe und Ausgabe beruht. Dazu weiter unten mehr. Die Bezeichnung ‚KI‘ ist, im technischen Sinne und diesseits einiger großer Ambitionen, weniger als Inhaltsangabe, sondern mehr als Etikett zu sehen für eine Schublade voller diverser Ansätze, die jeweils versuchen, einzelne kognitive Leistungen zu imitieren. Sie wurde 1956 geprägt, nachdem Alan Turing schon 1950 die extremste Ambition der entstehenden Disziplin formuliert hatte: Maschinen zu bauen, deren kognitive und kommunikative Leistungen von menschlichen nicht zu unterscheiden seien.4 Sie kommt sowohl im Titel eines Workshops vor, der, finanziert von der Rockefeller Foundation, 1956 am Dartmouth College stattfand und seither als Gründungsereignis der Disziplin gilt, als auch im Konzeptpapier dazu, das John McCarthy als Leitantragsteller formuliert hatte.5 Mit dabei waren eine Reihe von Wissenschaftlern, darunter Marvin Minsky und Herbert Simon, die in den nachfolgenden Jahrzehnten einen starken Einfluss auf das Feld ausüben sollten. Die ambitionierte und spektakulär klingende Bezeichnung wählte McCarthy nicht, ohne Erwartungen wecken zu wollen, von denen er sich einen anschwellenden Finanzierungsstrom, nicht nur vom Sponsor Rockefeller Foundation, erhoffte. Das sollte sich, mit Unterbrechungen, auch bestätigen; wobei das Department of Defense (DoD), insbesondere dessen, kurz darauf, nach dem Sputnik-Schock gebildete, Advanced Research Projects Agency (ARPA), die später ein ‚D‘ für ‚Defense‘ vorangestellt erhalten sollte, bald die führende Rolle übernahm.6

 Unter den Fragestellungen des Workshops fanden sich, neben „Wie kann ein Computer dazu programmiert werden, eine Sprache zu verwenden?“, „Wie kann eine Menge von (hypothetischen) Neuronen angeordnet werden, um Begriffe zu bilden?“ auch die, wie ein Computer zur Entwicklung von „Abstraktionen“, „Wahlfreiheit und Kreativität“ sowie zur „Selbstverbesserung“ befähigt werden könnte. Eine Konstante der Disziplin sollte darin bestehen, beständig solche ambitionierten Ziele zu formulieren — bis hin zu Systemen, die über Artificial General Intelligence (AGI) verfügen, die der menschlichen gleichen und sie schließlich, was die Gläubigen als Singularity bezeichnen,7 exponentiell übertreffen soll —, um für sie nicht nur üppige Mittel zu akquirieren, sondern sie ebenso beständig zu verfehlen. Hilary Putnam sah darin ihren „Madison Avenue aspect“,8 der sich als „horrendous oversell“ äußere,9 also einen Charakter, der sie der Werbeindustrie gleichstelle und darin bestehe, dass sie beständig und in erschreckendem Maße mehr verkaufe als sie zu liefern vermöge. KI ist, mehr als alles andere, eine Marketingformel. 30 Jahre nach Putnam bestätigten der Neurowissenschaftler Gary Marcus und der Informatiker Ernest Davis dieses Urteil: „Since its earliest days, artificial intelligence has been long on promise, short on delivery“.10 Mit diesem Satz beginnen die beiden Autoren, die keinesfalls Gegner der KI sind, ein Buch, in dem sie ihre Kritik am Stand der Disziplin darlegen.

 Die KI, auch in ihrer aktuellen Gestalt, erzielte einige Erfolge, doch waren die, gemessen an den Ankündigungen, eher bescheiden. Während diese Erfolge auf eng umrissenen Gebieten gelangen, führen die durch die Medien verbreiteten Verallgemeinerungen und Übertreibungen auf Irrwege. Als fruchtbar erwies sie sich zudem, sofern sie als Abfall eine Reihe von Konzepten, Methoden und Werkzeugen hervorbrachte, die sich auch außerhalb ihrer als nützlich erwiesen. Dazu gehören, neben der von McCarthy entworfenen Programmiersprache LISP und einigen weiteren, wie PROLOG, auch Konzepte wie die Workstation, also der persönliche Arbeitsplatzrechner und die integrierte Softwareentwicklungsumgebung mit einer Reihe von entsprechenden Werkzeugen, die heute als selbstverständlich gelten. Auch bestimmte heuristische Techniken, etwa solche der Suche und Bewertung in komplexen Lösungsräumen, gehören zu den fruchtbaren Beiträgen aus dem Kontext der KI.

 Ein Projekt, in das man im DoD große Erwartungen gesetzt hatte, war die automatische Übersetzung aus Fremdsprachen, insbesondere aus dem Russischen. Doch selbst auf der Basis der fortgeschrittensten linguistischen Theorie, der generativen Transformationsgrammatik, war es zum Scheitern verurteilt: natürliche Sprache enthält zu viele Unregelmäßigkeiten, idiomatische Ausdrücke und Mehrdeutigkeiten, um so zuverlässig übersetzbar zu sein. Heutige Übersetzungssoftware, die, wenn auch weit von Perfektion entfernt, etwas leistungsfähiger ist, fußt nicht auf einem Verständnis der Struktur und Semantik von Sprache, sondern auf Statistik. Brauchbare, doch immer noch der Überprüfung bedürftige Ergebnisse bringt sie auf beschränkten Gebieten, für die sie jeweils angepasst werden muss. Schrittweise Erfolge erzielte man, beginnend mit den einfachen, dagegen bei Spielen. Die schwierigen, wie Schach und Go, vermochte man erst sehr spät zu meistern und nur mittels sehr viel menschlicher Vorarbeit und der exponentiell gewachsenen Leistung der Rechner, letztlich jedoch nicht durch Verständnis ihrer Logik, sondern auf der Basis einer riesigen Menge von zuvor erfassten und gespeicherten Spielverläufen, mit denen die aktuelle Situation verglichen wird, um jeweils den erfolgversprechendsten Zug auszuwählen.

 Große Erwartungen wurden in den 1980ern in die Technik der Expertensysteme, im Englischen Knowledge Based Systems (KBS), gesetzt. Die Architektur solcher Systeme umfasst als festen Bestandteil die Inferenzmaschine, in der die Regeln logischer Deduktion implementiert sind, und eine erweiterbare Wissensbasis, die, um durch die Inferenzmaschine bearbeitbar zu sein, in einer formalen Notation vorliegen muss. Auch hier gab es Erfolge auf beschränkten Gebieten, in denen das relevante Wissen bereits hinreichend formalisiert war und passende Fragestellungen existieren, wie z.B. in einigen Teilen der Chemie, doch die Hoffnungen — oder Befürchtungen —, menschliche Experten könnten dadurch obsolet werden, erfüllten sich nicht.

        In den meisten Gebieten ist der Umfang des relevanten Wissen und damit der Aufwand zu seiner Formalisierung nicht nur zu groß, sondern es liegt überwiegend nicht explizit vor. Vielmehr wird es von den Experten implizit aktiviert, zudem oft auf der Basis von flüchtigen sensorischen Eindrücken. Der wirkliche Experte sieht, hört, riecht, fühlt, ahnt, was vorliegt. Es handelt sich um situiertes, persönliches Wissen.11 In den Situationen, in denen Expertise gefordert ist, hilft logische Deduktion allein meist nicht weiter: es geht darum, unter vielen möglichen die tatsächlichen Ursachen eines Phänomens — oft eines Unfalls, einer Erkrankung oder sonstigen Störung — und abhelfende Maßnahmen zu finden.12 Dazu muss man in der Lage sein, auf dem Hintergrund eines Erfahrungsschatzes Symptome wahrzunehmen, die zielführenden Fragen zu stellen und die geforderten Prüfungen durchzuführen, schließlich zu wissen, was jeweils hilft. So geht die medizinische Differentialdiagnostik vor. Auch Wartungstechniker kennen das. Die Experten, deren Verschwinden vor vier Jahrzehnten prognostiziert wurde, gibt es immer noch.

 Auf Phasen von hohen Erwartungen in die KI folgten regelmäßig solche der Enttäuschung, für die sich der Begriff KI-Winter etablierte. So auf die Hochphase der KBS. Einen neuen Aufschwung nahm das Feld erst wieder in den 2010er Jahren, doch diesmal auf einer völlig anderen Basis. Obwohl die theoretischen Ingredienzien dafür schon lange bekannt gewesen waren, wurden die entsprechenden Ansätze bis dahin höchstens in Nischen verfolgt, weil entscheidende Voraussetzungen fehlten: nämlich ausreichende Rechnerleistung zu akzeptablen Preisen und Massen an Daten. Genau das hatte sich an der Schwelle zum zweiten Jahrzehnt des 21. Jahrhunderts geändert. Doch zunächst zu den theoretischen Aspekten.

 

Die statistische KI und was sie ermöglicht

Während die herkömmliche Methode, Sachverhalte berechenbar zu machen, darin besteht, nach Identifikation der relevanten Eingabe- und Ausgabegrößen, ein rechnerisch ausführbares Modell der Sache zu bauen, kürzt die heute dominierende KI den Weg von der Eingabe zur Ausgabe ab, indem sie anhand von Beispielen, bestehend aus empirisch gefundenen oder konstruierten Paaren von Eingaben und Ausgaben, eine Funktion entwickelt, die letztere approximiert, in der Hoffnung, dass ihre Ausgaben auch für noch unbekannte Eingaben den treffenden hinreichend nahekommen. Es gibt eine Reihe  von Verfahren, um diese Aufgabe zu erfüllen. Die aktuell bevorzugte ist das sogenannte Tiefe Neuronale Netz (TNN); wobei der Terminus ‚neuronal‘ nicht für eine Identität mit der Funktionsweise des Gehirns steht, sondern für eine oberflächliche Ähnlichkeit der Visualisierung dieses Typs tief verschachtelter Funktionen mit neuronalen Strukturen.13

 Ein Gebiet, auf dem dieses Verfahren in den 2010er Jahren erste Erfolge erzielte, war die Bilderkennung. Eine typische Eingabe für die entsprechende Funktion ist z.B. ein Bild, das aus 1000·1000 Punkten besteht, deren jeder durch die Werte der drei additiven Grundfarben bestimmt ist. Die Eingabe ist also ein Vektor von drei Millionen Dimensionen, d.h. eine Reihe mit der entsprechenden Zahl von Elementen. Wenn die Aufgabe darin besteht, tausend Arten von Objekten zu unterscheiden, ist die Ausgabe ein Vektor von tausend Dimensionen, wobei jede Komponente die Wahrscheinlichkeit angibt, dass das Bild eine der vorgegebenen Objektarten darstellt. Die Summe der Komponenten ist eins. Das entspricht der Verknüpfung der einzelnen Aussagen zu den Wahrscheinlichkeiten durch den logischen Junktor ‚oder‘. Was dabei stattfindet, ist die Reduktion eines Raumes von drei Millionen auf einen von tausend Dimensionen. Voraussetzung dafür ist die Verfügbarkeit von Millionen von Bildern, die mit Hinweisen auf ihren Inhalt versehen sein müssen. Die Bilder sind seit der Popularisierung des Internet verfügbar — wobei die KI-Unternehmen urheberrechtliche Fragen weitgehend ignorieren —, doch für die Etikettierung benötigt man massenhaft billige Arbeit, die vor allem der globale Süden liefert. Der Zusammenbruch der Wirtschaft dort in der Folge der angeblich gegen COVID-19 getroffenen Maßnahmen, die passend zum KI-Boom kamen, steigerte das Angebot.14 Diese Art von KI basiert auf der Aneignung der geistigen Produktion von Millionen von Nutzern des Internet und der Ausbeutung von ebenfalls Millionen prekarisierter Arbeiter.

        Die Knoten eines TNN sind in Schichten angeordnet. In der üblichen Darstellung repräsentiert die unterste davon die primäre Eingabe, die oberste die finale Ausgabe. Jeder der Knoten oberhalb der Eingabeebene steht für eine sogenannte Aktivierungsfunktion,15 die ihre Eingabe in Form der gewichteten Summe der Ausgaben aller oder auch nur eines Teils der Knoten aus der unter ihr liegenden Schicht erhält. Die Parameter, die in jedem Knoten zur Gewichtung der Werte benutzt werden, die er von den untergeordneten erhält, mit denen er verbunden ist, gilt es, ausgehend von Zufallsbelegungen, im Zuge des sogenannten ‚Lern-‘ oder ‚Trainingsprozesses‘ zu bestimmen, der im Grunde in einer Anpassung bzw. Konditionierung besteht. Begriffe wie ‚Maschinenlernen‘ (ML) sind zwar populär, doch irreführend. Schrittweise wird für die bekannten Eingabe/Ausgabepaare aus dem Gradienten bezüglich des Raums der Parameter einer Funktion, die die Abweichung der aktuellen Funktionsergebnisse vom Sollwert misst, eine Korrektur für die Parameter berechnet.16 Für dieses Verfahren steht der Begriff Backpropagation. Der Vorgang muss für alle Paare von Eingabe und Ausgabe aus der Trainingsmenge wiederholt werden, bis eine akzeptable Näherung erreicht ist. Eine Gefahr dabei besteht im Overfitting, einer zu genauen Näherung, die das, bei empirischen Daten unvermeidliche, Rauschen in den Daten reproduziert und dadurch den wesentlichen Zusammenhang verfehlt.

        Am aufwendigsten bei diesem Prozess ist die milliarden- oder gar billionenfache Berechnung des Gradienten einer tief verschachtelten Funktion auf einem Raum von Millionen, Milliarden und sogar Billionen von Dimensionen. Den entscheidenden Sprung brachte hier der Einsatz von Prozessoren, die elementare numerische Operationen mit begrenzter Genauigkeit — es hat keinen Sinn hier mit sechzehn signifikanten Dezimalstellen zu rechnen — parallel auf Vektoren, d.h. Reihen von Operanden, auszuführen vermögen. Solche Prozessoren, Graphic Processing Units (GPU), waren ursprünglich entwickelt worden, um die Visualisierung technischer Gebilde und Prozesse sowie naturwissenschaftlicher Modelle zu beschleunigen, fanden jedoch in interaktiven Computerspielen den Stückzahlen nach ihr umfangreichstes Einsatzgebiet. Zu Beginn der 2000er Jahre nahmen Anwender solcher Prozessoren wahr, dass diese auch andere Berechnungen zu beschleunigen vermögen. Nvidia, damals einer der führenden Hersteller, griff diese Idee auf mit darauf zielenden Änderungen im Design der GPUs sowie einer Schnittstelle, der Compute Unified Device Architecture (CUDA), die Vektoroperationen und den bidirektionalen Transfer von Daten zwischen Arbeitsspeicher und GPU zur Verfügung stellt.

        Dies sollte zum Ausgangspunkt einer Entwicklung werden, die Nvidia, nachdem die Schlüsselrolle der GPUs und der CUDA für den Aufbau von TNN sichtbar geworden war, zum Unternehmen mit der bisher höchsten Bewertung an den Börsen machte, nachdem der Kurs im Jahrzehnt zuvor stagniert hatte. 17 Die Akteure an den Kapitalmärkten waren viele Jahre über die Entwicklungsstrategie, vor allem jedoch die diese finanzierende Investitionspolitik, von Nvidia alles andere als begeistert — bis hin zu Angriffen auf deren Gründer und Chef Jensen Huang durch ‚aktivistische‘ Investoren, die dadurch das heilige Prinzip des Shareholder Value bedroht sahen.18 Die Abfolge einer historischen Überbewertung auf ein Jahrzehnt der Unterbewertung verdeutlicht, dass es mit der oft gerühmten ‚Weisheit der Märkte‘ doch nicht allzu weit her ist.19
        Die Erfahrung, dass die GPUs das Training und die Anwendung von TNN zu beschleunigen vermögen, wurde zum Ausgangspunkt ihres Erfolgs, nachdem eine Forschergruppe um Geoffrey Hinton auf dieser Basis 2012 den ImageNet Challenge, einen Wettbewerb zur Bilderkennung, gewonnen hatte.20 Die Position, die Nvidias GPUs heute einnehmen, geht nicht allein auf ihre Leistungsfähigkeit zurück, sondern auch darauf, dass die CUDA eine Schnittstelle bietet, auf der Softwareentwickler ihre Codes gebaut haben und, nicht zuletzt, weil die Implementation durch Nvidia die Imitationen anderer Hersteller an Effizienz nicht nur übertrifft, sondern mit einer Anzahl von, ebenfalls hocheffizienten, Bibliotheken für zentrale Anwendungsgebiete gebündelt kommt. Zudem bieten Pakete wie Torch, Googles Tensorflow und Keras — Werkzeugkästen für KI-Anwendungen, die für populäre Programmiersprachen wie Python verfügbar sind21 — die Nutzung entsprechender Hardware via CUDA an. Google entwickelte, zunächst für den eigenen Bedarf, eine Alternative zu den Nvidia-GPUs, die Tensor Processing Unit (TPU), die auf Tensorflow abgestimmt ist.22
        Chinesische Hersteller, mit Huawei an der Spitze, arbeiten ebenfalls an Alternativen und werden dabei durch die Regierung unterstützt, nicht zuletzt, weil Eigenständigkeit auf wichtigen Technikbereichen zu deren industriepolitischen Prioritäten gehört. Nvidias GPUs stehen zwar leistungsmäßig immer noch an der Spitze und der Lockin-Effekt der CUDA-Implementation wird viele Entwickler an ihnen festhalten lassen, doch im weiteren geopolitischen Kontext ist ihre Position nicht mehr unangefochten.23 In in der Frage der Exportkontrollen in Bezug auf die KI und andere Hightech-Bereiche stehen sich zwei Schulen gegenüber: die eine, die Fortschritte Chinas und weiterer Konkurrenten durch möglichst enge Schranken bremsen möchte, und die andere, die die Dominanz der USA gestärkt sehen, wenn alle Welt ihre Technik und die damit verbundenen Standards übernimmt. Nachdem Jensen Huang Donald Trump überzeugt hatte, das Exportverbot für seine zweitstärkste GPU aufzuheben, musste er feststellen, dass das Interesse in China gering war.24 Man geht dort eigene Wege.
        Über die GPU setzte sich eine Entwicklung durch, die an der Zeit war. Die Erhöhung der Taktfrequenz und der Komplexität von Universalprozessoren stößt an Grenzen. Moore’s Law,25 das seit den 1960ern durch eine Verdopplung ihrer Leistung im Rhythmus von zwei Jahren bestätigt wurde, gilt schon seit Jahren nicht mehr. Vor den Problemen paralleler Verarbeitung als dem verbleibenden Weg zur Leistungssteigerung scheuten die etablierten Hersteller zurück, während einige Newcomer scheiterten.26 Erfolgreich war die Parallelverarbeitung seit den 1980ern im engen Sektor der Supercomputer, deren, heute  in Tausenden und Millionen zählenden, Prozessorkerne durch GPUs ergänzt werden. Dort übernahm die von Seymour Cray, dem früheren Chefentwickler der Control Data Corporation, deren Maschinen bis an die Schwelle der 1980er an der Spitze gestanden hatten, gegründete Cray Research die Führungsrolle. Mit CUDA wurde Rechenleistung, die zuvor zig Millionen gekostet hatte, für zig Tausende verfügbar. Die Geräte für Endbenutzer folgen dem Trend zur Parallelisierung, indem sie Universalprozessoren mit bis zu vier Kernen und oft auch GPUs im unteren Leistungsbereich zur Verfügung stellen. Doch bereitet die Parallelisierung aufwendiger Berechnungen immer noch Probleme, da das Paradigma der Programmierung, dem nicht nur die Sprachen wie auch die Ausbildung dafür, sondern auch die, in Form von Bibliotheken vorliegenden, Bestände an bewährten Algorithmen bisher folgten, eben das der sequentiellen Verarbeitung ist.27

        Die Systeme, auf denen heutige TNN trainiert werden, sind, bei steigender Tendenz, mit zigtausenden GPUs ausgestattet. Für den unersättlichen Hunger nach Prozessorzyklen ist ein Entwicklungsschritt verantwortlich, der über die bloße Erkennung bzw. Klassifizierung von Mustern hinausführt. Letztere bildete bis in die frühen 2020er Jahre den gemeinsamen Nenner der meisten Anwendungen, von der Bilderkennung, die eine zentrale Rolle beim fahrerlosen Fahren spielt, und der parallelen Verschriftlichung des gesprochenen Wortes, über den Spamfilter bis hin zu der Werbung, die Google neben und auch teils in der Liste der Suchresultate bzw. den Produktangeboten, die Amazon außer denen, nach denen man gefragt hat, präsentieren. Via Benutzerprofil und Verhalten wird man in eine Konsumentenkategorie einsortiert. Ähnliches findet auch statt, wenn Plattformen Nutzerbeiträge löschen, weil sie den ‚Community-Richtlinien‘ nicht entsprechen bzw. ihre Duldung Strafen gemäß Digital Services Act riskieren würde. KI wird dadurch zum Instrument einer stillen Zensur.

 

KI für die Massen vs. KI für Wissenschaft und Technik

Ein Schritt über die Mustererkennung hinaus fand mit der sogenannten Generativen KI statt. Ihr Ziel besteht darin, aus einer beschränkten Folge von Elementen einer bestimmten Art das — wahrscheinlich — nachfolgende vorherzusagen. Die Basis dafür besteht in gigantischen Mengen von entsprechenden Folgen, im Falle eines sogenannten Large Language Models (LLM) Milliarden von Texten aus elektronischen Quellen, meist dem Internet, die zu diesem Zweck in Sprachatome zerlegt werden, um die statistischen Beziehungen zwischen ihren Vorkommen in die Form eines TNN zu gießen. Was diese Systeme hervorbringen, ist Geschwätz, das die mit der Anfrage gesetzten Trigger auf der Basis dieser Statistik extemporiert — wobei zu beachten ist, dass die ChatBots, die auf dieser Basis arbeiten, die Anfrage auch unsichtbar um Angaben ergänzen, die sie anhand von deren bzw. auch ihres Stellers Klassifizierung auswählen. Das nennt man Prompt Engineering. Oft werden die klassifizierten und ergänzten Anfragen an unterschiedliche, an spezifische Aufgaben angepasste TNN weitergereicht. Der durch die Anfrage initialisierte Kontext, auf dem die Berechnung des nächsten Sprachatoms erfolgt, wird am Ende um dieses erweitert, während am Anfang eines entfernt wird, sofern seine erhöhte Länge die bereitgestellte Puffergröße überschreitet.

        Norbert Wiener bemerkte schon 1950, dass man auf der Basis einer Tabelle, die die Wahrscheinlichkeiten der Aufeinanderfolge von Wörtern einer Sprache enthält, Folgen von solchen konstruieren könne, die große Ähnlichkeit mit Äußerungen in dieser Sprache haben. Er erklärte auch, dass derartiges nur semantischen Müll ergibt und bezeichnete es als „meaningless simulacrum of intelligent speech“.28 Die LLMs unterscheiden sich von Wieners Gedankenexperiment nur dadurch, dass ihre Tabellen — mit gesteigertem Aufwand in Gestalt von TNN — auf Milliarden von Kontexten abgestimmt sind. Was die Gültigkeit seines Verdikts jedoch nicht einschränkt. Die LLMs bringen Frankenstein-Texte hervor, bestehend aus Leichenteilen dessen was einmal lebendige Sprache war. Nicht viel anders ist das bei den Systemen, die, ausgehend von Zufallsbelegungen der Bildpunkte, ‚lernen‘ den Inhalt annotierter Bilder zu imitieren, um ähnliche auf Anfragen hin produzieren zu können — wobei die Ästhetik der Produkte ihren Frankenstein-Charakter oft genug zu erkennen gibt.

        Auch wenn tausendfach die Behauptung zirkuliert, LLMs hätten Wissen, würden Überlegungen, Vergleiche, Verknüpfungen und logische Ableitungen vollziehen: nichts davon trifft zu. All ihre Auskünfte sind Kombinationen von Sprachelementen nach statistischen Gesichtspunkten. Auch wenn man sie ‚Modelle‘ nennt — sie sind keine Modelle realer Gegenstände oder Prozesse, von Gesetzen der Natur, der Grammatik oder Logik, sondern nur solche wahrscheinlicher Abfolgen von Elementen. Das trifft auch auf die zu, die nach der Methode des chain of thought mittels spezifischer, logische Schritte repräsentierenden, Folgen trainiert wurden. Die Fähigkeit zu logischer Verallgemeinerung und deren treffenden Anwendung erreichen sie auf diese Weise nicht. Solche ‚Modelle‘ haben mehr Ähnlichkeit mit den Epizykeln, die erfunden wurden, um die Planetenbahnen im geozentrischen Modell des Ptolemäus mit den Beobachtungen zur Deckung zu bringen, als mit valider Wissenschaft.

 Vor diesem Hintergrund bedürfen auch die oft gehörten Aussagen zur Intransparenz der statistischen KI einer Präzisierung. Die ‚Schlüsse‘ dieser KI sind nicht nachvollziehbar — nicht, weil es sich um solche einer in für uns unerreichbaren Sphären operierenden Intelligenz handelte, sondern schlicht, weil sie keine Schlüsse zieht. Im Prinzip weiß man sehr genau, wie sie zu ihren Ergebnissen kommt: sie wählt das im gegebenen Kontext wahrscheinlichst, manchmal auch das etwas weniger wahrscheinlich, nachfolgende Element aus — nur: daraus ergibt sich keine logisch nachvollziehbare, inhaltliche Erklärung dafür, weil es eine solche auch nicht geben kann. Diesen Prozess nachzuvollziehen wäre nicht nur unerhört aufwendig, sondern auch völlig fruchtlos.

        An diesem Sachverhalt ändern auch neuere Erfolge bei dem Unternehmen, ihn in gewünschte Richtungen zu steuern, nichts. Eine Methode dazu beruht darauf, eine Schicht des TNN, in der sich deutliche Unterschiede in den Ergebnissen der Aktivierungsfunktionen bei der Beantwortung von Fragen zu einem bestimmten Thema ergeben, durch einen Vektor zu korrigieren, der sich aus der Differenz der durchschnittlichen Werte für dieses Thema zum Durchschnitt der Werte für andere Themen ergibt.29 In diesem Zusammenhang davon zu reden, man habe „Repräsentationen für Konzepte“ in TNN gefunden, ist jedoch stark übertrieben. Tatsächlich handelt es sich um die relative Positionierung eines Sprachvorrats in einem Wahrscheinlichkeitsraum. Nicht zu unterschätzen sind jedoch sich daraus ergebende Möglichkeiten zur Manipulation der Ergebnisse, die über die das Prompt Engineering hinausgehen: nach Anwendung des Steuerungsvektors wichen die TNN auch auf den angezielten Themenbereich aus, wenn die gestellte Frage mit diesem nichts zu tun hatte.

        Der Verzicht auf die explizite Codierung von Logik und realen Sachverhalten bildet den Kern der statistischen KI und auch der TNN als deren aktuell wichtigstem Instrument. Zu den oft geäußerten Behauptungen gehört die, dass mit der Verbreitung der KI ‚die Algorithmen‘ zunehmend unser Leben beherrschten. Tatsächlich arbeiten in den KI-Systemen Algorithmen, doch haben die mit dem Inhalt der Anwendungen nichts zu tun. Besteht die Aufgabe beim Training darin, die Werte der Parameter zu finden, so bei der Anwendung, die Funktion, die ein trainiertes TNN darstellt, auszuwerten. Letzteres macht im Einzelfall deutlich weniger Aufwand als das Training, summiert sich allerdings bei millionenfachen Anfragen ebenfalls zu einem Umfang, der Rechenzentren von bisher nicht gesehenen Dimensionen erfordert. Es gibt ein theoretisch nur unvollständig fundiertes Erfahrungswissen über die Eignung bestimmter Architekturen von TNN, doch sind die ‚Halluzinationen‘ oder auch nur politisch inkorrekten Ausgaben, die sie öfters liefern, keine systematischen Fehler, sondern Folge ihrer normalen, ‚ordnungsgemäßen‘ Funktion und deshalb durch systematische Korrekturen prinzipiell nicht zu eliminieren. Wenn sich in den Trainingsdaten eine Gesellschaft spiegelt, in der es Diskriminierung gibt, die sich in entsprechenden Stereotypen niederschlägt, wird die damit trainierte KI diese reproduzieren. Gemildert werden können solche Fehlleistungen nur durch die Auswahl der Trainingsdaten und nachträgliche Korrekturen. Wer einen stochastischen Schwätzer bastelt, darf sich nicht wundern, wenn er sich wie ein solcher verhält — oder: wer sich nach Frankensteins Methode in der Sprach und Bildwelt bedient, muss damit rechnen, dass die Ergebnisse auch entsprechend aussehen — irgendwie ähnlich wie beabsichtigt, aber manchmal auch peinlich.

        Die Zielsetzung, die den Einsatz von TNN ursprünglich leitete, bestand darin, sensorische Leistungen zu imitieren, für die es keine hinreichend explizierbaren Regeln gibt, etwa die Erkennung von Ziffern und Buchstaben auf Formularen oder Briefcouverts. Die Erkennung von komplexeren Bildinhalten und Lauten waren weitere Schritte. Damit begab man sich auf das Gebiet des impliziten Wissens und konnte einige respektable Erfolge erzielen. Der heute in großem Maßstab betriebene Versuch, die explizit formulierbaren Regeln, denen viele Sachverhalte — Grammatik, Logik, Mathematik, Naturgesetze — gehorchen, mittels ‚Maschinenlernen‘ auf TNN zu implementieren scheitern immer wieder an deren probabilistischen Natur.30
        Allein deshalb empfiehlt es sich, TNN und andere statistische Techniken nur einzusetzen, wenn explizite Regeln nicht vorliegen, doch selbst in diesen Fällen nur, wo die unvermeidlichen Fehler verschmerzbar sind oder ihre Integration in einen organisatorischen Kontext gegeben ist, der ihre Beschränkungen zu kompensieren und Fehler abzupuffern vermag. Die Technik des fahrerlosen Fahrens von Automobilen auf öffentlichen Straßen funktioniert bisher nur unter Aufsicht und mit riesigem Aufwand in wenigen urbanen Situationen, die relativ freundliche Umweltbedingungen bieten. Sie global auszurollen ist schlechthin nicht machbar, anders als etwa die fahrerlose U-Bahn, die, da in einer kontrollierbaren Umgebung unterwegs, in einigen Städten schon seit Jahrzehnten erfolgreich in Betrieb ist. Die Prognose von Geoffrey Hinton aus dem Jahre 2016, dass man keine Radiologen mehr ausbilden müsse, weil KI innerhalb von fünf Jahren die Diagnose auf der Basis bildgebender Verfahren besser stellen könnte als diese, hat sich bis heute nicht bestätigt.31 Sie fungiert in Umgebungen, die sich organisatorisch darauf eingestellt haben, höchstens als Ergänzung, führt allerdings oft eher zur Verlangsamung als zur Beschleunigung, weil man zu viel nachprüfen muss.

 Die statistische Natur der aktuell im Vordergrund stehenden KI, also auch der dominierenden TNN, setzt ihr grundsätzliche Schranken.32 Die erste besteht darin, dass es, insbesondere bei hochkomplexen Anwendungen nicht möglich ist, deren Bereich hinreichend durch Trainingsdaten abzudecken. Mit Vorfällen wie dem, dass ein durch KI gesteuertes Auto mit einem umgekippt quer auf der Fahrbahn liegenden LKW kollidiert oder eine Frau, die ein hochbeladenes Fahrrad schiebt, überfährt, weil diese Fälle in den Trainingsdaten nicht vorkamen, ist immer zu rechnen. Die zweite Schranke resultiert daraus, dass selbst ‚gelernte‘ Objekte und Sachverhalte nicht erkannt werden, wenn sie von ungewöhnlichen Erscheinungen begleitet oder überlagert werden, etwa ein Stoppschild durch ein aufgemaltes Gesicht oder einen Aufkleber. Die dritte ist die am schwersten zu erkennende und gibt oft Rätsel auf: ein scheinbar ‚gelernter‘ Sachverhalt wird im operativen Betrieb nicht mehr erkannt, weil er nicht wirklich, sondern vielmehr seine Verknüpfung mit einem Merkmal in den Trainingsdaten ‚gelernt‘ wurde, das niemandem aufgefallen war, während es oft in Eingaben, die lediglich dieses begleitende Merkmal, nicht jedoch das zu erkennende enthalten, ‚erkannt‘ wird.33

 Diese Schranken sind auch solche der diagnostischen Fähigkeiten der statistischen KI. Gleichgültig, ob es sich um die Erkennung von Erkrankungen wie Krebs und Tuberkulose mittels bildgebender Verfahren und Biomarkern handelt oder ob Betriebsdaten, optische und akustische Signale Hinweise auf sich abzeichnende Störungen von Maschinen geben sollen, es geht immer um Mustererkennung und die Antwort der KI besteht in einer Zahl zwischen 0 und 1. Die Frage ist, wo die Schwelle liegen soll, jenseits derer diese als ‚ja‘ zu interpretieren ist. Je niedriger man sie ansetzt, desto mehr tatsächlich positive Fälle erfasst man, doch um den Preis, dass man auch immer mehr falsch positive erhält. Das bedeutet, dass Sensitivität und Spezifität der Verfahren in einem inversen Verhältnis stehen. Ein solcher Zusammenhang wurde schon früh in der Radartechnik erkannt. Der Verlauf des Verhältnisses der Raten der wahr positiven und der falsch positiven mit steigender Sensitivität heißt dort Receiver Operating Characteristic (ROC) — ein Terminus, der sich auch in anderen Feldern wie der KI behauptet hat. Seine graphische Aufzeichnung wird als ROC-Kurve bezeichnet.

        Ein jüngeres Beispiel für die Bedeutung der ROC ist der im Zusammenhang mit COVID-19 bzw. dem Erreger SARS-CoV-2 zu Prominenz gelangte PCR-Test. Wenn man dessen Sensitivität so hoch ansetzt, wie das im Rahmen der ergriffenen Maßnahmen geschah, und zudem noch darauf verzichtet, die Verfahren zu standardisieren und ihre Anwendung einer systematischen Qualitätssicherung zu unterwerfen, erhält man überwiegend falsch positive Ergebnisse.34 Auf ein vergleichbares Problem stoßen die Versuche, mittels KI Biomarker für Krebs zu identifizieren. Krebszellen entstehen beständig im Organismus und sofern dessen Immunsystem intakt ist, werden sie auch zerstört. Dieser Ansatz entspricht der Tendenz zur Medikalisierung der Bevölkerung, der Neigung des Medizinsystems, möglichst alle zu Patienten zu machen. Das dient zwar nicht der Gesundheit der Patienten, bringt aber den beteiligten Akteuren viel Geld ein.

        Ob es sich um molekularbiologische Tests, nach physikalischen Prinzipien arbeitende Sensoren oder Mustererkennung mittels TNN handelt: ohne sinnvolle Schwellenwerte, Qualitätssicherung der Verfahren und organisatorische Vorkehrungen, die Fehlertoleranz ermöglichen, kommt dabei mit hoher Wahrscheinlichkeit — oft auch gefährlicher — Unsinn heraus. Ein politisch relevanter Anwendungsfall übertrieben sensitiver KI liegt bei der oben erwähnten Politik der Internet-Plattformen vor, die vorauseilend die Rolle als Blockwarte des Zensurregimes erfüllen, die ihnen der Digital Services Act nahelegt: lieber einen Beitrag mehr löschen, als Strafe riskieren.

 Ein ernstes Problem resultiert auch aus der verbreiteten Anwendung von LLMs zur Erstellung von wissenschaftlichen Papieren. Es stellt sich nicht nur die Frage nach deren Urheberschaft, sondern auch die nach ihrer Korrektheit. Schon die Überprüfung eines Teils der in der jüngeren Vergangenheit publizierten Arbeiten brachte zig Tausende von fehlerhaften, ‚halluzinierten‘ Literaturangaben zutage, die auf LLMs zurückzuführen sind.35 Ein mit dem Thema befasster Wissenschaftler charakterisierte derartiges als „Frankenstein citations“. Hier baut sich eine Lage auf, die das System Wissenschaft insgesamt und insbesondere das der wissenschaftlichen Ausbildung, bzw. der auf Grundlage von mittels KI erstellter Arbeiten erteilten Zertifikate, in Frage stellt.

 Auf der anderen Seite gibt es spezifische Anwendungen generativer Techniken, die zwar ebenfalls nicht zu unbedingt zuverlässigen Ergebnissen führen, doch — bei gewissenhafter Anwendung — der Forschung neue Dimensionen eröffnen. Solche Anwendungen erfordern, ebenso wie die Mustererkennung auf beschränkten Gebieten, deutlich weniger Ressourcen als die LLMs, die, wie Karen Hao kürzlich anmerkte,36 „the worst tradeoff“ von Aufwand und Nutzen böten. Ein Beispiel einer Software, die für eine spezifische Aufgabenstellung mit begrenztem Aufwand nützliche Ergebnisse liefert, stellt AlphaFold der, inzwischen von Google erworbenen, Firma DeepMind dar. Sie steht als Open Source zur Verfügung, und vermag mit einer gewissen Wahrscheinlichkeit die Faltung und die, darauf beruhenden, möglichen Interaktionen von Proteinen mit anderen Molekülen auf der Basis der Sequenz ihrer Aminosäuren vorherzusagen — also die Eigenschaften, die für ihre biologische Wirksamkeit entscheidend sind. Bisherige Versuche, dies mit Hilfe der relevanten physikalischen Theorien zu tun, lieferten deutlich schlechtere Ergebnisse als AlphaFold,37 das anhand von durch bildgebende Verfahren ermittelten Strukturen trainiert wurde. Jene Verfahren, wie die Röntgenkristallographie und in neuerer Zeit die, selbst wiederum auf die Unterstützung durch Software angewiesene, Kryoelektronenmikroskopie, sind beide mit hohem Aufwand verbunden.  

        Eine Besorgnis, die sich mit solchen Entwicklungen verbindet, rührt daher, dass mit solchem Werkzeug die zahlreiche Kandidaten nicht nur für Arzneimittel, sondern auch für Toxine bzw. gefährliche, durch Genmanipulation zu schaffende, Bakterien und Viren in kurzer Zeit zu finden seien. Zu den Warnern gehört Matthias Schrappe, der nicht nur auf auf die gewachsenen Fähigkeiten der KI, sondern auch völlig zurecht auf den Umstand hinweist, dass das gesamte Instrumentarium für die fortgeschrittene molekularbiologische Forschung — Gensequenzierung und -manipulation, DNA-Synthese, Elektronenmikroskopie, entsprechende Software, die ohnehin meist frei verfügbar ist, und leistungsfähige Rechner — in einen Preisverfall um Größenordnungen erfahren hat und damit in die Reichweite zahlreicher Akteure gekommen ist.38 Mit einem einstelligen Millionenbetrag und einer Gruppe von Molekularbiologen, Biophysikern und Informatikern kann man heute eine Menge anstellen. Es stellt sich jedoch die Frage, warum Entsprechendes nicht schon längst geschehen ist, oder auch, weshalb die Natur so Gefährliches wie befürchtet noch nicht erfunden hat. Ein Virus, das leicht übertragbar, hoch infektiös und absolut tödlich ist, trägt eher die Züge einer Chimäre als einer realistischen Drohung — ganz abgesehen davon, dass es, mangels der Möglichkeit, es diskriminierend einzusetzen, keine militärisch sinnvolle Waffe wäre.39 Rasche Verbreitung und hohe Pathogenität stehen in Konkurrenz zueinander. Ein Pathogen, das seinen Wirt schnell aufs Krankenlager oder gar ins Grab wirft, gefährdet sein eigenes Überleben. Dass rasche Verbreitung mit nachlassender Pathogenität einhergeht, war beim SARS-CoV-2 zu beobachten.40 Doch bleibt, auch wenn das Szenario eines, mittels KI geschaffenen, die Menschheit auslöschenden Virus so wenig realistisch ist wie das der Superintelligenz, was anhand des SARS-CoV-2 deutlich wurde: dass die Molekularbiologie mittels ihres gesamten Instrumentariums, inklusive KI, Dinge hervorzubringen vermag, die, auch unterhalb der Schwelle der Menschheitsvernichtung, Anlass zu Besorgnis geben. Die von Schrappe und anderen erhobene Forderung nach einer Kontrolle solcher Forschung ist deshalb ebenso dringend wie berechtigt.

 

Die tief liegenden Schwächen

Die oberflächlich gegebene Ähnlichkeit zwischen der Funktionsweise von TNN und den neuronalen Prozessen in Organismen verführt zu einer irrigen Gleichsetzung. Schon wenn man sich klarmacht, wie viele Exemplare von Hunden und Katzen, Pferden und Kühen ein Kind gesehen gesehen haben muss, um diese sicher unterscheiden zu können, oder wie viele Mäuse eine junge Katze benötigt, um darin ihre Beute zu erkennen, liegt die Vermutung nahe, dass schon animalische kognitive Fähigkeiten und noch mehr die des Menschen so nicht zu erklären sind. Zu deren Ausbildung sind, im Vergleich zum Training der TNN, erstaunlich wenige Beispiele nötig. Die Propagandisten der Superintelligenz lieben den Vergleich der stürmisch wachsenden Komplexität der TNN, gemessen in der Zahl ihrer Parameter, die bei den LLMs heute in den Billionen liegen, mit der Zahl der Synapsen in den Gehirnen unterschiedlicher Spezies. Weil deren vermutete Intelligenz mit diesen Zahlen ansteige, erwarten sie, dass eine weitere Steigerung der Komplexität der TNN in die Bereiche, in denen die Anzahl der Synapsen im menschlichen Gehirn liegt, entsprechend zu menschlicher und darüber hinaus zu übermenschlicher Intelligenz führe.41
        Sicher ermöglichte die steigende Anzahl von Parametern eine Leistungssteigerung der TNN, doch stößt das Scaling, wie die Vervielfachung der Parameter und Trainingsdaten mit entsprechender Erhöhung des erforderlichen Rechenaufwands genannt wird, an Grenzen. Auch eine noch so starke Steigerung bringt nur noch schwindende Erträge.42 Doch nicht allein dies, vielmehr liegen prinzipielle Unterschiede zwischen dem organischen Leben und seiner Evolution, den in deren Verlauf herausgebildeten kognitiven und kreativen Fähigkeiten einerseits, den TNN und der Skalierung ihrer Parameter und Trainingsdaten andererseits.

 Schon Organismen ohne Nervensystem, selbst Einzeller, zeichnen sich durch Aktivität, Selbstheit und kognitive Fähigkeiten aus. Ein Einzeller wie das Physarum Polycephalum kann den minimalen Weg durch ein Labyrinth finden, wenn das eine Belohnung verspricht. Dazu muss es in physische Interaktion mit diesem treten. Nervensystem und Gehirn sind Organe, d.h. integrale Teile eines Organismus. Weder ihre Funktion noch ihre Evolution lassen sich ohne Bezug auf den gesamten Organismus, auf dessen Rezeptivität und Aktivität verstehen. Hier kommt auch der oft missbrauchte Begriffs der Selbstorganisation ins Spiel: der Organismus als Gesamtheit der Organe bringt diese und sich selbst als seine Funktionen ermöglichende Einheit hervor.43

        Die Evolution von Nervensystem und Gehirn fand schon von den ersten Organismen an, die darüber verfügten, in Wechselwirkung mit allen ihren Organen und mit ihrer Umwelt statt, d.h. dem Teil der Welt, mit dem sie in sensomotorischem und physiologischem Austausch stehen.44 Die des menschlichen Gehirns und der menschlichen Intelligenz ist nicht zu trennen von der seiner Glieder, die ihn zu einem aufrechten Fußgänger und ausdauernden Läufer, zu einem Handwerker, Jäger und auch zu einem Krieger machten. Eine entscheidende Rolle spielte dabei, dass der Mensch keine feste Umwelt mehr kennt, sondern, immer wieder Grenzen überschreitend, weitere Teile der Erdoberfläche erschloss, die von früheren Umwelten oft deutlich abweichende Bedingungen boten.45 Die Herausbildung einer liquiden, anpassungsfähigen Intelligenz, die alle Umwelten transzendierend, sich der Welt zuwendend, diese reflektiv in abstrakte Begriffe zu fassen vermag, ist anders kaum vorstellbar. Hilary Putnam fasste den Zusammenhang von Intelligenz, organischer Konstitution und sozialer Lebensweise in eine knappe Frage: „The question that won't go away is how much of what we call ‚intelligence‘ presupposes the rest of human nature“.46 Aus der oberflächlichen Gleichsetzung der Plastizität des menschlichen Gehirns, die sich u.a. in einer Verstärkung bestimmter Aktivierungswege durch Wiederholung zeigt, mit der Anpassung der Parameter beim Training von TNN zu schließen, dass es „[…] überhaupt kein prinzipielles Hindernis mehr [gibt]“,47 das LLMs dabei stoppen könnte, die menschliche Intelligenz zu überschreiten, geht an deren Verständnis und dem ihrer Evolution vorbei. Ist es schon absurd, Intelligenz auf die Manipulation codierter Information zu reduzieren, so noch mehr, zu glauben, der menschliche Geist könne in den Cyberspace, den maschinell konstituierten Raum der Daten, auswandern, um sich mit der dort entstehenden Superintelligenz zu vereinigen. Auf dem Weg dorthin soll er zunehmend mit einer Maschine verschmelzen, die seine kognitiven und operativen Fähigkeiten ins Unermessliche erweitert, sich in einen Cyborg verwandeln.

        ‚Cyborg‘, kurz für ‚cybernetic organism‘, dieses Kunstwort soll eine funktionale Einheit aus einem Organismus — gemeint ist meist der Mensch — und einer Maschine bezeichnen. Die Einheit von Mensch und Werkzeug, Mensch und Maschine war, als es in den 1960ern entstand, faktisch wie konzeptionell keine völlig neue Sache. Das Werkzeug als Erweiterung der menschlichen Glieder und Sinnesorgane, in dessen Betätigung der Leib mit ihm verschmilzt, ist fundamental für die Herausbildung wie den Erhalt der Spezies Mensch und war schon immer Gegenstand anthropologischer Betrachtungen. Für den geübten Handwerker ist der Hammer die Verlängerung des Arms — nicht nur operativ, sondern auch kognitiv. Ein Blinder ‚ertastet‘ die Welt durch seinen Stock. Auch in der Arbeit mit den komplexen Maschinen, die erst in der jüngeren Menschheitsgeschichte erfunden wurden, bildet sich eine solche Einheit heraus. Das Automobil und sein Fahrer bilden eine solche Einheit, sobald eine gewisse Flüssigkeit der Bedienung sich eingestellt hat. Der erfahrene Fahrer ‚fühlt‘ die Beschaffenheit der Straße und er muss nicht ‚berechnen‘ wie stark er das Lenkrad einschlagen muss. Damit das auch mit Servolenkung funktioniert, muss diese ihm ein spürbares Feedback geben — womit wir genau bei der kybernetischen Problematik angelangt sind, aus dem der Begriff des Cyborg entstand: die Steuerung von Maschinen, deren Leistung die menschlichen Fähigkeiten weit übersteigen, die in Umgebungen operieren, in denen die Sinne des Menschen versagen, in denen dieser überwiegend nicht lebensfähig ist. Letzteres erfordert die Erweiterung des menschlichen Leibes nicht nur durch Werkzeug, sondern durch ‚Überlebenszeug‘, d.h. Vorkehrungen die sein Überleben in solchen Umgebungen ermöglichen, bzw. durch Technik, die eine Bedienung aus der Ferne erlaubt, indem sie zwischen Bediener und Maschine vermittelt.

        Solche Aufgaben stellten sich in den 1960ern dringend durch die in Entstehung begriffene Weltraumfahrt und den militärischen Überschallflug.48 Vorausgeahnt hatten derartiges die italienischen Futuristen, voran deren Vordenker Filippo Tommaso Marinetti, schon vor dem Ersten Weltkrieg und danach der aus dessen Stahlgewittern als deren Künder hervorgegangene Ernst Jünger:

„Es gilt daher, die unmittelbar bevorstehende Identifikation des Menschen mit der Maschine vorzubereiten, indem man einen ununterbrochenen Austausch von Intuition, Rhythmus, Instinkt und metallischer Disziplin erreicht und vollendet, wovon die Mehrheit noch keinerlei Begriff hat und nur die erleuchtetsten Köpfe etwas ahnen.

 […]

 Wenn es dem Menschen möglich sein wird, seinen Willen in der Weise Gestalt annehmen zu lassen, dass er sich außerhalb seiner wie zu einem immensen, unsichtbaren Arm verlängere, werden Traum und Begehren, heute nichts als leere Worte, souverän über den gebändigten Raum und die gezähmte Zeit herrschen.

 Der für eine allgegenwärtige Geschwindigkeit geschaffene a-humane und mechanische Typus wird natürlich grausam, allgegenwärtig und kampfbereit sein.“49

In der Programmatik wie in den Werken der Futuristen und in den Schriften Ernst Jüngers, ist die Verschmelzung von Mensch und Maschine vom sinnlichen, leiblichen Menschen her gedacht, imaginiert, viszeral erfühlt. Diese Dimension fehlt dem heutigen Trend zum Cyberspace: er kommt nicht vom leiblichen Menschen her, sondern von der Fiktion maschineller Superintelligenz und Unsterblichkeit.50 Vom leiblichen Menschen bleibt nur ein Patient, der, „swallowing a daily cocktail pill“,51 schließlich, indem er den Leib, seine Glieder und Sinne hinter sich lässt, einen Schritt ins Nichts tut:
„Technologiegetriebene Medien können den menschlichen Geist zwar unabsehbar erweitern, aber nie seine Bindung an einen lebendigen und verletzbaren Organismus überflüssig machen. Der transhumanistische Traum von einer radikalen Cyborgisierung des menschlichen Organismus ist aus diesem Grund in Wirklichkeit ein Alptraum. Er preist sich als der letzte Schritt zur Selbstbefreiung und -ermächtigung des Menschen an, läuft aber letztlich auf eine Verkehrung des Humanismus in sein Gegenteil hinaus.“52
Nicht zuletzt ist entscheidend, dass die Ausbildung der Befähigungen eines jeden Individuums auf der Basis seiner organischen Disposition, ihre Ausübung und Weiterentwicklung gesellschaftlich stattfindet, in der Begegnung leiblich präsenter Menschen. Der Sprache kommt eine zentrale Rolle zu, doch ist deren Verständnis ohne dessen ihrer Funktion und Konstitution in Kooperation und Interaktion nicht möglich. Geteilte Bedeutungen sprachlicher Äußerungen sind weder im Gehirn in Gestalt von internen noch in Maschinen oder Dokumenten in der von externen Repräsentationen lokalisierbar: sie gehen aus gemeinsamem Handeln hervor.53 Der Versuch, in Gestalt der LLMs Sprachmaschinen ausschließlich auf der Basis eines Korpus textueller Sequenzen zu bauen, hat mehr mit Magie als mit Wissenschaft zu tun und der Glaube, dass Intelligenz allein das Ergebnis einer Vermehrung der Anzahl von Neuronen und Synapsen sei, geht am Verständnis ihrer Evolution und auch an dem ihrer Entwicklung in Individuen vorbei. Eine Äußerung wie die folgende, die in ähnlicher Form wiederkehrend in den Hoffnungen auf die, wie in den Warnungen vor der Superintelligenz auftaucht, zeugt von Ignoranz der entscheidenden Zusammenhänge:
„But that 3x scaled up chimp ends up building nuclear weapons and going to the moon. Chimps don’t go one third of the way to the moon, they go zero to the moon; humans go all the way. […] Things can change quickly with scale.“54
Noch so viele Parameter und Trainingsdaten werden TNN nicht zu wirklicher Intelligenz verhelfen. Diese zeichnet sich dadurch aus, nicht nur erlerntes Verhalten zu reproduzieren, sondern auch in neuen Situationen sich orientieren und angemessen reagieren zu können.55 Das „Intelligence Age“, das OpenAI-Gründer Sam Altman kommen sieht,56 wird vielleicht für eine Handvoll Profiteure „unimaginable prosperity“ bringen, doch nicht für die Mehrheit. Für die wird es eher dürftig ausfallen. Vor allem verlangen die realen Probleme der Menschheit nicht allein Intelligenz und zudem eine von ganz anderer Art als die mechanische oder statistische der Maschine. Entscheidend ist Urteilskraft in estalt der Befähigung zu erkennen, was wichtig ist. Die Billionen, die bisher in die Infrastruktur für das erhoffte „Intelligence Age“ investiert wurden und vorhersehbar weiter investiert werden, sind der Einsatz einer Wette, deren Ausgang alles andere als gewiss ist. In Frage steht nicht nur der Umfang des davon zu erwartenden Nutzens, sondern auch, ob, im Falle eines solchen, mit dessen Herstellung signifikante Margen zu erzielen wären. Denn letztlich gibt es auf diesem Feld kein Geheimnis, dessen Besitz ein Monopol zu schaffen vermöchte. Alle kochen nach den gleichen Rezepten, deren Umsetzung zunehmend in Gestalt von Open-Source-Code verfügbar ist.

 

Das Spiegelspiel

Die Doomer, die mit mit der erwarteten Superintelligenz das Ende der Menschheit kommen sehen, und die Boomer, die sich davon die Lösung aller wissenschaftlichen Rätsel, das Ende allen Mangels und, wenn nicht Unsterblichkeit, so doch eine Verlängerung des Lebens um Jahrzehnte versprechen, teilen nicht nur den Glauben an ihr Kommen, sondern bestätigen ihre Macht, indem sie die Doktrin der jeweils anderen Seite spiegeln. Das historische Vorbild dafür bildet die Atomenergie. Bei dieser hatten Hiroshima und Nagasaki tatsächlich ihre immense destruktive Kraft dargetan. Die Versuche zu ihrer ‚friedlichen‘ Nutzung lebten nicht nur von der Bemühung, einen moralischen Makel zu kompensieren, sondern auch von der Spiegelung ihrer destruktiven Kraft: eine Energie, die solche Verwüstungen anzurichten vermag, so die implizite Unterstellung, müsse doch, richtig angewandt, ebenso unermessliche positive Effekte hervorzubringen in der Lage sein. Atomphysik und Atomtechnik erhielten so den Rang von Künsten mit göttlicher Macht, die den Himmel ebenso zu bereiten vermögen wie die Hölle. Genau nach dieser göttlichen Macht — oder wenigstens deren Schein —  streben die Adepten des Glaubens an die Superintelligenz und dazu braucht es eben beides, Himmel und Hölle — wobei der Verdacht nahe liegt, dass es sich bei der Dystopie einer die Menschheit versklavenden oder gar auslöschenden Superintelligenz, vor der nicht zuletzt die Tech-Milliardäre besonders eindringlich warnen, um die Projektion ihrer grenzenlosen Herrschaftsambitionen handelt.57 Es ist kein Zufall, dass sie immer wieder die Parallele zum Manhattan-Projekt, das damals zu den ersten Atombomben führte, in Anspruch nehmen.58 Sollte in deren Nachgang unbegrenzte Energie, die überwältigende Zerstörungskraft der Atombombe spiegelnd, alle Probleme lösen, so heute heute ‚unbegrenzte Intelligenz‘, von der man sich nicht nur die Lösung des Energie- und, nebenbei, des Klimaproblems verspricht, sondern auch die Heilung aller Krankheiten — etwas, was man sich zuletzt vom Human Genome Project vergeblich erhofft hatte, doch was nun mit KI ganz bestimmt kommen soll.59
        Doomer und Boomer sind, in ihren spiegelbildlichen Rollen, Figuren in demselben Spiel. Das Geschäft, als dessen Fassade das Doomer-Boomer-Game fungiert, besteht darin, mittels der Versprechen wie auch der Ängste, die sich damit verbinden, die Aufmerksamkeit des Publikums zu bannen und, nicht zuletzt, mittels der geschürten Erwartungen auf gigantische Profite immer mehr Kapital anzuziehen, um es in immer mehr Ressourcen — Software, Daten, Rechenzentren, Kraftwerke, letztlich menschliche Talente und Arbeit, Land, Wasser, Mineralien und Energie — zu investieren, die das Scaling, der aktuell eingeschlagene, angeblich zur Superintelligenz führende Pfad erfordere. Die, die sich als Doomer exponiert haben, sind dabei, denn schließlich seien sie die Guten und, da die Superintelligenz unvermeidlich sei, sei es auch geboten, dass sie als Erste sie erreichen. So die Erzählung, die am Anfang von OpenAI stand und eine Neuauflage erfuhr, als Dario Amodei und seine Schwester Daniela das Unternehmen verließen, um Anthropic zu gründen, nachdem OpenAI-Chef Sam Altman ihrer Meinung nach zu weit vom rechten Weg abgekommen wäre.60 Zu den Bösen gehörte bei Gründung  auf jeden Fall Google, für die Amodeis kam dann auch OpenAI, aber für alle sind die ganz Bösen die Chinesen. Letztlich erweist sich die ethische Erzählung als Fassade, wenn es ums Geld geht, das man benötigt, um dem vorgeblich einzig gebotenen Pfad des Scaling zu folgen. Es handelt sich immer um Beträge, die in den Hunderten von Milliarden liegen und sich über die großen Spieler zu Billionen summieren.61
        Würde eine autonome, übermenschliche Intelligenz sich durch ein ‚Training‘ und ‚Oversight‘ anhand einer Constitution — so nennt Anthropic das Regelwerk für eine ‚gutartige‘ KI — auf soft und woke, also auf Bonsai-Format, trimmen lassen? Das Unternehmen verrät allzu viel über den Begriff von Intelligenz, dem die Künder der Superintelligenz anhängen. Wenn Amanda Askell, Anthropics Direktorin für Alignment, sich Fragen stellt wie „was fühlt die KI für uns“ und die Absicht bekundet, dass sie ihr beibringen möchte, „Gutes in der Welt zu tun“,62 entlarvt sie ihre Tätigkeit als Blendwerk. Die Constitution ist vorerst für das Publikumsmodell gedacht und soll, so ist zu vermuten, vor allem das Publikum beeindrucken. Das Modell, mit dem das Pentagon bis zum Zerwürfnis gearbeitet hat, so erfährt man nebenbei, ist frei davon. Wenn eine Person, die angeblich eine philosophische Promotion absolviert hat, derartiges äußert, stellt das entweder der Hochschule, die ihr den Titel verliehen hat, ein vernichtendes Zeugnis aus, oder es legt die Vermutung nahe, dass sie sehr viel Geld dafür erhält. Möglicherweise ist das ‚oder‘ nicht exklusiv.

 Einer besonderen Überlegung bedarf der Sachverhalt, dass die Superintelligenz nicht etwa als selbstloses Vehikel menschlichen Wissensdurstes, sondern als autonom handelnde Instanz imaginiert wird. Die Vermutung liegt nahe, dass hier eine weitere Spiegelbildlichkeit, nämlich die von Technik und Metaphysik an die Oberfläche drängt, die in beider Geschichte untergründig schon immer wirksam war. Wenn der späte Martin Heidegger vom „Wesen der Technik, das Wort hier identisch gesetzt mit dem Begriff der sich vollendenden Metaphysik“,63 sprach, erkannte er darin den menschlichen Willen zur Herrschaft, der die Erde zu einer Wüste der Gleichförmigkeit macht und, in der Tat, schon die Bemühungen der Metaphysik leitete, alle Dinge durch Identität, durch unveränderliche geistige Wesenheiten zu bestimmen.

        Was Heidegger nicht wahrnahm, ist das Töpfermodell, das dem zugrunde liegt und die ebenso heimliche wie unheimliche Identität von Technik und Metaphysik ausmacht: der Sachverhalt, dass die Metaphysik die Welt schon immer als Artefakt, als technisches Erzeugnis, konzipierte, geschaffen von einem allmächtigen Schöpfer, der die Dinge zur Existenz bringt, indem er amorpher Materie geistige Formen aufprägt. Äußerstes Schöpfertum demonstriert dieser, indem er ein Abbild seiner selbst schafft, den mit einem unabhängigen Willen ausgestatteten Menschen. Die Spiegelbildlichkeit menschlicher und göttlicher Schöpfung vollendet sich heute darin, dass der Mensch ebenfalls sein Abbild zu schaffen versucht und, letzte Steigerung, über die alte Sage vom Golem hinaus,64 diesem Abbild göttlichen Status zugesteht, indem er, fürchtend order hoffend, erwartet, dass dieses, sich ins Übermenschliche steigernd, ihn gänzlich eliminieren oder doch zu sich, in den Cyberspace, erheben werde.

        Ein Unternehmen, das sich an der Spitze des Fortschritts, als Gipfel von Aufklärung und Wissenschaft sieht, wird selbst zum Mythos. Auf neue Weise bestätigt sich, was Max Horkheimer und Theodor W. Adorno als die zentrale Lehre ihrer Dialektik der Aufklärung ansahen, nämlich

„dass die Ursache des Rückfalls von Aufklärung in Mythologie nicht so sehr bei den eigens zum Zwecke des Rückfalls ersonnenen nationalistischen, heidnischen und sonstigen modernen Mythologie zu suchen ist, sondern bei der in Furcht vor der Wahrheit erstarrenden Aufklärung selbst“.65
Der Konformismus einer im Szientismus erstarrten Wissenschaft, die sich willig mit jeder von den Herren des Kapitals favorisierten Ideologie amalgamiert, verleiht deren Mythen den Schein von Validität, während er die Frage danach, was den Menschen, seine Leiblichkeit, seinen Intellekt schließlich, ausmacht, ausblendet. Genau dieser Zusammenhang entgeht all denen, die in ihrem ‚Kampf gegen Rechts‘ die Californian Ideology,66 den Glauben an die Superintelligenz, an den Exodus in den Cyberspace und dessen Kontinuität mit dem Futurismus, mit Ernst Jüngers Stahlgewittern und dem in solchen gestählten Arbeiter entdeckten, nachdem einige Tech-Mogule sich auf der Rechten positioniert und als Unterstützer von Donald Trump exponiert hatten.67 Solange das Silicon Valley fest in liberaler Hand schien, hatten sie sie mit der Silicon Valley ideology keine Probleme. Sie übersehen jedoch den bereits angesprochenen Bruch, der zwischen Ernst Jünger und den Futuristen einerseits und dem Evangelium vom Cyberspace liegt, wie auch den Sachverhalt, dass der Nihilismus im Kern der diesem zugrunde liegenden wissenschaftlichen Ideologie liegt und deren ‚liberale‘ und ‚linke‘ Versionen ebenso affiziert — paradigmatisch die postmoderne Auflösung aller Differenzierungen, deren eine Auseinandersetzung mit der Realität bedarf, wie auch die Utopie einer vollautomatisierten Gesellschaft, die, indem sie das Leben scheinbar in den Cyberspace hebt, es tatsächlich jedoch auslöscht, zugleich eine unter totaler Kontrolle ist:68 „all watched over by machines of loving grace“.69
        Was Ernst Jünger und die Futuristen auszeichnet, ist, dass sie ungleich ehrlicher, realistischer sind als die den menschlichen Leib negierenden Ideologen des Cyberspace, indem sie im Mittelpunkt der Maschinenwelt immer noch einen, mental wie auch immer transformierten, diese als Erweiterung seiner Physis heroisch beherrschenden, Menschen sehen. Dass der menschliche Geist unabhängig von seiner ‚Hardware‘ sei, man ihn aus dem Organismus ‚abziehen‘ und auf eine Maschine transferieren könne, ist eine Idee nicht der Futuristen oder Ernst Jüngers, sondern der Gläubigen der Cyberideologie. Noch weniger als auf jene vermögen diese sich auf Friedrich Nietzsche zu berufen, der seiner Gemeinde noch diese Mahnung zukomme ließ: „bleibt der Erde treu“.70 Genau dies verfehlt eine Formel des Rock- und Cyberpoeten John Perry Barlow, eines der wichtigsten Vertreter dieser Ideologie: „Ours is a world that is both everywhere and nowhere, but it is not where bodies live“71
        Noch weniger als das Friedrich Nietzsches erfassen die Künder der aus puritanischem Boden gewachsenen Cyberideologie das zutiefst katholische Denken eines Pierre Teilhard de Chardin, wenn  sie versuchen, das von diesem geschaffene Konzept der Noosphäre sich anzueignen. Diese ist weder das Territorium der Ideen, wie etwa Eric S. Raymond, in den 1990ern einer der Propagandisten von offener Software, annahm,72 noch die Gesamtheit des menschlichen Bewusstseins, wie Barlow meinte.73 In Teilhards Denken erweitert die Noosphäre, an Barysphäre, Lithosphäre, Hydrosphäre, Atmosphäre und Biosphäre anschließend, die Folge der geologische Sphären. Er sieht in deren Herausbildung eine planetarische Veränderung, einen Vorgang, der nicht allein geistig, in den Anfängen des Denkens stattfindet, sondern der Erde auch ein neues Erscheinungsbild verleiht: es entsteht etwas Organisches, eine „eine ‚denkende Schicht‘“,74 keine Schicht der Gedanken und Ideen, mit Konsequenzen, die — und das macht gerade die Besonderheit des Menschen aus — weit über den menschlichen Leib im engeren Sinne hinausreichen. „Die Erde ‚kleidet sich neu‘“,75 in diese Worte fasst er dieses Ereignis, das eben auch außerhalb des Geistigen, ja des Organismus Gestalt annimmt:
„[…] dieses plötzliche Überschwellen der Gehirnfunktion, dieser biologische Vorsturm eines neuen lebenden Typus, der nach und nach jede andere Lebensform als die menschliche ausscheidet oder sich dienstbar macht, diese unaufhaltsame Flut von Feldern und Fabriken, dieser ungeheure, immer höhere Bau von Materie und Ideen. … Verkünden nicht alle diese Zeichen, die wir tagaus, tagein sehen, ohne zu versuchen, sie zu verstehen, dass sich auf der Erde etwas ‚planetarisch‘ geändert hat?“.76  
In der Evolution nimmt er die schrittweise Inkarnation des Geistes im Kosmos wahr. Nichts unterstützt die Annahme, Unsterblichkeit sei zu erreichen, indem der Geist in der Maschine eine neue Heimat fände. Dem „Ende der Welt“ am „Punkt Omega“ nähert Teilhard sich, nicht auf die Maschine hoffend, sondern spekulativ, auf das Innere des Geistes zielend: „die Noosphäre, die das äußerste Maß ihrer Komplexität und zugleich ihrer Zentrierung erreicht hat, kehrt durch eine nach innen gerichtete Gesamtbewegung zu sich selbst zurück“.77
        Die Träume kybernetischer Schöpfung leben immer noch von der Täuschung, der schon die alten Mythen und, mehr noch, die Versuche metaphysischer Welterklärung anheim fielen: dass das Wort, die geistige Form allein Wirklichkeit schaffe. John Perry Barlow schien nicht klar gewesen zu sein, dass er mit seiner Formel ein Nichts anrief. Der Widerstand gegen „the ideology of the inevitability of the death of every individual“,78 den Tech-Milliardäre wie Peter Thiel artikulieren, hofft auf die Erhebung in eine Sphäre, in der von der Welt, vom Leben nichts übrigbleibt. Sie übersehen, dass es in der, dem zum bloßem Punkt der Herrschaftsausübung kontrahierten, entleerten Ich gegenüberstehenden, zu Material reduzierten Welt nichts mehr geben kann, was über sie hinausweist, dass dort, um es in Heideggers Worten auszudrücken, „der Mensch innerhalb des Gegenstandslosen nur noch der Besteller des Bestandes ist, − […] der Mensch am äußersten Rand des Absturzes [geht], dorthin nämlich, wo er selber nur noch als Bestand genommen werden soll“.79 Der auf die autonome, sich zur Göttlichen steigernde, Superintelligenz setzende Transhumanismus ist nicht mehr als eine trendig aufgemachte Larve des Nihilismus.

        Doch zurück zu den vordergründigen und, nach heutigen Maßstäben, darunter wichtigsten, wenn auch durch eine eigene Hintergründigkeit sich auszeichnenden Dingen: das Scaling der Modelle zieht, wie angedeutet, die Skalierung des Finanzbedarfs in bisher nicht gekannte Dimensionen nach sich — was wiederum erfordert, auch die Gewinnerwartungen der Investoren und dazu die Versprechungen unerhörter Erfolge mit zu skalieren. Die Fata Morgana der unvermeidlich kommenden Superintelligenz verlangt ihre permanente Bestätigung, ja Steigerung, um den anwachsenden Strom der Ressourcen zu erhalten, dessen die angeblich zu ihrer Erlangung ausgebauten Systeme bedürfen. Das funktioniert, solange FOMO, fear of missing out, eine rationale Prüfung des ausgegebenen Ziels, des davon erwarteten Nutzens und der Angemessenheit der angeblich zu seiner Erreichung verbrannten Ressourcen verdrängt. FOMO treibt auch die zahlreichen Projekte zur Einführung von KI in Unternehmen an, die, meist ohne klare Zielvorstellungen und Einbindung der Mitarbeiter, zum Scheitern verurteilt sind. FOMO macht die KI auch zu einem Götzendienst, dem das Publikum in Massen verfällt: wo man früher überlegt, vielleicht auch Freunde befragt und recherchiert hat, geht man heute zum Orakel KI in Gestalt eines ChatBots. Groteske Züge nimmt das an, wenn Stars der alternativen Medienszene in Videobeiträgen und sogar in Büchern dokumentieren, wie sie mit viel Mühe einem ChatBot die Version einer Geschichte entlocken, die sie für die wahre halten. Nicht minder publikumswirksam beschwört man die Gefahr der Superintelligenz, um die Beschäftigung mit den naheliegenden realen Gefahren ins Abseits zu drängen. Die seien nachfolgend skizziert.

 

Die wirklichen Probleme und Gefahren

Die Bereiche, in denen die KI heute Gefahren bergende Entwicklungen treibt, die Aufmerksamkeit verdienen, sind zunächst die der diversen Ressourcen — menschlichen, d.h. Arbeitskraft und Qualifikation, natürlichen und finanziellen —, dann die der Formen ihres Einsatzes bzw. auch der Substitution von Arbeitskraft durch sie und schließlich die der Folgen ihrer Nutzung für die Anwender, insbesondere für ihre Informationsversorgung und ihr kognitives Vermögen. Dabei ist weniger die Substitution von menschlicher Arbeit von Bedeutung als vielmehr, dass sich die Bedingungen ihres Einsatzes wie auch ihre Ergebnisse verschlechtern und schon mittelfristig mit einem verminderten Nachwuchs an qualifizierter Arbeitskraft zu rechnen ist.  

        Am deutlichsten ins Auge fällt der Sachverhalt, dass der KI-Boom mit einer Verschwendung von Ressourcen und, im Zusammenhang damit, mit einer Vertiefung des globalen Ausbeutungsregimes einhergeht. Das betrifft sowohl natürliche Ressourcen als auch menschliche Arbeit und Talente. Plattformen und KI greifen für die Aufbereitung des Datenmaterials und Moderation des Inhalts auf ein nach zig oder gar hunderten Millionen zählendes Heer von prekär beschäftigten, schlecht bezahlten Arbeitern, vorzugsweise im globalen Süden, zurück.80 Die technisch-wissenschaftlichen Talente, deren man sich in den Metropolen des Nordens, doch auch in deren südlichen Satelliten, wie etwa den indischen IT-Zentren Bengaluru und Pune, bedient, erfreuen sich, allerdings stark abgestuft, ungleich besserer Arbeitsbedingungen und Bezahlung. Doch stellt sich die Frage, ob hier nicht zahlreiche Talente und damit verbundene Biographien auf ein illusionäres Ziel orientiert und so letztlich verschwendet werden. Eine destruktive Entwicklung, die bisher kaum Aufmerksamkeit erhält, besteht in dem, was Karen Hao als „uberization of knowledge work“ bezeichnete:81 durch KI-Systeme werden Arbeiter freigesetzt, die dann, unter ungleich schlechteren, prekären Bedingungen angeheuert werden, um den Einsatz von solchen Systemen durch die Aufbereitung von Daten und Moderation ihres Betriebs zu ermöglichen. Das Modell, das bisher vor allem im Globalen Süden zu finden war, breitet sich dadurch auch in den Metropolen aus.
        Nicht weniger trifft der Sachverhalt der Verschwendung auf die natürlichen Ressourcen zu, die der  KI-Boom in Anspruch nimmt. Das ist zunächst Wasser für die Kühlung der Rechenzentren, von denen viele in Gebieten stehen, wo es ohnehin knapp ist, und dann das weite Spektrum von Mineralien, die in den Aufbau der Rechenzentren, doch auch in den ihrer Energieversorgung eingehen. Diese Entwicklung gerät in Konflikt mit den aktuellen Bemühungen, die Raumklimatisierung und einen weiter wachsenden automobilen Verkehr zu elektrifizieren. Erkennbar ist das schon heute an Preissprüngen für die wichtigen Mineralien, insbesondere für Kupfer, dem in allen elektrotechnischen Anwendungen eine zentrale Rolle zukommt.82 Es zeichnet sich hier ein Ressourcenengpass ab, der viele der heutigen Ambitionen, ob bei KI oder Elektrifizierung, in Frage stellt.
        Nicht weniger als für die Mineralien gilt dies für die Energie, deren Bereitstellung in Form von Elektrizität bereits einen großen Anteil am Verbrauch dieser Mineralien, insbesondere metallischen wie Kupfer, hat. Nachdem die ursprünglichen Engpässe — Prozessorleistung und Daten — für die statistische KI überwunden zu sein schienen, wird mit deren Skalierung Energie zum Engpass: „In the age of AI, the biggest barrier to progress isn’t money but energy“.83 Die dadurch geschaffene, noch mehr jedoch die in den nächsten Jahren zu erwartende, Nachfrage nach elektrischer Energie wird den Markt und die Kapazitäten dafür unter Stress setzen — was ihren Preisen weiteren Auftrieb geben wird. Das bisher verfolgte Konzept der Substitution von Verbrennung durch Elektrizität an den Stellen des unmittelbaren Bedarfs und durch regenerierbare Quellen bei deren Erzeugung gerät zunehmend unter Druck, da nicht nur der Bedarf schneller wächst als die Möglichkeiten der Substitution, sondern auch diese selbst durch eine konkurrierende Nachfrage und Preissteigerungen bei den dafür notwendigen Mineralien gefährdet ist.
        Doch nicht nur bei Mineralien und Energie entstehen Engpässe, sondern auch bei Produkten, die kritische Ressourcen für die Bereitstellung nicht nur der KI-Systeme sind: RAM (random access memory), das ist frei adressierbarer schneller Speicher, auf den alle Computer, solche, die komplexe Berechnungen ausführen, jedoch in großem Ausmaß, angewiesen sind, wird im Zuge des rasanten Ausbaus der Kapazitäten für KI knapp. Die Preise haben sich in den letzten Monaten verdreifacht und Lieferzeiten reichen Anfang 2026 schon bis weit ins Jahr 2027. Darunter leiden besonders finanziell schwach ausgestattete Forschungseinrichtungen, zu denen die Mehrzahl der im globalen Süden beheimateten gehören.84 Der KI-Boom lockt nicht nur immer mehr Nachwuchswissenschaftler aus den Laboren, sondern entzieht letzteren auch wichtiges Gerät und beschädigt dadurch die Forschung.
        Eine andere Frage ist, als wie beständig der Boom sich erweisen wird, denn das Ausmaß, in dem er gegenwärtig Ressourcen in Anspruch nimmt, ist nur durch einen entsprechenden Zufluss an finanziellen Mitteln aufrecht zu erhalten. Dieser Zufluss ist spekulativ. Nennenswerte Profite gab es bisher nicht und es bestehen Zweifel, ob die im angebrochenen Jahr beabsichtigten Investitionen, allein der vier größten Spieler (Amazon, Google, Meta, Microsoft) im Umfang von 660 Milliarden Dollar, in neue Rechenzentren, die sich mit den durch sie in den drei Vorjahren getätigten zu ca. 1,5 Billionen Dollar summieren, durch Erlöse einzubringen seien.85 Das sich hier ergebende Bild hat Ähnlichkeit mit dem der dot.com-Blase, die sich in den 1990ern aufgebaut hatte, um im Jahr 2000 zu kollabieren. Damals waren viele Kleinanleger unmittelbar betroffen. Das dürfte heute nicht in diesem Maße der Fall sein, doch wird ein entsprechendes Ereignis an den Volkswirtschaften und am Finanzsystem des Westens nicht vorbeigehen, ohne Schäden zu hinterlassen — dies noch mehr nachdem die Rohstoffengpässe und, noch mehr, der Glaubwürdigkeitsverlust in der Folge des Iran-Krieges beide schon unter Stress gesetzt haben.
        Völlig unübersichtlich ist bis heute des Feld möglicher Anwendungen. Dies vor allem, weil es zwar unzählige Versuche dazu gibt, doch keine umfassende Auswertung ihrer Ergebnisse anhand konsistenter Kriterien. Berichte von Projekten aus der Wirtschaft zeichnen bisher ein Bild, das durch galoppierende Kosten und unbefriedigende Ergebnisse gekennzeichnet ist. Die zentrale und, solange sie vom statistischen Ansatz ausgeht, unaufhebbare Schwäche der KI liegt in ihrer prinzipiellen Unzuverlässigkeit. Berichte von, mittels KI erstellten, Medienbeiträgen, Steuererklärungen und selbst juristischen Schriftsätzen, die schwerwiegende Fehler und Verweise auf nichtexistierende Quellen enthielten, gibt es genug.86 Auch die vollmundig verlautbarten Prognosen, dass Programmierer bald nicht mehr gebraucht würden, weil die KI sie ersetzen werde, erweisen sich zumindest als verfrüht: machen schon die extrem kurzen Abstände misstrauisch, mit denen neue Ausgaben populärer Softwareprodukte zum Download anstehen, seit generative KI für die Programmierung verfügbar ist, so noch mehr die Nachrichten von Störungen wichtiger Systeme, die auf ihre Anwendung zurückgeführt werden.87 Die Frage, wie auf diese Weise hergestellter Code instand zuhalten und anzupassen sein wird, dürfte noch für einiges Kopfzerbrechen sorgen. Im Grunde entsteht so Write-only-Code, den man nur noch wegwerfen kann, wenn er sich als fehlerhaft oder nicht mehr anforderungsgerecht herausstellt.88 Wie in der so entstehenden Softwarekultur noch Fachleute heranwachsen sollen, die dazu in der Lage sind, präzise Spezifikationen zu schreiben und ihre Implikation zu bewerten, stellt eine alles andere als beruhigende Frage dar. Automatische Werkzeuge können die Prüfung von Code unterstützen, doch profunde Expertise nicht ersetzen.

 Aus der Unzuverlässigkeit der statistischen KI resultiert ein Dilemma, das die sie anwendenden Organisationen und, noch mehr, deren Mitglieder umso extremer belastet, je größer die Tragweite möglicher Irrtümer ist: während blindes Vertrauen in ihre Ergebnisse fatale Konsequenzen haben kann, macht sorgfältige Prüfung die Effizienzgewinne zunichte, die man sich von ihrer Anwendung verspricht. Der dadurch aufgebaute Zeitdruck führt in Folge der erhöhten Belastung der Anwender oft zu nachlässiger Prüfung, wenn nicht zu deren Überspringen. Schon allein die Verfügbarkeit von KI-Werkzeugen kann zu Arbeitsverdichtung, Selbstüberschätzung und Qualitätsminderung führen.89 Zu denken sollte auch geben, dass einige große Versicherungsgesellschaften keine Abdeckung von Schäden mehr anbieten, die durch KI verursacht wurden, während andere die Prämien für solche Fälle deutlich erhöht haben.90

        Vor diesem Hintergrund ist die Diskussion über den militärischen Einsatz von KI zu führen. Die bloße Forderung nach „humans in the loop“ geht am Problem vorbei,91 solange diese unter dem Druck hoher Verwundbarkeit der Systeme, doch besonders derer von C3I (command, control, communication and intelligence, d.h. Kommando, Kommunikation und Aufklärung), wie das im heutigen Militärsprech heißt, extrem verkürzter Vorwarnzeiten und einer Doktrin agieren, die auf den Vorteil durch schnelle Entscheidungen setzt. Hier geht es um eine Diskussion, die es schon in die 1950ern zurückreicht. Herbert York, der ab 1952 erster Direktor des Lawrence Livermore Laboratory, des, nach Los Alamos, zweiten Labors für die Entwicklung von Atomwaffen, ab 1958 Chefwissenschaftler der damals neu gegründeten ARPA und schließlich Direktor  aller Forschungs- und Entwicklungsaktivitäten (DDRE, Director of Defense Research and Engineering) im DoD gewesen war, blickte 1970 auf den Rüstungswettlauf zurück, an dem er in diesen Positionen beteiligt gewesen war:
„ABM and MIRV92 both epitomize the accelerating trend toward complexity and a concomitant need for more highly automated, quicker response. The main dangers in this trend are three: it may result in placing too high a premium on going first; it probably increases the danger of accidental war; and it surely accelerates the trend in the seemingly inexorable transfer of authority over certain life-and-death decisions from statesmen and politicians to soldiers and technicians, from high levels to low level, and from human beings to machines.“93
York fasste seinen Rückblick zusammen, indem er von einer „ultimate absurdity“ sprach, die in der Tatsache liege, „that ever since World War II the military power of the United States has been steadily increasing, while at the same time our national security has been rapidly and inexorably decreasing. The same thing is happening to the Soviet Union“.94

        In den 1980ern wurde die Diskussion um strategische Frühwarnsysteme, angestoßen durch die Strategic Defense Initiative (SDI), also Ronald Reagans ‚Star Wars‘-Programm, durch prominente Naturwissenschaftler und Informatiker in die Öffentlichkeit getragen, doch ohne substanzielle Wirkungen zu erzielen. Nicht zuletzt erzeugte das — vorläufige — Ende der Ost-West-Konfrontation ein trügerischen Gefühl der Sicherheit, während die breite Verfügbarkeit leistungsfähiger Mikroelektronik — eine Folge von fertigungstechnischen Durchbrüchen, die nicht an deren Geburtsort, dem Silicon Valley, erzielt wurden, sondern in Japan und in Europa — dieses Problem seither von der Ebene der strategischen Waffen in die taktische und in alle Frontabschnitte trug.

 All die Kommentare, die hier eine völlig neue, exklusiv auf die KI zurückzuführende, Problematik sehen, gehen am Kern der Sache vorbei, nicht zuletzt auch, weil sie sich viele davon durch eine völlige Ahnungslosigkeit hinsichtlich der Fragen militärischer Technik und ihrer Geschichte, insbesondere der IT in deren Kontext, auszeichnen: Eine Aussage wie „militärische Systeme bestehen heute nicht mehr nur aus physischen Komponenten wie Flugzeugen, Raketen oder Fahrzeugen. Sie sind Teil komplexer digitaler Netzwerke, in denen Daten verarbeitet und analysiert werden“95 zeichnet sich durch tiefe historische Ahnungslosigkeit aus. C3I gehört, seit Menschen Krieg führen, dazu und selbstverständlich wird dazu digitale IT eingesetzt, seit sie verfügbar ist, also schon seit den ersten Nachkriegsjahren.96 Unter dem Problem, dass die Menge der Daten die Fähigkeit, darin Sinn zu erkennen, überstieg, litten die Nachrichtendienste schon lange, und da es sich mit der Perfektionierung und Vervielfachung der sie liefernden technischen Kanäle (Photographie, Funk, Radar, digitale multispektrale Sensorik, luft- und weltraumgestützte Plattformen dafür) ebenfalls vervielfachte, sann man auch schon immer auf technische Abhilfe.

 „Früher mussten menschliche Analysten diese Daten manuell auswerten.“ Das ist, einmal abgesehen davon, dass die Leute, die das tun, in der deutschen Sprache ‚Analytiker‘ heißen, richtig, sofern man ein „ausschließlich“ vor „menschliche Analysten“ setzt und mit „früher“ etwas treffender ‚vor mehr als hundert Jahren‘ gemeint ist. Schon zu Zeiten der silberbasierten Fotografie setzte man diverse Techniken ein, um den verfügbaren Spektralbereich auszuweiten, wie auch um die Auswertung zu unterstützen und seit digitale IT verfügbar ist, gibt es digitale Bildverarbeitung, die zunächst versuchte, bestimmte Merkmale deutlicher herauszuarbeiten bzw. zu unterscheiden, um sich dann immer mehr der Klassifikation des Bildinhalts anzunähern. Dabei wurden schon in den 1970ern und 1980ern bedeutende Fortschritte erzielt. Die letzten signifikanten datieren, wie bereits ausgeführt, von 2012, als es gelang, durch die Kombination von Massen an Daten aus dem Internet, TNN und GPUs eine deutliche Verbesserung der Bilderkennung zu erreichen — etwas, was an den Militärs und den Nachrichtendiensten nicht vorbeiging. Damit schien sich ein Weg zu öffnen, um das Missverhältnis zwischen der Flut von Daten und der Fähigkeit zu ihrer Auswertung zu schließen — allerdings um den Preis möglicher Irrtümer, die nicht nur aus dem inversen Verhältnis von Sensitivität und Spezifität, sondern auch aus veraltetem Datenmaterial resultieren können. Unter dem Druck einer Doktrin, die, wie die aktuell in den US-Streitkräften gültige, auf die Kompression der Abläufe von Zielerkennung und Zerstörung setzen, sind auch „humans in the loop“ überfordert und Katastrophen programmiert.97

        Die gestreuten Erwartungen eines Produktivitätsschubs, ebenso wie die entsprechenden Befürchtungen von massiven Arbeitsplatzverlusten, entbehren gegenwärtig einer Grundlage.98 Mit der Substitution menschlicher Arbeit durch die heutige KI stellt sich immer die Frage, wie viel Qualitätsverschlechterung deren Adressaten akzeptieren und, noch mehr, welches Risiko die darauf setzende Organisationen einzugehen bzw. ihren Kunden, der Gesellschaft oder gar der Menschheit zuzumuten bereit sind und letztere hinnehmen mag. Eine weithin unterschätzte Konsequenz der voreiligen Einführung von KI, um vorbereitende Aufgaben wie Informationssammlung und die Zusammenfassung von Quellen zu erledigen, besteht darin, dass man auf diese Weise nicht nur ein Arbeitsgebiet eliminiert, auf dem sich der Nachwuchs bilden und bewähren kann, sondern dadurch auch den Pool, aus dem man die Fähigen zu selektieren und auf die anspruchsvolleren Positionen zu heben vermag. Besonders Forschung und Entwicklung, Beratungsunternehmen und Anwaltsfirmen steuern auf ein ernstes Problem zu. Nicht zuletzt stellt sich die Frage, wer die primären Quellen noch kennt und durch deren Studium einen Überblick des betreffenden Gebiets erworben hat — wodurch sich die Autoren von wissenschaftlichen Abstracts auszeichnen sollten —, wenn alle nur noch mit den KI-generierten Zusammenfassungen arbeiten.99

Das schwarze Loch

Noch ernster ist das Problem, mit dem Gesellschaften sich auseinandersetzen müssen, in denen der Gebrauch von generativer KI zum reflexhaften Verhaltensmuster gegenüber jeglicher Art intellektueller Herausforderung wird — von simplen Informationsfragen bis hin zur Entwicklung und Dokumentation von Lösungen. Das scheint der Pfad zu sein, auf dem sich die westlichen Gesellschaften bewegen. Das darin eingeschlossene Risiko liegt nicht allein in der Unzuverlässigkeit der KI und ihrer Anfälligkeit für systematische Verzerrungen durch die Auswahl des Trainingsmaterials, sondern ebenso in der biologischen Tatsache, dass der Organismus Fähigkeiten, bzw. die dazu erforderlichen physischen Voraussetzungen, die er nicht übt, abbaut und, sofern sie erst zu bilden wären, gar nicht erst aufbaut. Die organischen Effekte in Form eines reduzierten Aufbaus von Verknüpfungen im Gehirn sind messbar, die Folgen, insbesondere ein Verlust an Urteilsfähigkeit und, damit einhergehend, eine Unfähigkeit, scheinbar Gelerntes treffend anzuwenden, sind zu beobachten.100 Damit setzt sich eine Entwicklung verstärkt fort, die, mit ‚kompetenzorientiertem Unterricht‘ in der Folge vergangener ‚Schulreformen‘ und ‚Bologna‘ an den Hochschulen, bereits zuvor zum Verfall kognitiver Fähigkeiten bzw. zum fortschreitenden Unterlassen ihres Aufbaus führte.101 Zugrunde liegt dem die, immer wieder der Verführung durch den letzten Schrei Abkürzung versprechender Technik erliegende, Kontinuität des Irrglaubens, Kompetenz ließe sich ohne Vertiefung in die Sache, ohne immer wieder erneuerte Übung darin, erreichen. Aus Kreisen der Pädagogen vernehmbare Stimmen glauben zu wissen, dass das angesichts der KI Erforderliche „[…] sich sicher als Formen von ,Kl-Kompetenz‘ fassen [ließen]“.102 Das sich bei solchen Rezepten einstellende Gefühl, die Schüler damit doch allein zu lassen, entlädt sich dann in Appellen wie diesem:
„Lehrkräfte haben in dieser Hinsicht eine besondere Rolle. Sie müssen Lernbegleiter statt Kompetenzvermittler sein, mehr als bisher eine pädagogische und erzieherische Beziehung zu Schülerinnen und Schülern entwickeln. Sie sollten sich von Eigenschaften wie Wertschätzung und Empathie leiten lassen.“103

Was muss geschehen sein, dass jemand eine „pädagogische und erzieherische Beziehung“ zu den Schülern als Innovation verkaufen kann? Eine solche sollte doch schon lange selbstverständlich gewesen sein. Doch ob ein netter Lernbegleiter, dem die fachliche Autorität fehlt, sie aufzubauen in der Lage ist, bleibt fraglich. Ebenso, ob ein Bildungssystem, das schon lange nicht mehr dazu in der Lage ist, in Jugendlichen die Kenntnisse und Fähigkeiten zu bilden, deren sie für eine eigenständige Auseinandersetzung mit der Wellt bedürfen, die hier liegende Herausforderung überhaupt noch wahrzunehmen vermag.

 Die größte Besorgnis nicht nur der politischen und medialen Klasse, sondern auch der von ihr als Intellektuelle Gehandelten besteht ohnehin darin, die ChatBots könnten vielleicht etwas außerhalb der von ihnen als legitim angesehenen Bandbreite ausspucken. Darauf deuten schon die zuvor erwähnten Aktivitäten von Anthropic hin. Hat die KI einmal epistemische Autorität erlangt, gelte es, ihr Trainingsmaterial so auszuwählen und ihre Tätigkeit so zu überwachen und zu steuern, dass sie den Korridor des Zugelassenen nicht verlässt. Solche Systeme

„scheinen nur dann eine reale Möglichkeit zu sein, wenn die Gesellschaft die Sprachmodelle, die immer mehr die Kommunikation ihrer Bürger bestimmen werden, als sensible Infrastruktur oder gar Daseinsvorsorge deklariert und zur Vielfalt per Design verpflichtet — so wie sie den öffentlich-rechtlichen Rundfunk per Medienstaatsvertrag gesetzlich zur Informations- und Perspektivenvielfalt verpflichtet.“104
Wie diese „Informations- und Perspektivenvielfalt“ aussieht, kann man an den als Vorbild angeführten Medien nur allzu gut beobachten. Die weichgespülten Miethirne des politmedialen Betriebs schreien lauthals nach der stillen, unsichtbaren Zensur, die keiner Bücherverbrennung mehr bedarf. Ist die Gleichung „Apparat = Welt“,105 in der Günther Anders schon vor mehr als vier Jahrzehnten das Telos der die Moderne durchwaltenden Maschinerie erkannte, einmal erreicht, den Gegenständen ihre Eigenständigkeit genommen, die Differenz von Sein und Schein eingeebnet und die mediale Blase in den Rang der Totalität erhoben, sollten die Besorgnisse ihrer Hüter vielleicht verschwinden — oder doch nicht, denn die Blasenwelt scheint zu ihrer Kohäsion wenigstens einiger Phantome als Gegen- und Schreckbilder zu bedürfen, ihre Hüter ohne ihre Rolle als Warner überflüssig erscheinen. Was den Reichtum der menschlichen Natur — individuell wie gesellschaftlich — ausmacht, soll in einem schwarzen Loch verschwinden, in dem alles, vom blassen Schrecken möglichen Andersseins getrieben, nur noch um sich selbst kreist.  

1Michael Holmes: Das Rennen um Superintelligenz bedroht die Menschheit — ein Interview mit Holly Elmore, Direktorin von Pause AI USA. Nachdenkseiten, 18. Februar 2026 <https://www.nachdenkseiten.de/?p=146464> (20.02.2026) und ders.: Bernie Sanders schlägt Alarm: Eine Superintelligenz könnte die gesamte Menschheit vernichten. Nachdenkseiten, 6. Mai 2026 <https://www.nachdenkseiten.de/?p=150004> (09.05.2026). Ähnliche Ängste äußerte Peter Vonnahme: Künstliche Intelligenz — wir verlieren die Kontrolle. Globalbridge, 21. Oktober 2024 <https://globalbridge.ch/kuenstliche-intelligenz-wir-verlieren-die-kontrolle/> (20.02.2026). Eine Antwort darauf erfolgte in Rainer Fischbach: Intelligenz-Wunderwelt: Wer daran glaubt, darf sich nicht wundern. Globalbridge, 31. Oktober 2024 <https://globalbridge.ch/intelligenz-wunderwelt-wer-daran-glaubt-darf-sich-nicht-wundern/> (20.02.2026).

2„Es gibt viele Dinge, die schiefgehen können“. Der Spiegel, 10/2026, 27. Februar, 16–18.

3Karen Hao: Empire of AI: Dreams and Nightmares in Sam Altman’s Open AI. New York NY: Penguin 2025, 228.

4Alan Turing: Computing Machinery and Intelligence. Mind 49, 1950, 233–460 <https://courses.cs.umbc.edu/471/papers/turing.pdf> (20.02.2026).

5John McCarthy et al.: A Proposal for the Dartmouth Summer Research Project on Artificial Intelligence. 1955. <http://www-formal.stanford.edu/jmc/history/dartmouth/dartmouth.html> (18.03.2020).

6Die ARPA finanzierte u.a. die Entwicklung der Technik zur Vernetzung von Computern und eine, nach ihr benannte, Pilotinstalation zur Vernetzung der beteiligten Forscher, aus der das Internet hervorgehen sollte. Dazu Janet Abbate: Inventing the Internet. Cambridge MA: MIT Press, 2000.

7Eine Singularität ist in der Mathematik, genauer der reellen Analysis, eine Stelle, an der eine, ansonsten stetige, Funktion nicht definiert ist. Die Anhänger der Singularity denken dabei an eine Funktion wie etwa die, die durch die Gleichung y = 1/x definiert ist, die die für x = 0 eine Singularität aufweist und deren Wert für positive x → 0 jede Schranke übersteigt, d.h. wenn x > 0 nur klein genug gewählt wird. Doch auch die durch  y = sin (1/x) definierte Funktion hat an der Stelle x = 0 eine Singularität, doch wächst sie für positive x → 0 nicht unbeschränkt, sondern oszilliert mit unbeschränkter Frequenz zwischen +1 und –1.

8In Manhattans Madison Avenue sitzen die großen Werbeagenturen.

9In einem Interview, enthalten in: Peter Baumgartner, Sabine Payr (Hrsg.): Speaking Minds: Interviews with Twenty Eminent Cognitive Scientists. Princeton NJ: Princeton University Press, 1995, 184.

10Gary Marcus, Ernest Davis: Rebooting AI: Building Artificial Intelligence We Can Trust. New York NY: Vintage, 2019, 3.

11Dass nicht nur Expertenwissen, sondern auch ein großer Teil der kognitiven Leistungen, etwa das Erkennen von Menschen, Tieren und alltäglichen Gegenständen, nicht auf explizit formulierbaren Regeln, sondern auf verborgenen Fähigkeiten beruht, legte Michael Polanyi in einer Reihe von Publikationen dar, die um das kreisen, was er „tacit knowledge“ nannte. Zur Einführung Michael Polanyi: The Tacit Dimension. Gloucester MA: Peter Smith, 1983 [1966] und ders.: Knowing and Being. Chicago  IL: Chicago University Press, 1969, Teil 3.

12Der Logiker Charles Sanders Peirce nannte das, im Gegensatz zur Deduktion, Abduktion. Doch gibt es dafür, anders als für erstere, keine expliziten Regeln. Eine ausführliche Diskussion der Problematik bietet Eric J. Larson: The Myth of Artificial Intelligence: Why Computers Can't Think the Way We Do. Cambridge MA: Harvard University Press, 2021, Kap. 12.

13Nicht nur dem Missverständnis, „dass das Gehirn im Wesentlichen bereits nachgebaut wurde“, sondern auch dem völlig unfundierten Glauben, bei KI handle es sich um „echtes Leben“, hängt z.B. Alexander Unzicker an in dem Interview mit Marcus Klöckner: Künstliche Intelligenz: Echtes Leben oder nicht? Nachdenkseiten, 20. März 2026 <https://www.nachdenkseiten.de/?p=148030> (22.03.2026).

14Dazu ausführlicher Hao 205, Kap. 9.

15Eine charakteristische Eigenschaft solcher Funktionen besteht darin, dass sie einen Schwellenbereich bilden, unterhalb und oberhalb dessen sie kaum reagieren.

16Der Gradient einer auf einem Raum, hier dem der Parameter, definierten skalaren, d.h. für jeden Punkt durch einen einzigen Wert definierten, Funktion ist ein Vektor, der die Richtung und den Betrag der stärksten Zunahme ihres Wertes für jeden Punkt angibt, d.h. ebenso viele Komponenten wie der Raum hat. Die Korrektur der Parameter muss also entgegen dem Gradienten mit einer reduzierten Schrittweite erfolgen. Eine (anspruchsvolle) Darstellung der Grundlagen, die auch frei im Netz verfügbar ist, bietet Moritz Hardt, Benjamin Recht: Patterns, Predictions, and Actions: Foundations of Machine Learning. Princeton NJ: Princeton University Press, 2023 <https://mlstory.org/pdf/patterns.pdf>. Einen Versuch, das vereinfacht zu tun, bietet Anil Ananthaswamy: Why Machines Learn: The Elegant Maths Behind Modern AI. London: Allen Lane, 2024.

17Die Geschichte dieser Entwicklung erzählen Tae Kim: The Nvidia Way: Jensen Hung and the Making of a Tech Giant. New York NY: Norton, 2025, insbesondere Kap. 8, 11 und Stephen Witt: The Thinking Machine: Jensen Huang, Nvidia and the World's most Coveted Microchip. London: Bodley Head, 2025, Kap. 9–12. Das Buch von Witt ist lebendig geschrieben und bringt viele interessante Details, erliegt jedoch den irreführenden Vergleichen der TNN mit Gehirnen und ihres Trainings mit der Evolution.

18Witt 2025, Kap. 10.

19Zum Verhältnis von Kapitalmärkten, Industriepolitik und technischer Entwicklung im Kontext der KI mehr in Rainer Fischbach: Der Westen in der Sackgasse, 2. März 2025 <https://www.rainer-fischbach.info/westen_sackgasse_20250207_0301.pdf> und ders.: Tod im Sprachmodell, Overton, 14. Februar 2026 <https://overton-magazin.de/top-story/tod-im-sprachmodell/> (26.02.2026)

20ImageNet bietet eine Datenbank von Millionen annotierten Bildern, die für das Training von Systemen zur Bilderkennung zur Verfügung stehen. Die Vorgehensweise der Testsieger von 2012 erläutert Alex Krizhevsky, Ilya Sutskever, Geoffrey E. Hinton: ImageNet Classification with Deep Convolutional Neural Networks. Communications of the ACM 60(6), 24. Mai 2017 <https://doi.org/10.1145/3065386> (02.03.2026).

21Eine Einführung in die praktische Arbeit mit diesen Werkzeugkästen, gebündelt mit einer groben Skizze der Theorie bietet François Chollet, Matthew Watson: Deep Learning with Python. 3. Aufl., Shelter Island NY: Manning, 2025.

22Der Begriff des Tensors bezieht sich auf Zahlengebilde unterschiedlicher Komplexität; wobei ein Tensor 0. Stufe ein Skala, d.h. eine einfache Zahl ist, eine Tensor 1. Stufe ein Vektor, einer 2. Stufe eine Matrix, einer 3. Stufe ein dreidimensionales Schema von Zahlen, usw. Wichtig ist, dass man diese Zahlenschemata auch als Funktionen auffassen.

23Eleanor Olcott, Zijing Wu: How long can Nvidia stay ahead of Chinese competition? Financial Times, 1. Oktober 2025 <https://www.ft.com/content/c24a9b6c-1664-4e46-affb-0c0dc16e3c4a> (26.02.2026).

24Zijing Wu, Eleanor Olcott: Nvidia suppliers halt H200 output after China blocks chip shipments. Financial Times, 17. Januar 2026 <https://www.ft.com/content/02a3eb7c-684f-4e39-87b8-36e9595ef800> (26.02.2026). Zum Verständnis ist wichtig zu wissen, dass Unternehmen wie Nvidia, doch auch ARM, ein britisches Unternehmen, auf dessen Design die CPUs in den meisten Smartphones beruhen, keine Produktion haben, sondern diese, meist in Ostasien ansässigen, spezialisierten Unternehmen wie der TSMC (Taiwan Semiconductor Manufacturing Company), dem führenden Hersteller, überlassen, während sie selbst sich auf die Entwicklung konzentrieren. Die Fertigungstechnik, deren die leistungsfähigsten Prozessoren bedürfen, stammt von der niederländischen ASML (Advanced Semiconductor Materials Lithography), die auf Licht im extremen kurzwelligen ultravioletten Bereich des Spektrums (eUV) ausgelegte Optik darin von der deutschen Carl Zeiss SMT (Semiconductor Manufacturing Technology).

25Gordon Moore, der das Gesetz in den 1960ern formulierte, war einer der Gründer von Intel. Intel gehörte zu den Pionieren der Technik der integrierten Halbleiterschaltungen und hatte lange Zeit eine dominierende Stellung inne. Dies insbesondere, weil das Konzept der IBM PCs bzw. der Betriebssysteme DOS und Windows von Microsoft sich auf das 8086-Prozessor-Design von Intel stützte, und auch Alternativen wie Linux wegen dessen großer Verbreitung dies taten. Intel fiel im letzten Jahrzehnt jedoch deutlich zurück, vor allem gegenüber AMD, die mit dem Instruktionssatz des 8086 kompatible Prozessoren herstellt. Da durch der Expansion der Rechenzentrumsinfrastruktur die Frage des Energieverbrauchs zunehmend Gewicht erhält, gewinnt jedoch das alternative Prozessordesign von ARM, das seines deutlich geringeren Energieverbrauchs wegen sich bei den mobilen Geräten durchzusetzen vermochte, auch dort an Attraktivität für die Rolle der Universalprozessoren, die neben den GPUs benötigt werden.

26Das deutsche Unternehmen Parsytec hatte auf die an den Erfordernissen paralleler Verarbeitung orientierte Transputer-Architektur des britischen Herstellers Inmos gesetzt, der jedoch entscheidende Innovationen nicht schnell genug zur Reife zu entwickeln vermochte und daran scheiterte. Auf diese Plattform zielende Entwicklungen im Bereich der funktionalen Programmiersprachen gerieten damit in Vergessenheit. Thinking Machines war 1983 aus dem AI Lab am MIT hervorgegangen und zielte mit paralleler Verarbeitung und dem Zugang via LISP auf die KI, musste 1993 jedoch aufgeben. Das 2025 von der ehemaligen OpenAI-Technikchefin Mira Murati gegründete und eng mit Nvidia verbundene Thinking Machines Lab steht damit in keinem Zusammenhang.

27Auf diese und weitere Probleme machte John Backus, der Schöpfer der damals das wissenschaftlich-technische Rechnen dominierenden Programmiersprache FORTRAN, in seiner Turing Award Lecture aufmerksam: John Backus: Can Programming Be Liberated from the von Neumann Style? A Functional Style and its Algebra of Programs (1977). In: Turing Award Lectures: The First Twenty Years, 1966–1985. New York NY: ACM Press, 1987, 63–130.

28Norbert Wiener: The Human Use of Human Beings: Cybernetics and Society. 75th Anniversary Edition, New York NY: Mariner Classics, 2025 [1950], 79.

29Aaron Mueller: Algorithm that gets ‘under the hood’ of AI models could effectively steer their responses. Nature 653, 35–36, 29. April 2026 <https://doi.org/10.1038/d41586-026-01267-4> (18.05.2026).

30Subbarao Kambhampati : Polanyi’s Revenge and AI’s New Romance with Tacit Knowledge. Communications of the ACM 64(2), 1. Februar 2021 <https://doi.org/10.1145/3446369> (04.03.2026).

31Gary Marcus: Deep Learning Is Hitting a Wall. Nautilus, 10. März 2022 <https://nautil.us/deep-learning-is-hitting-a-wall-238440/> (22.04.2024).

32Zahlriche Beispiele finden sich in Marcus, Davis 2019, Kap. 1–3 und Marcus 2022.

33Dieses Phänomen wächst sich inzwischen zu einer Krise Reproduzierbarkeit in den Biowissenschaften aus, wo immer mehr mittels KI erstellte und, nach Peer Review, in angesehenen Journalen erschienene Studien an der Überprüfung ihrer Resultate scheitern. Dazu Elizabeth Gibney: Could machine learning fuel a reproducibility crisis in science? Nature 608, 26. Juli 2022, 250−251 <https://doi.org/10.1038/d41586-022-02035-w> (11.08.2022) und Emily Sohn: The reproducibility issues that haunt health-care AI. Nature 613, 402−403, 12. Januar 2023 <https://doi.org/10.1038/d41586-023-00023-2> (09.03.2023).

34Genauer erklärt finden sich die betreffenden Zusammenhänge in Rainer Fischbach: Ein Virus zum Beispiel. Düren. Shaker Media, 2023, 83−87.

35Miryam Naddaf, Elizabeth Quill: Hallucinated citations are polluting the scientific literature. What can be done? Nature 652(8108), 26-29, 2. April 2026 <https://doi.org/10.1038/d41586-026-00969-z> (16.04.2026).

36In einer privaten Veranstaltung.

37Dass diese Versuche nur mäßige Ergebnisse liefern, liegt weniger daran, dass die angewandten physikalischen Theorien ungenügend wären, sondern daran, dass die Aufgabenstellung unerhört komplex, insbesondere die Anzahl der wechselwirkenden Partikel sehr groß ist und sich schon die sie beeinflussenden Randbedingungen sich nicht hinreichend präzise bestimmen lassen.

38Matthias Schrappe: Krieg aus der Retorte. Cicero, 7. April 2026 <https://www.cicero.de/kultur/krieg-aus-der-retorte> (15.04.2026).

39Begriffe wie ‚Waffe‘ und ‚Krieg‘ sind im Zusammenhang mit diesen Dingen, ebenso wie in dem der chemischen und atomaren ohnehin fragwürdig. Angemessener sei sei es, von „Vertilgung“ zu sprechen, so Günther Anders: Der Mann auf der Brücke: Tagebuch aus Hiroshima und Nagasaki [1958]. In ders.: Hiroshima ist überall. München: Beck, 1982, 113.

40Rainer Fischbach: „Biowaffe“ SARS-CoV-2: Glaubwürdige BND-Enthüllung oder neues Narrativ? 1bis19, 22. März 2025 <https://1bis19.de/politik/biowaffe-sars-cov-2-glaubwuerdige-bnd-enthuellung-oder-neues-narrativ/> (10.04.2026).

41Z.B. Witt 2025, 179 und 237.

42Gary Marcus: The New Science of Alt Intelligence: AI has lost its way. Let’s take a step back. Marcus on AI, 14. Mai 2022 <https://garymarcus.substack.com/p/the-new-science-of-alt-intelligence> (14.03.2026) und ders.: BREAKING: Expensive new evidence that scaling is not all you need: Two more colossally expensive experiments have failed. Marcus on AI, 14. März 2026 <https://garymarcus.substack.com/p/breaking-expensive-new-evidence-that> (14.03.2026).

43Dieser Begriff wurde geprägt durch Immanuel Kant: Kritik der Urteilskraft, 2. Aufl., Berlin: Lagarde, 1793, §65 und in der modernen Biologie aufgegriffen durch Humberto Maturana, Francisco J. Varela: Der Baum der Erkenntnis: Die biologischen Wurzeln des menschlichen Erkennens. Bern: Scherz, 1987.

44Dieses Verständnis von Umwelt ist das in der Biologie gültige. Es wurde geprägt durch Jakob Johann von Uexküll: Theoretische Biologie. 2., gänzl. neu bearb. Aufl. Berlin: Springer, 1928 [1920]. Eine zeitgemäße Darlegung bietet Richard C. Lewontin:  The Triple Helix: Gene, Organism, and Environment. Cambridge MA: Harvard University Press, 2001.

45Diesen Aspekt hebt besonders hervor Josef H. Reichholf: Warum die Menschen sesshaft wurden: Das größte Rätsel unserer Geschichte. 4. Aufl., Frankfurt am Main: Fischer 2016 [2008] (Fischer Taschenbuch; 17932), Teil II. Schon der erste Schritt aus dem Regenwald in eine offene Landschaft dürfte konstitutiv gewesen sein. Dass eine so hoch organisierte Spezies wie der Mensch arktische ebenso wie tropische und alle dazwischen liegenden Regionen besiedelt, ist noch außergewöhnlicher.  

46Hilary Putnam: Renewing Philosophy. Cambridge, MA: Harvard University Press, 1992, 13 (Emphase im Original).

47So Alexander Unzicker in einem Interview mit Florian Rötzer: „Die KI wird am Ende des Tages die besseren Karten haben“. Overton, 6. April 2026 <https://overton-magazin.de/top-story/die-ki-wird-am-ende-des-tages-die-besseren-karten-haben/> (08.04.2026). Die gleiche Aussage macht Unzicker auch in dem bereits angeführten Interview mit Marcus Klöckner.

48Die historischen Zusammenhänge schildert Thomas Rid: Rise of the Machines: a Cybernetic History. New York NY: Norton, 2016, Kap. 4.

49Filippo Tommaso Marinetti: Der multiplizierte Mensch und das Reich der Maschine [1914]. In: Hansgeorg Schmidt-Bergmann: Futurismus: Geschichte, Ästhetik, Dokumente. Reinbek: Rowohlt 1993 (rowohlts enzyklopädie; 535), 108.

50Diese Kontinuität wie auch der höhere Realismus der Vorläufer heutiger Fiktionen vom Cyberspace ist bereits Thema in Rainer Fischbach: Mythos Netz. Kommunikation jenseits von Raum und Zeit? Zürich: Rotpunktverlag, 2005, Kap. 1 <https://www.rainer-fischbach.info/fischbach_mythos_netz_2005.pdf> (12.01.2026).

51Nick Bostrom: What is Transhumanism? 2001, 2 <https://nickbostrom.com/old/transhumanism> (16.05.2026).

52Matthias Jung: Sinn und Organismus: Wie Verkörperung Menschsein ermöglicht. Berlin: Matthes & Seitz, 2026, 56.

53Hilary Putnam: Representation and Reality. Cambridge MA: MIT Press, 1989, 22–26.

54Connor Leahy, Gabriel Alfour, Chris Scammell, Andrea Miotti, Adam Shimi: The Compendium. 9. Dezember 2024 <http://pdf.thecompendium.ai/the_compendium.pdf> (30.12.2025), 6.

55Dies verdeutlicht Jobst Landgrebe, Barry Smith: Why Machines Will Never Rule the World: Artificial Intelligence without Fear. New York NY: Routledge, 2025, Kap. 3.2.

56Laut Hao 2025, 405.

57Nicht zufälligerweise erfolgt eine passende Ankündigung — oder, wenn man so will, eine entsprechende Drohung —, die sowohl die KI als auch die synthetische Biologie einbezieht, durch eines der Sprachrohre der globalen Eliten, Yuval Noah Harari: Homo Deus: A Brief History of Tomorrow. London: Vintage, 2016, 319: „In the twenty-first century, those who ride the train of progress will acquire divine abilities of creation and destruction, while those left behind will face extinction“.

58Hao 2025, 146–147, 315–318.

59So wollen Mark Zuckerberg und seine Frau Priscilla Chan durch ihre Stiftung ein Vermögen von mehr als 200 Milliarden Dollar vor allem auf dieses Ziel orientieren. Dazu Bettina Micka: „Unmögliches möglich“ machen: Wie Mark Zuckerberg und seine Frau bis 2100 alle Krankheiten heilen wollen. Medscape, 12. Februar 2026 <https://deutsch.medscape.com/viewarticle/stiftung-alle-krankheiten-heilen-2026a1000328> (20.02.2026).

60Die Geschichte dieser Vorhabens und seines Verlaufs findet ich bei Hao 2025.

61Dass auch die Amodeis nicht viel besser abschneiden als Altman, zeigt Gary Marcus: There are no heroes in commercial AI: When it comes down to it, Dario Amodei isn’t all that different from Sam Altman. Marcus on AI, 8. März 2026 <https://garymarcus.substack.com/p/there-are-no-heroes-in-commercial> (09.03.2026).

62Der Spiegel, 10/2026, 27. Februar, 17.

63Martin Heidegger: Überwindung der Metaphysik [1954]. In: ders.: Bauen, Wohnen, Denken: Vorträge und Aufsätze. Stuttgart: Klett-Cotta, 2022, 118.

64Die Sage vom Golem als heimliches Skript kybernetischen Schaffens thematisiert Lutz Dammbeck: Seek: Der Golem geht um — Affairen zwischen Kunst, Wissenschaft und Technik. Leipzig: Spector books, 2023.

65Max Horkheimer, Theodor W. Adorno: Dialektik der Aufklärung: Philosophische Fragmente [1947]. In: Max Horkheimer: Gesammelte Schriften. Frankfurt am Main: Fischer 1985−1996, Band 5, 19.

66Richard Barbrook, Andy Cameron: The Californian ideology. Science as Culture 6, Januar 1996 <https://doi.org/10.1080/09505439609526455> (14.01.2026).

67Beispielhaft dafür Thomas Assheuer: Faschismus als Endsieg der Evolution? Ernst Jünger als Stichwortgeber der Cyberlibertären. Blätter für deutsche und internationale Politik, Dezember 2025, 51–61 <https://www.blaetter.de/ausgabe/2025/dezember/faschismus-als-endsieg-der-evolution> (08.05.2026).

68Dazu Fischbach 2023, 237–260. Zu den technisch-wirtschaftlichen Aspekten ders.: Die schöne Utopie: Paul Mason, der Postkapitalismus und der Traum vom grenzenlosen Überfluss. Köln: PapyRossa, 2017 (Neue Kleine Bibliothek; 238).

69So der Titel und die Schlusszeilen eines Gedichts des Hippie-Poeten Richard Brautigan, in dem dieser 1967 eine kybernetischen Utopie ausmalte. In ders.: The Pill versus the Springhill Mine Desaster, 1 (enthalten in der Sammlung Trout Fishing in America, The Pill versus the Springhill Mine Desaster and In Watermelon Sugar. New York: Harper Collins, 1989).  

70Friedrich Nietzsche: Also sprach Zarathustra: Ein Buch für Alle und Keinen [1883–1885]. Kritische Studienausgabe. Hrsg. Giorgio Colli, Mazzino Montinari. München: DTV, 1980, Bd. 4, 15 (Emphase im Original)). Dazu auch die Nachbetrachtung in Fischbach 2005, 253–265.

71John Perry Barlow: A Declaration of the independence of cyberspace. World Economic Forum, Davos, 8. Februar 1996 <https://www.eff.org/cyberspace-independence> (12.01.2025).

72Eine detaillierte Auseinandersetzung mit dem Thema der offenen Software und einigen Missverständnissen ihrer Protagonisten liefert Rainer Fischbach: Frei und/oder offen? From Pentagon Source to Open Source, and Beyond. FIfF Kommunikation, September 1999, 21-27 <https://www.rainer-fischbach.info/fiff_frei_offen.html> (17.05.2026).

73In einem Gespräch mit Mark Dery: Escape Velocity: Cyberculture at the End of the Century. New York NY: Grove Press, 1996, 48.

74Pierre Teilhard de Chardin: Der Mensch im Kosmos. Sonderausgabe, München: Beck, 1965 [1959], 183.

75Teilhard de Chardin 1965 [1959], 184. Die im Französischen übliche Metapher, die Teilhard im Originaltext verwendet, wo er diesen Vorgang mit „la terre fait ‚peau neuve‘“ umschreibt, liegt näher an dessen organischen Ursprung. Siehe Pierre Teilhard de Chardin: Le Phénomène Humain, Suivi de La Messe sur le Monde. Aigle (CH): FV Éditions, 2025 [1955], 124.

76Teilhard de Chardin 1965 [1959], 184. In dieser Passage tritt auch hervor, wie stark Teilhard, der nicht weniger als Ernst Jünger als Zeuge den Stahlgewittern des Ersten Weltkrieges beigewohnt und als Sanitäter das damit verbundene Leiden erlebt hatte, vom Fortschittsoptimismus des 19. Jahrhunderts beeinflusst war, den er durch ein theologisches ‚dennoch‘ zu retten versuchte. Von der Front schrieb er am 8. September an seine Cousine, „dass ich fortfahren würde, die Arbeit der Erde zu tun, wenn Gott mich am Leben erhält“. „Die Arbeit der Erde“, das war und sollte auch weiterhin für ihn die an der „Geschichte des Lebens auf der Erde“ sein. Siehe Pierre Teilhard de Chardin: Entwurf und Entfaltung: Briefe aus den Jahren 1914–1919. Freiburg: Alber, 1963, 148.

77Teilhard de Chardin 1965 [1959], 298. Hier wird deutlich, dass Teilhard die abendländische Spaltung von Geist und Materie letztlich nicht zu überwinden vermochte.

78Peter Thiel: The Education of a Libertarian. Cato Unbound, 13. April 2009 <https://www.cato-unbound.org/2009/04/13/peter-thiel/education-libertarian/> (06.04.2026).

79Martin Heidegger: Die Frage nach der Technik [1954]. In: ders. 2022, 38.

80Hier sei noch einmal auf Hao 2025, Kap. 9 hingewiesen.

81In einer privaten Veranstaltung.

82Camilla  Hodgson: The hunt for copper to wire the AI boom. Financial Times, 3. Dezember 2025 <https://www.ft.com/content/ed785287-c4db-4840-a90b-426fbd41bb5b> (11.01.2026). und dies.: Big copper shortage to pose ‚systemic risk‘ to global economies, warns S&P. Financial Times, 8. Januar 2026 <https://www.ft.com/content/9d69ce4d-648e-44f9-812d-ecb811b751e5> (11.01.2026).

83Casey Crownhart, Pilita Clark: The State of AI: here comes the energy crunch. Financial Times, 10. November 2025 <https://www.ft.com/content/fecd5860-97c4-44be-a2a2-4127388abbc1> (19.01.2026). Dazu auch June Yoon: What if the AI race isn’t about chips at all? Financial Times, 12. November 2025 <https://www.ft.com/content/e4c9ac58-d64e-487a-b06d-e71be47f31c9> (14.03.2026).

84Heidi Ledford: ‚RAMmageddon‘ hits labs: AI-driven memory shortage is impacting science. Nature, 13. März 2026 <https://doi.org/10.1038/d41586-026-00844-x> (16.03.2026).

85Stephen Morris, Michael Acton, Rafe Rosner-Udin: Big Tech’s ‚breathtaking‘ $660bn spending spree reignites AI bubble fears. Financial Times, 6. Februar 2026 <https://www.ft.com/content/0e7f6374-3fd5-46ce-a538-e4b0b8b6e6cd> (06.02.2026); Gary Marcus: Some disconcerting facts about AI and banking that may have profound consequences. Marcus on AI, 10. Februar 2026 <https://garymarcus.substack.com/p/some-disconcerting-facts-about-ai> (10.02.2026).

86Eine Auswahl bieten Pilita Clark: Looking back on a year of AI blunders: Few industries have escaped our hapless misuse of this troubling technology. Financial Times, 21. Dezember 2025 <https://www.ft.com/content/d22867d6-af87-4727-84d7-1571d951347d> (29.03.2026); Gary Marcus: Let’s be honest, Generative AI isn’t going all that well. Marcus on AI, 12. Januar 2026 <https://garymarcus.substack.com/p/lets-be-honest-generative-ai-isnt> (29.03.2026) und ders.: Don’t trust Generative AI to do your taxes — and don’t trust it with people’s lives. Marcus on AI, 8. März 2026 <https://garymarcus.substack.com/p/dont-trust-generative-ai-to-do-your> (31.03.2026).

87Rafe Rosner-Udin: Amazon holds engineering meeting following AI-related outages. Financial Times, 10. März 2026 <https://www.ft.com/content/7cab4ec7-4712-4137-b602-119a44f771de> (31.03.2026).

88Darauf deuten auch zunehmend zu findende Berichte aus der Praxis hin. Einige aktuelle Beispiele referiert Gary Marcus: Dario Amodei, hype, AI safety, and the explosion of vibe-coded AI disasters: What the AI cheerleaders don’t tell you. Marcus on AI, 27. April 2026 <https://garymarcus.substack.com/p/dario-amodei-hype-ai-safety-and-the> (27.04.2026).

89Aruna Ranganathan and Xingqi Maggie Ye: AI Doesn’t Reduce Work — It Intensifies It. Harvard Business Review, 9. Februar 2026 <https://hbr.org/2026/02/ai-doesnt-reduce-work-it-intensifies-it> (29.03.2026).

90Grant Gross: Insurance carriers quietly back away from covering AI outputs. CIO, 20. April 2026 <https://www.cio.com/article/4159297/insurance-carriers-quietly-back-away-from-covering-ai-outputs-2.html> (20.04.2026).

91So auch Der Potsdamer Appell zu autonomen Waffensystemen. Potsdam, 3. August 2025 <https://potsdamcall.dgdg.blog/de/der-potsdamer-appell-zu-autonomen-waffensystemen/> (01.04.2026).

92ABM steht für anti-ballistic missile, die Technik der Abwehr ballistischer Raketen, die seit den 1960ern verfolgt, in den 1970ern im Zuge entsprechender Vereinbarungen mit der Sowjetunion, die damals das Fundament der strategischen Rüstungskontrolle bildeten, zurückgefahren und in den 1980ern im Rahmen der Strategic Defense Initiative (SDI) des Präsidenten Ronald Reagan wieder aufgenommen wurde. MIRV steht für multiple independently targetable reentry vehicle, die Technik, mit einer Trägerrakete mehrere Sprengköpfe auf verschiedene Ziele zu richten.

93Herbert York: Race to Oblivion: A Participant’s View of the Arms Race. New York NY: Simon and Schuster, 1970, 226.

94York 1970, 228.

95Günther Burbach: KI für den Krieg: Der Streit zwischen dem Pentagon und einem KI-Unternehmen wirft ein Licht auf die neue militärische Technologiepolitik. Nachdenkseiten, 13. März 2026 <https://www.nachdenkseiten.de/?p=147657> (15.03.2026).

96Dazu Thomas Rid: Rise of the Machines: a Cybernetic History. New york NY: Norton, 2016. dieses Werk stellt wesentliche Aspekte dieser, schon während des Zweiten Weltkriegs beginnenden, engen Verbindung von Kybernetik und Informationstechnik dar, wenn es auch dem Anspruch, eine Geschichte der Kybernetik zu bieten, nicht völlig gerecht wird. Dazu ist, abgesehen von einigen Fehlern, seine Sicht zu sehr auf die Anglosphäre zentriert.  

97Sehr klar wird dies herausgearbeitet von Kevin Baker: Kill Chain: On the automated bureaucratic machinery that killed 175 children. Artificial Bureaucracy, 21. März 2026 <https://artificialbureaucracy.substack.com/p/kill-chain> (08.04.2026).

98Zusammenfassend dazu Gary Marcus: 9 reasons AI isn’t going to take your job (yet). Fortune, 1. April 2026 <https://fortune.com/2026/04/01/ai-layoffs-automation-productivity-finance-employment-investors-ceos/> (01.04.2026).

99Dazu und zum Qualitätsverfall wissenschaftlicher Veröffentlichungen Lisa Messeri, M.J. Crocket: The uncritical adoption of AI in science is alarming — we urgently need guard rails. Nature 653, 675–676, 19. Mai 2026 <https://doi.org/10.1038/d41586-026-01557-x> (20.05.2026) und vertiefend dies.: The uncritical adoption of AI in science is alarming — we urgently need guard rails. Nature 653, 675–676, 19. Mai 2026 <https://doi.org/10.1038/d41586-026-01557-x> (20.05.2026).

100Thomas Pany: Akademisierung und KI: Hochschulen und Studenten müssen umdenken. Telepolis, 25. März 2026 <https://telepolis.de/-11224307> (15.04.2025).

101Rainer Fischbach: Kognitive Entwicklung, Medien und digitale Technik. In: Anke Wischmann; Susanne Spieker; David Salomon; Jürgen-Matthias Springer (Hrsg.): Jahrbuch Pädagogik 2020: Neue Arbeitsverhältnisse — Neue Bildung. Weinheim: Beltz Juventa, 2022, 180–190 <https://www.rainer-fischbach.info/rf_kognitive_entwicklung_Jahrbuch_Paedagogik_2020.pdf> (15.04.2026).

102Steffen Reitz: Wofür braucht es noch Lehrerinnen und Lehrer? Erziehung & Wissenschaft, 2/2026 <https://www.academia.edu/164611892/KI_in_der_Bildung_Wof%C3%BCr_brauchen_wir_noch_Lehrerinnen_und_Lehrer> (07.04.2026).

103Reitz 2026, 19.

104Roberto Simanowski: Große Sprachmodelle: Was technisch möglich ist und politisch bedacht werden muss. Lettre International 151, Winter 2025, 14 (Emphase im Original). Eine ausführlichere Beschäftigung mit solchen und ähnlichen Vorstellungen findet sich in Rainer Fischbach: Tod im Sprachmodell. Overton, 14. Februar 2026 <https://overton-magazin.de/top-story/tod-im-sprachmodell/> (20.04.2026).

105Günther Anders: Die Antiquiertheit des Menschen. Band 2: Über die Zerstörung des Lebens im Zeitalter der dritten industriellen Revolution. 2. Aufl., München: Beck, 1981, 111.