[Textende] [Rainer Fischbach]

Rainer Fischbach

Literaturhinweise zur Künstlichen Intelligenz, ihrem informationstechnischen, politischen und gesellschaftlichen Kontext

Stand: 27. April 2024
rainer_fischbach@gmx.net
Mobil +49 (0) 171 4141570

Übersicht

[Allgemeinverständliche Bücher: Einführungen, politische und sozialwissenschaftliche Diskussion]
[Artikel zur politischen und sozialwissenschaftlichen Diskussion]
[Philosophische Aspekte]
[Fachbücher]

Allgemeinverständliche Bücher: Einführungen, politische und sozialwissenschaftliche Diskussion

• Brödner, Peter (2023): »Künstliche Intelligenz«: Dichtung und Wahrheit. Einblicke in die Technik des Berechnens und in Mythen um Intelligenz. Bonn: IISI — International Institute for Socio-Informatics (international reports on socio-informatics; 20(1)).
  [Online <https://www.iisi.de/wp-content/uploads/2023/09/IRSI_V20I1.pdf>]
  Eine Sammlung von Artikeln, die sich insbesondere kritisch mit der statistischen KI beschäftigen.
• Brousard, Meredith (2018): Artificial Unintelligence: How Computers Misunderstand the World. Cambridge MA: MIT Press.
  Erklärt die Technik für Leser ohne Vorkenntnisse an einem Beispiel, wirft einen Blick auf einige Anwendungsgebiete und legt dar, wie »hidden bias« entsteht der sie zu einem Mittel von Diskriminierung machen kann.
• Crawford, Kate (2021): Atlas of AI: Power, Politics and the Planetry Costs of Artificial Intelligence. New Haven CT: Yale University Press.
  Beschäftigt sich mit den weitgehed unsichtbaren Macht- und Ausbeutungsverhältnissen hinter der Technik.
• Deutscher Ethikrat (2023): Mensch und Maschine — Herausforderungen durch Künstliche Intelligenz. Berlin: Deutscher Ethikrat, 20. März.
  [Online <https://www.ethikrat.org/fileadmin/Publikationen/Stellungnahmen/deutsch/stellungnahme-mensch-und-maschine.pdf>]
  Weitschweifend und die geforderte Schärfe der Analyse oft vermissen lassend. Manche Aussagen sind schlicht falsch und irreführend, etwa die Rede ist von der »Trainingsphase, in der ein Algorithmus sein Modell zur Mustererkennung durch wiederholte Analyse von Trainingsdaten aufbaut und verfeinert«. In der Trainingsphase findet eben keine »Analyse von Trainingsdaten« statt, sondern der Versuch, diese durch Anpassung von Parametern — der Gewichte in den Netzkanten — zu reproduzieren. Solche Aussagen verleiten dazu, in die Systeme eine Intelligenz zu projizieren — die Systeme hätten schließlich eine »Analyse« der Daten vorgenommen —, die dort nicht zu finden ist.
• Esposito, Elena (2024): Kommunikation mit unverständlichen Maschinen. Wien: Residenz Verlag.
  Ein entleerter Begriff von Kommunikation findet hier mit Projektionen zusammen, um ein phantastisches Bild der KI zu erzeugen. Manches liest sich wie eine Halluzination eines LLMs: »Maschinen entscheiden selbst, was sie lernen und wie sie es lernen. Bei Techniken wie Deep Learning lernen Algorithmen, ihre Aufgaben auf eine Art zu erfüllen, die von den Pogrammierer:innen nicht beabsichtigt war und die für Menschen, einschließlich jener, die sie entwickelt haben, oft unverständlich ist.« (24) Noch toller wird es, wennn Esposito von »einer komplexen Art und Weise, den Anweisungen der Pogrammierer:innen in einer Vielzahl verschiedener Dimensionen zu folgen« (39) spricht. Computer folgen den Anweisungen der Programme immer in derselben deterministischen Weise und »Entscheidungen« treffen sie ebenso nach Maßgabe der Anweisungen auf Basis der vorliegenden Daten. Wenn das nicht der Absicht der Pogrammierer entspricht, dann haben sie einen Fehler gemacht. D.h. den »Entscheidungen« von Computern wohnt weder Deliberation bzw. Abwägung noch Willkür inne, sondern sie erfolgen rein mechanisch. Das Problem mit der statistischen KI besteht nicht darin, dass man nicht verstehen könnte, wie die betreffenden Algorithmen funktionieren, sondern darin, dass ihre Funktionsweise mit dem Gegenstand der Berechnungen nicht das Geringste zu tun hat.
• Hirsch-Kreinsen, Hartmut (2023): Das Versprechen der Künstlichen Intelligenz: Gesellschaftliche Dynamik einer Schlüsseltechnologie. Frankfurt am Main: Campus.
  Eine informative wissenschafts- und techniksoziologische Studie, die insbesondere die Situation in der BRD beleuchtet.
• Marcus, Gary; Davis, Ernest (2019): Rebooting AI: Building Artificial Intelligence We Can Trust. New York NY: Vintage.
  Eine kritische Darstellung von zwei Insidern, die mit dem Stand der KI höchst unzufrieden sind, doch die Hoffnung auf Besserung nicht aufgegeben haben.
• Nowotny, Helga (2021): In AI We Trust: Power, Illusion and Control of Predictive Algorithms. Cambridge: Polity.
  Eine Darstellung mit vielen interessanten Details, die jedoch ein irreführendes Bild der Technik zeichnet. Die Tatsache, dass die Algorithmen der statistischen KI lediglich die Reproduktion einer Trainingsmenge von Input-Output-Paaren optimieren und nicht etwa in korrigierbarer Weise unmittelbar irgendwelche von Menschen formulierten Ziele anstreben, »biased results« also das Ergebnis von »biased data« und der rein statistisch-assoziativen Arbeitsweise der Systeme sind, wird nicht deutlich. Illusionär ist auch die von der Autorin verbreitete Hoffnung, die auf der aktuellen Technik basierten Systeme würden sich irgendwie »lernend« an die Menschheit anpassen.
• Nowotny, Helga (2023): Die KI sei mit euch: Macht, Illusion und Kontrolle algorithmischer Vorhersage. Berlin: Matthes & Seitz.
  Deutsche Übersetzung des obigen Titels.
• Pasquinelli, Matteo (2023): The Eye of the Master: A Social History of Artificial Intelligence. London: Verso.
  Der Titel verspricht deutlich mehr als das Buch hält. Dieses bringt sehr viel zu dem, was es als Frühgeschichte der Automatisierung auffasst, und auch einiges zu den Anfängen der Neuronalen Netze, während das große Feld der KI im weiteren Sinne weitgehend unbeachtet bleibt. Es bietet viele interessante Details, leidet jedoch unter einer angespannten Bemühung zur Übertheoretisierung der Dinge, die einen fetischisierten Begriff von Wert mit extrem reduzierten von Arbeits verbindet bei einer aufgeblähten Vorstellung der aktuellen KI zu landen, die alles erdenkliche auf sie projiziert: »In conclusion, machine learning can be seen as the project to automate thevery process of machine design and model making — which is to say, the automation of the labour theory of automation itself. In this sense machine learning, specifically, large foundation models represent a new definition of the Universal Machine, for their capacity is not just to perform computational tasks butt imitate labour and collective behaviours at large.« (248) Was sich hier in höchst überspannter Form äußert, ist das exakte Gegenteil eines anzustrebenden präzisen Verständnisses der Sache.
• Pohle, Jörg; Lenk, Klaus; Fischbach, Rainer (Hrsg.) (2024): Die gesellschaftliche Macht digitaler Technologien: Zwischen Wellen technologischen Überschwangs und den Mühen der Ebene. Marburg: Metropolis.
  Im Erscheinen.
• O'Neil, Cathy (2016): Weapons of Math Destruction: How Big Data Increases Inequality and Threatens Democracy. New York NY: Crown.
  [Online <https://edisciplinas.usp.br/pluginfile.php/7574239/mod_resource/content/1/%28FFLCH%29%20LIVRO%20Weapons%20of%20Math%20Destruction%20-%20Cathy%20ONeal.pdf>]
  Hier geht es vor allem um die vielfältigen Weisen, in denen die Methoden der statistischen KI das Bild der Welt verzerren und soziale, rassische und geschlechtliche Diskriminierung hervorbringen.
• Smith, Gary (2018): The AI Delusion. Oxford: Oxford University Press.
  Legt insbesondere die Fallstricke statistischer Methoden dar.
• Weizenbaum, Joseph (1977): Computer Power and Human Reason. From Judgment to Calculation. New York NY: Freeman.
  Gehört zu den klassiischen Texten der Kritik an Computertechnik und KI.
• Weizenbaum, Joseph (1978): Die Macht der Computer und die Ohnmacht der Vernunft. Frankfurt am Main: Suhrkamp.
  Deutsche Übersetzung des vorigen Titels.
• Weizenbaum, Joseph; Wendt, Gunna (2006): Wo sind sie, die Inseln der Vernunft im Cyberstorm? Auswegge aus der programmierten Gesellschaft. Freiburg im Breisgau: Herder.
  Umfangreiches Interview zu Weizenbaums Biographie und seinen Positionen zur IT und KI.
• Wildenhain, Michael (2024): Eine kurze Geschichte der künstlichen Intelligenz. Stuttgart: Cotta.
  Begrifflich nicht immer ganz scharf, aber in aller seiner Kürze informativ und unterhaltsam.
• Wolfram, Stephen (2023): What is ChatGPT Doing … and Why Does It Work?. Champaign IL: Wolfram Media.
  Ein Versuch, Lesern ohne spezifische Vorkenntnis die Technik hinter der gegenwärtig populärsten KI-Anwendung verständlich zu machen, der jedoch einige von deren Mystifikationen reproduziert.

Artikel zur technischen, politischen und sozialwissenschaftlichen Diskussion

• Ananya (2024): »AI image generators often give racist and sexist results: can they be fixed?«. Nature 627, 722–725, 19. März.
  [Online <https://doi.org/10.1038/d41586-024-00674-9>]
  Wie Problem der »biased results« aus der Welt zu schaffen wäre, bleibt unklar.
• Fischbach, Rainer (2020a): »Die neuen Fiktionen der EU-Politik«. Makroskop 47, 1. Dezember 2020.
  [Online <https://makroskop.eu/47-2020/ki-die-neuen-fiktionen-der-eu-politik/>]
• Fischbach, Rainer (2020b): »Mythos Maschinenlernen«. Makroskop 48, 8. Dezember 2020.
  [Online <https://makroskop.eu/48-2020/mythos-maschinenlernen/>]
• Fischbach, Rainer (2020c): »KI als Placebo-Strategie«. Makroskop 49, 15. Dezember 2020.
  [Online <https://makroskop.eu/49-2020/ki-als-placebo-strategie/>]
• Gibney, Elizabeth (2022): »Could machine learning fuel a reproducibility crisis in science?«. Nature 608, 250–251, 26. Juli.
  [Online <https://doi.org/10.1038/d41586-022-02035-w>]
  Methodisch unangemessen eingesetzte ML-Techniken führen zu Massen an peer-reviewed Studien, deren Ergebnisse sich nicht reproduzieren lassen.
• Gross, Grant (2024): »Generative AI gold rush drives IT spending — with payoff in question«. CIO, 19. April.
  [Online <https://www.cio.com/article/2093481/generative-ai-gold-rush-drives-it-spending-with-payoff-in-question.htmlgt;]
  Die KI-Welle treibt die Investitionen in IT-Hardware und Software steil nach oben, während unklar bleibt, ob sie auch lohnen werden.
• Herrmann, Thomas; Pfeiffer, Sabine (2023): »Keeping the Organization in the Loop: A Socio-Technical Extension of Human-Centered Artificial Intelligence«. AI & Society 38, 1523–1542.
  [Online <https://doi.org/10.1007/s00146-022-01391-5>]
• Mance, Henry (2024): »AI keeps going wrong. What if it can't be fixed?«. Financial Times, 6. April.
  [Online <https://www.ft.com/content/648228e7-11eb-4e1a-b0d5-e65a638e6135>]
  Zweifel an der Tragfähigkeit der aktuellen KI-Welle haben auch den Finanzsektor erreicht.
• Marcus, Gary (2022): »Deep Learning Is Hitting a Wall«. Nautilus, 10. März.
  [Online <https://nautil.us/deep-learning-is-hitting-a-wall-238440/>]
  Gary Marcus sieht Grenzen der Skalierbarkeit von ML-Systemen. Mehr Daten bringen keine qualitativ besseren Ergebnisse.
• Marcus, Gary (2024): »OpenAI™'s new text-to-video app is impressive, at first sight. But those physics glitches…«. Bulletin of the Atomic Scientists, 16. Februar.
  [Online <https://thebulletin.org/2024/02/openais-new-text-to-video-app-is-impressive-at-first-sight-but-those-physics-glitches/>]
  Gary Marcus analysiiert die vielen Fehler im Output des OpenAI Video-Bots, aus denen klar hervorgeht, dass von Intelligenz nicht die Rede sein kann.
• McCormick, Myles; Smyth, Jamie; Chu, Amanda (2024): »AI revolution will be boon for natural gas, say fossil fuel bosses«. Financial Times, 1. April.
  [Online <https://www.ft.com/content/1f93b9b2-b264-44e2-87cc-83c04d8f1e2b>]
  Wirft ein Licht auf den wachsenden Energiehunger der KI-Anwendungen.
• Pfeiffer, Sabine (2023): »KI im Unternehmen — Herausforderungen an die betriebliche Gestaltung moderner Arbeit«. DGUV Forum 11, 36–41.
  [Online <https://forum.dguv.de/ausgabe/11-2023/artikel/ki-im-unternehmen-herausforderungen-an-die-betriebliche-gestaltung-moderner-arbeit>]
• Sohn, Emily (2023): »The reproducibility issues that haunt health-care AI«. Nature 613, 402–403, 12. Januar.
  [Online <https://doi.org/10.1038/d41586-023-00023-2>]
  Das Problem der nicht reproduzierbaren Ergebnisse spart die Medizin nicht aus.
• Thornhill, John (2024): »Huge AI funding leads to hype and "grifting", warns DeepMind's Demis Hassabis«. Financial Times, 31. März.
  [Online <https://www.ft.com/content/774901e5-e831-4e0b-b0a1-e4b5b0032fb8>]
  Eine Warnung vor Überinvestition in KI, die zu einer Blase führen könnte.

Philosophische und epistemologische Fragen

• Anderson, Alan Ross (Hrsg.) (1964): Minds and Machines. Englewood Cliffs NJ: Prentice-Hall (Contemporary Perspectives in Philosophy Series).
  Dieser Band vereinigt einige der frühen klassischen Texte zum Thema, u.a. auch Alan Turings »Computing Machinery and Intelligence«.
• Baumgartner, Peter; Payr, Sabine (Hrsg.) (1995): Speaking Minds: Interviews with Twenty Eminent Cognitive Scientists. Princeton NJ: Princeton University Press.
  Ansichten aus erster Hand zur menschlichen Intelligenz und ihrer maschinellen Imitation.
• Dreyfus, Hubert L. (1992 [1972, 1979]): What Computers Still Can't Do: A critique of Artificial Reason. Cambridge MA: MIT Press.
  Einer der klassischen Texte zur Kritik der KI. Dreyfus setzt sich vor allem mit dem Problem der Kontextabhängigkeit von'sprachlichen Äußerungen auseinander und formuliert die These, dass menschlicher Geist nur in einem menschlichen Organismus entstehen und leben könne.
• Epstein, Robert (2016): »The empty brain«. Aeon, 18. Mai.
  [Online <https://aeon.co/essays/your-brain-does-not-process-information-and-it-is-not-a-computer>]
  Eine fundamentale Kritik aller Konzepte, die menschliches Bewusstsein als Informationsverarbeitung auf Basis symbolischer Repräsentationen verstehen. Vertiefend dazu Reber, aluška, Miller (2023).
• Fischbach, Rainer (2020d): »Big data — big confusion: Weshalb es noch immer keine künstliche Intelligenz gibt«. Berliner Debatte Initial, H. 1, 2020. 136–147.
  [Online <https://www.academia.edu/64910746/Big_Data_Big_Confusion_Weshalb_es_immer_noch_keine_k%C3%BCnstliche_Intelligenz_gibt>]
• Fischbach, Rainer (2020e): »Metaphorische und reale Maschinen: Ein Vorschlag zum Verständnis von und zum Umgang mit Informationstechnik«. In: Peter Brödner / Klaus Fuchs-Kittowski (Hrsg.): Zukunft der Arbeit: Soziotechnische Gestaltung der Arbeitswelt im Zeichen von »Digitalisierung« und »Künstlicher Intelligenz«; Tagung der Leibniz-Sozietät am 13. Dezember 2019 in Berlin, Hochschule für Technik und Wirtschaft, Berlin: trafo Wissenschafsverlag, 2020, 41–59, ISBN 978-3-86464-219-7.
  [Seite zum Buch <http://www.trafoberlin.de/978-3-86464-219-7.html>]
• Larson, Eric J. (2021): The Myth of Artificial Intelligence: Why Computers Can't Think the Way We Do. Cambridge MA: Harvard University Press.
  Im Mittelpunkt dieses Werks stehen die weitgehend ungelösten epistemologischen Fragen der KI, die vor ihrem philosophischen Hintergrund beleuchtet werden.
• Marcus, Gary (2018): »Deep Learning: A Critical Appraisal«. arXiv:1801.00631.
  [Online <https://doi.org/10.48550/arXiv.1801.00631>]
  Durchleuchtet die Arbeitsweise tiefer Neuronaler Netze und die darin begründeten Grenzen der Technik.
• Messeri Lisa; Crocket, M. J. (2024): »Artificial intelligence and illusions of understanding in scientific research«. Nature 627, 49–58, 6. März.
  [Online <https://doi.org/10.1038/s41586-024-07146-0>]
  Der verführerische Glaube etwas zu verstehen, was man nicht versteht, verbindet sich allzu leicht mit dem Einsatz von KI.
• Putnam, Hilary (1981): Reason, Truth and History. Cambridge: Cambridge University Press.
  Putnam entwickelt hier das Gedankenexperiment der Brains in a Vat und weist die Annahme zurück, Computer könnten, selbst in einem bestandenen Turingtest, tatsächlich etwas über die Welt aussagen. In seinen späteren Werken entwickelt er diese Position systematisch.
• Putnam, Hilary (1982): Vernunft, Wahrheit und Geschichte. Frankfurt am Main: Suhrkamp.
  Deutsche Übersetzung des vorigen Titels.
• Putnam, Hilary (1988): Representation and Reality. Cambridge MA: MIT Press.
  Putnam, der in den 1960ern mit der funktionalistischen Hypothese, die besagt, dass das menschliche Gehirn als (beschränkte) Realisierung einer Turingmaschine aufgefasst werden könne und umgekehrt jede derartige Maschine auch Bewusstsein haben müsse, die theoretische Grundlage der starken KI gelegt hat, blickt hier kritisch und systematisch auf seine früheren Positionen und deren seitherige Entwicklung zurück. Insbesondere verneint er die, dass symbolische Repräsentationen unabhängig von einem Kontext, in dem eine Bezugnahme stattfinde, eine intrinsische Bedeutung zukomme. Bedeutung sei holistisch, sozial und historisch.
• Putnam, Hilary (1992): Renewing Philosophy. Cambridge MA: Harvard University Press.
  Hier kommt Putnam noch einmal konzentriert auf die KI und das Geist-Körper-Problem zurück. Bewusstsein und geistige Leistungen seien untrennbar mit der physischen und sozialen Existenz des Menschen verbunden: »The question that won't go away is how much of what we call 'intelligence' presuposes the rest of human nature.« (13)
• Reber, Arthur S.; Baluška, František; Miller, William B. (2023): The Sentient Cell: The Cellular Foundations of Consciousness. Oxford: Oxford University Press.
  KI ist hier ein Randthema — vor allem, weil die Autoren hier einen alternativen Ansatz zum Verst\"andnis von Wahrnehmung und Bewusstsein entwickeln: beides bedürfe weder eines Nervensystems noch symbolischer Informationsverarbeitung, sondern vielmehr wenigstens einer lebenden Zelle; weshalb die Versuche aus der KI-Szene, eine artificial general intelligence zu kreieren, verfehlt seien. Als Hinführung dazu eignet sich Epstein (2016).
• Searle, John (1991 [1984]): Minds, Brains and Science: The 1984 Reith Lectures. London: Penguin.
  Ebenfalls einer der klassischen Texte zur Kritik der KI. Er enthält das berühmte Chinese Room Argument. Ähnlich wie Dreyfus sieht Searle das Bewusstsein und seine Aktivitäten als Produkte des Organismus: »brains cause minds« (40)

Fachbücher

• Chaudhury, Krishnendu (2024): Math and Architectures of Deep Learning. Shelter Island NY: Manning.
  [Seite zum Buch <https://www.manning.com/books/math-and-architectures-of-deep-learning>]
  Anschauliche Darstellung der mathematischen Grundlagen und der Systemkonzepte mit Programmbeispielen in Python.
• Chollet, François (2021): Deep Learning with Python. 2. Aufl., Shelter Island NY: Manning.
  [Seite zum Buch <https://www.manning.com/books/deep-learning-with-python-second-edition>]
  Eine »hands-on«-Einführung in die Technik des Maschinenlernens mit tiefen Neuronalen Netzen, verfasst von einem der führenden Experten auf diesem Gebiet, der Autor der Keras-API zu den Tensorflow-Bibliotheken von Google ist, die darin Anwendung finden. Setzt die Kenntnis der Programmiersprache Python und deren Module für wissenschaftliches Rechnen und Visualisierung (Pandas, Numpy, Matplotlib) voraus.
• Deisenroth, Marc Peter; Faisal, A. Aldo; Ong, Cheng Soon (2020): Mathematics for Machine Learning. Cambridge: Cambridge University Press.
  Anschauliche und kompakte Darstellung.
• Hardt, Moritz; Recht, Benjamin (2023): Patterns, Predictions, and Actions: Foundations of Machine Learning. Princeton NJ: Princeton University Press.
  [Online <https://mlstory.org/pdf/patterns.pdf>]
  Eine tiefgehende Darstellung der Grundlagen von »supervised learning«. Setzt mathematische Kenntnisse (Lineare Algebra, Tensoranalysis, Statistik) voraus, die z.B. das Buch von Chaudhury vermittelt.
• Jiang, Hui (2021): Machine Learning Fundamentals: A Concise Introduction. 3. Aufl., Cambridge: Cambridge University Press.
  [Seite zum Buch <https://doi.org/10.1017/9781108938051>]
  Eine umfassende Darstellung der Grundlagen. Setzt mathematische Kenntnisse (Lineare Algebra, Tensoranalysis, Statistik) voraus.
• Poole, David L.; Mackworth, Alan K. (2023): Artificial Intelligence: Foundations of Computational Agents. 3. Aufl. Cambridge: Cambridge University Press.
  Ein umfassendes und profundes Lehrbuch, das neben den statistischen auch die Methoden der klassischen KI behandelt.
• Zhang, Aston; Lipton, Zachary C.; Li, Mu; Smola, Alexander J. (2024): Dive into Deep Learning. Cambridge: Cambridge University Press.
  Ebenfalls ein »hands-on«-Einführung, die, anders als Chollet (2021), nicht Numpy und Tensorflow bzw. Keras, sondern PyTorch einsetzt, das eine Python-API zur Torch-Bibliothek, die ebenfalls Funktionen für Tensoroperationen und Neuronale Netze bietet und vergleichbare Leistungsmerkmale aufweist. Zudem wird hier ein tieferer Einblick in die Theorie geboten; wozu auch eine knappe Einführung in die notwendige Mathematik enthalten ist.

[Textanfang] [Rainer Fischbach]