Künstliche Intelligenz
Chancen und Risiken auf dem Weg zur „Superintelligenz“Der Begriff „Künstliche Intelligenz“ (KI) erreichte durch den Ende 2022 eingeführten Chatbot „ChatGPT“ eine neue Dimension in der öffentlichen Wahrnehmung. Die einfache Nutzbarkeit und der praktische Mehrwert der Anwendung für eine Vielzahl an Aufgaben ist ein weiterer Mosaikstein auf dem Weg zur Durchdringung aller Lebensbereiche durch „intelligente“ oder auch „smarte“ digitale Werkzeuge. Folgen und Möglichkeiten der Technologie werden seit geraumer Zeit diskutiert und erzeugen das, was technische Neuerungen zu allen Zeiten auslösten: Faszination und Ängste.
Eine Vielzahl an Büchern flutet den Buchmarkt über Anwendungsmöglichkeiten von KI in ziemlich allen Lebensbereichen – sei es in Wirtschaft, Bildung, Medizin, Jura, u. v. m. In den hier ausgewählten Büchern stehen die mittel- bis langfristigen Auswirkungen der Weiterentwicklung von KI im Mittelpunkt sowie die damit entstehenden Unsicherheiten und Gefahren, die sich beispielsweise in dem 2023 von führenden Experten geforderten Moratorium für die Weiterentwicklung von KI widerspiegelten.
Ein Blick in die Technologiegeschichte zeigt jedoch, dass technische Errungenschaften und deren Weiterentwicklung nahezu unaufhaltsam sind, ungeachtet ihrer möglicherweise negativen Auswirkungen auf einzelne Personen, Bevölkerungsgruppen, Wirtschaftszweige oder die Umwelt. Somit stellt sich nicht die Frage, ob künstliche Intelligenz unseren Alltag durchdringen wird, sondern nur wie und in welchem Maße.
Angesichts der rasanten Entwicklung in Bereichen der selbstlernenden Systeme, Nanotechnologie und auch der Quantencomputer wird sich zeigen, ob die mit KI ausgestatteten Technologien neben ihrer verführerischen Fähigkeit, dem Menschen unzählige Aufgaben abzunehmen und ihm dadurch mehr „Freizeit“ zu verschaffen, ihm über die potenzierten Überwachungs- und Beeinflussungsmöglichkeiten (sei es von Seiten eines Staates oder eines internationalen Konzerns) gleichzeitig einen Großteil seiner Freiheit abnehmen. Und eventuell irgendwann auch seine „Raison d’être“: Schafft sich der Mensch mit weiter potenzierten KI-Fähigkeiten einen eigenen Nachfolger in der Evolution von Intelligenz und Bewusstsein – eine Superintelligenz – ohne die Folgen für sich selbst kalkulieren zu können?
The ethics of artificial intelligence. Principles, challenges and opportunities (Luciano Floridi)
Written by arguably the greatest present philosopher of information, this monograph constitutes a major contribution to the ethics of artificial intelligence. The first part of the book presents a historical overview of artificial intelligence, which puts much of the present hype around large language models and so-called “artificial general intelligence” into perspective. Its main conclusion is that artificial intelligence really is agency without intelligence, which raises substantial moral problems. The second part of the books proposes a set of ethical principles inspired by traditional bioethics: beneficence, non-maleficence, autonomy (i.e. restricting the autonomy of machines and maximizing that of humans), justice, and, most importantly for artificial intelligence, explicability (i.e. transparency). It illustrates how these principles can be transposed into algorithms and be implemented to achieve good practices with respect to various social and ecological issues. This book is highly recommended to everyone interested in the ethics of artificial intelligence, foremost to policy makers.
The Cambridge handbook of the law, ethics and policy of artificial intelligence (ed. by Nathalie A. Smuha)
This handbook groups together contributions from philosophers, engineers and legal experts that study and illustrate the concrete consequences of the deployment of artificial intelligence in various areas such as labor law, consumer and data protection, education, health care, finances, media, and armed conflicts. The geographical focus is on the European Union, but the observations offered by the different essays should be (mutatis mutandis) applicable to other jurisdictions. This volume is an ideal companion to theoretical works such as the abovementioned book by Luciano Floridi, since it provides concrete examples that help to flesh out moral reflections on artificial intelligence and its applications. This book is also recommended to everyone interested in the ethics of artificial intelligence, foremost to policy makers.
Why Machines Will Never Rule the World. Artificial Intelligence Without Fear (Jobst Landgrebe and Barry Smith)
Written by an AI expert and a philosopher, this book is the best antidote to the endemic hype and panic regarding the purported emergence of so-called “artificial general intelligence”. According to the authors, there is “no AGI in the kill chain”. Human intelligence is a faculty conditioned by the brain and the central nervous system. The brain is a complex dynamic system; however, such systems cannot be captured in mathematical models which could be simulated by computers. The second edition contains timely additions as to how the general argument also applies to large language models. Furthermore, it provides refutations of transhumanism and the belief that we are living in a simulation. The occasionally rather technical book is nonetheless strongly recommended to readers who worry about prophecies by celebrities and influencers that human creativity will very soon be surpassed by artificial intelligence.
Künstliche Intelligenz. Fakten, Chancen, Risiken (Manuela Lenzen)
In der Bibliothek verfügbar – Online verfügbar
Einen Rundumblick zum Thema Künstliche Intelligenz (KI) verschafft dieses kurze Buch von 128 Seiten. Sachlich-nüchtern, aber gut verständlich erklärt die Philosophin und Wissenschaftsjournalistin Manuela Lenzen die Charakteristika und Fähigkeiten von KI, beschreibt deren Probleme und Risiken und erläutert mögliche Auswirkungen auf Mensch und Gesellschaft. Dabei erscheint KI als Problem und Lösungsangebot zugleich: Einerseits kann sie Komplexität reduzieren, indem es riesige Datenmengen analysiert oder komplexe Systeme steuert, denen ein Mensch hilflos gegenüberstünde. Andererseits machen lernende Systeme und die allgegenwärtige Digitalisierung selbst die Welt erheblich komplexer; nicht zuletzt auch wegen der Überwachungs- und Manipulationsmöglichkeiten, die die immensen Datensammlungen in der Hand weniger internationaler Konzerne liefern. Neben der Bedeutung digitaler Datenmengen für die KI-Entwicklung widmet sich die Autorin den Bedingungen und Auswirkungen der Formwerdung der KI, z.B. in sozialen Robotern für die Interaktion mit Menschen oder in Militärrobotern für kriegerische Auseinandersetzungen. Am Ende des Buches wirft die Autorin einen Blick in die Zukunft und wägt die Möglichkeit eines katastrophalen Zukunftsszenarios mit den Chancen einer menschenverträglichen Nutzung der KI ab. Dabei sieht sie noch keine Superintelligenz in Sicht, jedoch mächtige Werkzeuge, die, genauso wie andere technologische Innovationen in der Geschichte der Menschheit, Gesellschaften destabilisieren und zu Unruhen und gewaltsamen Umbrüchen führen können.
IA génératives, pas créatives. L’intelligence artificielle n’existe (toujours) pas (Luc Julia)
Luc Julia, expert en intelligence artificielle et co-inventeur de Siri, affirme dans la deuxième édition de son livre que l’intelligence artificielle, telle qu’elle est souvent présentée dans les médias et la culture populaire, n’existe pas et ne pourra jamais exister en tant qu’entité consciente et autonome. Il critique l’utilisation du terme « intelligence artificielle », qu’il considère comme trompeur, et préfère parler d’« intelligence augmentée », soulignant que les technologies actuelles améliorent les capacités humaines sans les remplacer.
Le livre explore l’histoire de l’IA, depuis la conférence de Dartmouth en 1956 jusqu’aux avancées modernes en matière d’apprentissage automatique et d’apprentissage profond. Julia explique que ces technologies sont basées sur des algorithmes capables d’effectuer certaines tâches, mais qui n’ont pas de réelle compréhension ou conscience. À titre d’exemple, il cite des programmes tels que Deep Blue et AlphaGo, qui ont vaincu des maîtres humains aux échecs et au Go, mais qui n’ont pas d’intelligence réelle.
L’auteur critique également l’essor du deep learning, qui repose sur l’apprentissage automatique à partir d’immenses ensembles de données. Si cette technologie a permis des avancées spectaculaires dans des domaines tels que la reconnaissance d’images ou la traduction automatique, elle présente des limites importantes : les algorithmes ne comprennent pas ce qu’ils traitent et sont incapables de généraliser au-delà des données sur lesquelles ils ont été entraînés.
Enfin, Julia examine les défis éthiques liés à l’IA, notamment les risques de manipulation et de surveillance. Il met en garde contre les exagérations des médias qui alimentent les craintes d’une IA toute puissante et encourage une approche plus pragmatique et réaliste du développement technologique.
The singularity is nearer. When we merge with AI (Ray Kurzweil)
In 2005 the author and head of technical development at Google, Ray Kurzweil, published his book “The singularity is near”. In his follow-up book, almost 20 years later, Kurzweil repeats and precises his sometimes prophetic-sounding statements, for example the estimate of the year 2045 as the time when the technical singularity will be reached. Technical singularity is seen as the extreme exponential acceleration of technical progress and the integration of artificial intelligence with the natural biological intelligence. This would expand humans’ intelligence and consciousness profoundly and beyond current comprehension.
Critics saw the prophetic nature of the depiction as a mechanised version of a religious end-time narrative or a variant of the ‘superhuman’. Nevertheless, experts see not only Kurzweil’s ideas on technical singularity, but also his descriptions of transhumanism as a real vision of the future in which biological immortality could theoretically be achieved. The future will show whether Kurzweil’s controversial predictions are correct – for example concerning humans’ future attitudes towards life extension:
opposition [against modifying genes and against radical life extension] will ultimately fail, however, because the demand for therapies that can overcome the pain, disease, and short life spans inherent in our version 1.0 bodies will ultimately prove irresistible.
Objections that radical life extension could lead to profound boredom, he counters as follows:
We will inhabit vast virtual and augmented realities limited only by our imagination – which itself will be expanded. Even if we lived hundreds of years, we would not exhaust all the knowledge there is to gain, and all the culture there is to consume.
In view of the possibilities of producing dangerous, self-replicating nanobots in the future, Kurzweil’s answer to the question of whether the Singularity will benefit humans is less optimistic:
While AI is creating new technical threats, it will also radically enhance our ability to deal with those threats. As for abuse, since these methods will enhance our intelligence regardless of our values, they can be used for both promise and peril.
Human compatible. Artificial intelligence and the problem of control (Stuart Russell)
Available at the library (English) – Online verfügbar (Deutsch)
In this book, author Stuart Russel – a former IBM employee, computer science professor at Berkeley and author of one of the most frequently cited textbooks on AI – attempts to find solutions to prevent the potentially catastrophic consequences of AI development. After providing a historical context for the evolution of AI and describing the capabilities and limitations of current systems, he addresses the problems that could arise from machines with superhuman intelligence. The danger to society does not initially come from such a machine itself, but from what humans make of it – e.g. the question of whether or what kind of volitional development is granted to AI. Comprehensive restrictions on technology are therefore necessary to ensure that AI actions remain geared towards maximising the realisation of human preferences. Given the possibilities of implanting ever greater portions of human knowledge into machines that could eventually control the destiny of civilisation, Russel writes at the end:
For any individual human, it seem pointless to engage in years of arduous learning to acquire knowledge and skills that machines already have; but if everyone thinks that way, the human race will, collectively, lose its autonomy. [...] We will need a cultural movement to reshape our ideals and preferences towards autonomy, agency, and ability and away from self-indulgence and dependency – if you like, a modern, cultural version of ancient Sparta’s military ethos.
Künstliche Intelligenz (Bert Heinrichs, Jan-Hendrik Heinrichs, Markus Rüther)
Die philosophischen Betrachtungen der Autoren dieses Werkes sind eine Art Ruhepol im Vergleich zu manch anderen marktschreierischen KI-Publikationen. Die Inhalte und möglichen Konsequenzen bleiben ähnlich, aber die zunächst geschichtlich orientierte, dann philosophisch-distanzierte Art der Darstellung hilft, einen weniger dramatischen Blick auf die KI-Entwicklung zu werfen. Im ersten Teil des Buches geben die Autoren einen historischen Überblick der wesentlichen Entwicklungen, die zu heutigen KI-Anwendungen führten. Ausgehend von Hobbes und Leibniz im 17. und 18. Jahrhundert, die u.a. Denken mit Rechnen gleichzusetzen versuchten, führt der Weg über die Weiterentwicklung von Rechenmaschinen im 19. Jahrhundert (z.B. von Charles Babbage und Ada Lovelace) zu Menschen wie Alan Turing im 20. Jahrhundert, der vielen als der „Vater“ der künstlichen Intelligenzforschung gilt. Nach wechselvollen Anfängen mit konkurrierenden theoretischen Ansätzen zeitigt das „konnektionistische Modell“, das sich am Aufbau neuronaler Netze orientiert, momentan den meisten Erfolg für den weiteren Ausbau der selbstlernenden, künstlichen Intelligenz. Im zweiten, etwas anspruchsvoller zu lesenden Teil werden Fragen zur Handlungstheorie und Theorie des Geistes im Hinblick auf künstliche Intelligenz hin diskutiert, während im dritten Teil die Anwendung künstlicher Intelligenz u. a. in Forschung, Medizin, Wirtschaft aus philosophischer Perspektive betrachtet wird. Im vierten und letzten Teil beleuchten die Autoren zukünftige Herausforderungen einer möglichen Superintelligenz im Zusammenspiel mit Ganzhirnemulationen und vor dem Hintergrund einer Singularität. Sie schließen mit der Erkenntnis, dass KI als ein Grundthema der Philosophie gelten muss, da sie einen enormen Einfluss auf theoretische Grundüberzeugungen zu handelnden und denkenden Subjekten ausübt sowie auf praktische Vorstellungen von gesellschaftlichen Normen und vom gesellschaftlichen Guten.
Genesis. Artificial intelligence, hope, and the human spirit (Henry A. Kissinger, Craig Mundie, Eric Schmidt with Eleanor Runde)
In his last book, Henry A. Kissinger tried, together with his knowledgeable co-authors Craig Mundie and Eric Schmidt to outline a strategy for how to navigate the age of artificial intelligence.
The authors see AI not just as a technological advance, but as a transformative, if not revolutionary force capable of reshaping global power dynamics – comparable with nuclear energy or the printing press. As AI can change the international order in unpredictable ways, the concentration of AI power in the hands of a few large technology companies, primarily in the US and China, seems to be dangerous.
Companies such as OpenAI, Google and Baidu wield influence that exceeds that of many governments, especially in countries with weaker regulatory infrastructures. The companies’ unchecked dominance creates an imbalance and weakens the ability of democratic states to effectively regulating AI, while authoritarian regimes exploit it for surveillance, predictive policing and social control.
This kind of AI-driven oppression could lead to a global spread of digital authoritarianism and undermine democratic ideals; therefore Kissinger, Mundie and Schmidt urge for a strategy of international cooperation to mitigate those risks.
The Machine Stops (Edward Morgan Forster)
A work of fiction should not be missing on this list of books on AI. In view of the surveillance possibilities offered by the digitization and technologization of everyday life through AI devices and applications, George Orwell's novel “1984,” with its thought police and “telescreens” that cannot be turned off, would be a fitting choice. However, AI is not imposed autocratically and enforced by a surveillance state, but rather seeps into people's lives with its countless practical effects. That is why E. M. Forster’s dystopian short story The Machine Stops is included in this book list. In the story, published at the beginning of the 20th century, the author describes a world in which a machine, originally man-made but now quasi-divine, satisfies all human needs. Due to the supposed uninhabitability of the earth, people live in identical, honeycomb-like individual cells underground and communicate with each other via a kind of video telephony. This includes Vashti and her son Kuno, who, disappointed by the mechanized world, seeks human interaction and a freer life on the Earth’s surface—and finds people there, but is forced back into the machine. Because independent thinking and experience are frowned upon, Vashti dismisses her son’s thoughts as dangerous madness and only realizes “what had really been important on earth” when disaster strikes. There is no salvation for Vashti, Kuno, and the people in the machine, because:
In all the world there was not one who understood the monster as a whole. […] Humanity, in its desire to comfort, had over-reached itself.
Zum letzten Mal aktualisiert am