Ronald T. Kneusel, Autor von “How AI Works: From Sorcery to Science” – Interview-Serie

Wir haben kürzlich eine Vorabkopie des Buches “How AI Work: From Sorcery to Science” von Ronald T. Kneusel erhalten. Ich habe bisher über 60 Bücher über KI gelesen, und während einige von ihnen sich wiederholen, bot dieses Buch eine frische Perspektive, ich genoss dieses Buch so sehr, dass ich es meiner persönlichen Liste der Besten Machine-Learning- und KI-Bücher aller Zeiten hinzugefügt habe.

“How AI Works: From Sorcery to Science” ist ein prägnantes und klar strukturiertes Buch, das darauf abzielt, die grundlegenden Prinzipien des Machine Learning zu erläutern. Im Folgenden sind einige Fragen, die dem Autor Ronald T. Kneusel gestellt wurden.

Dies ist Ihr drittes KI-Buch, die ersten beiden waren: “Practical Deep Learning: A Python-Base Introduction” und “Math for Deep Learning: What You Need to Know to Understand Neural Networks”. Was war Ihre ursprüngliche Absicht, als Sie sich entschieden, dieses Buch zu schreiben?

Andere Zielgruppe. Meine vorherigen Bücher sind als Einführungen für Menschen gedacht, die sich für die Arbeit mit KI interessieren. Dieses Buch ist für allgemeine Leser, Menschen, die viel über KI in den Nachrichten hören, aber keine Vorkenntnisse haben. Ich möchte den Lesern zeigen, woher KI kommt, dass es keine Magie ist und dass jeder es verstehen kann.

Während viele KI-Bücher tendenziell verallgemeinern, haben Sie den gegenteiligen Ansatz gewählt und sind sehr spezifisch bei der Vermittlung der Bedeutung verschiedener Begriffe und sogar bei der Erklärung der Beziehung zwischen KI, Machine Learning und Deep Learning. Warum glauben Sie, dass es so viel gesellschaftliche Verwirrung zwischen diesen Begriffen gibt?

Um die Geschichte von KI und warum es überall ist, wo wir hinschauen, zu verstehen, müssen wir die Unterschiede zwischen den Begriffen verstehen, aber im allgemeinen Sprachgebrauch ist es fair, “KI” zu verwenden, wissend, dass es hauptsächlich auf die KI-Systeme verweist, die die Welt so schnell verändern. Moderne KI-Systeme sind aus dem Deep Learning entstanden, das wiederum aus dem Machine Learning und dem connectionistischen Ansatz zur KI entstanden ist.

Das zweite Kapitel geht tief in die Geschichte von KI ein, von der Sage von Talos, einem Riesenroboter, der eine phönizische Prinzessin bewachen sollte, bis zu Alan Turings Aufsatz aus den 1950er Jahren, “Computing Machinery and Intelligence”, bis hin zur Entstehung der Deep-Learning-Revolution im Jahr 2012. Warum ist es wichtig, die Geschichte von KI und Machine Learning zu verstehen, um zu verstehen, wie weit KI fortgeschritten ist?

Meine Absicht ist es, zu zeigen, dass KI nicht einfach vom Himmel gefallen ist. Es hat eine Geschichte, einen Ursprung und eine Evolution. Während die emergenten Fähigkeiten von Large-Language-Modellen überraschend sind, ist der Weg, der zu ihnen geführt hat, nicht. Es ist ein Weg, der aus Jahrzehnten von Gedanken, Forschung und Experimenten besteht.

Sie haben ein ganzes Kapitel der Legacy-KI-Systeme wie Support-Vektor-Maschinen, Entscheidungsbäume und Random Forests gewidmet. Warum glauben Sie, dass es wichtig ist, diese klassischen KI-Modelle vollständig zu verstehen?

KI als neuronale Netze ist lediglich (!) ein alternativer Ansatz zur Art von Optimierungs-basiertem Modellieren, das in vielen früheren Machine-Learning-Modellen gefunden wird. Es ist ein anderer Ansatz, um ein Modell eines Prozesses, einer Funktion, die Eingaben in Ausgaben umwandelt, zu entwickeln. Das Wissen über frühere Modelle hilft, zu verstehen, woher die aktuellen Modelle kommen.

Sie äußern die Meinung, dass OpenAIs ChatGPT-LLM-Modell der Anbruch von echter KI ist. Was war Ihrer Meinung nach der größte Game-Changer zwischen diesem und früheren Methoden, KI anzugehen?

Ich habe kürzlich ein Video aus den späten 1980er Jahren von Richard Feynman gesehen, in dem er versucht, eine Frage über intelligente Maschinen zu beantworten. Er sagte, er wisse nicht, was für ein Programm intelligent sein könne. In gewissem Sinne sprach er über symbolische KI, bei der das Geheimnis der Intelligenz darin besteht, die magische Sequenz logischer Operationen zu finden, usw., die intelligentes Verhalten ermöglichen. Ich fragte mich, wie man Intelligenz programmieren könne.

Meine Meinung ist, dass man es wirklich nicht kann. Stattdessen entsteht Intelligenz aus ausreichend komplexen Systemen, die in der Lage sind, das zu implementieren, was wir Intelligenz nennen (d. h. uns). Unser Gehirn ist ein komplexes Netzwerk von Grundelementen. Das ist auch, was ein neuronales Netz ist. Ich denke, dass die Transformer-Architektur, wie sie in LLMs implementiert ist, zufällig auf eine ähnliche Anordnung von Grundelementen gestoßen ist, die zusammenarbeiten können, um intelligentes Verhalten zu ermöglichen.

On the one hand, es ist das ultimative “Happy Accident” von Bob Ross, während es auf der anderen Seite nicht überraschend sein sollte, wenn die Anordnung und die erlaubten Interaktionen zwischen den Grundelementen, die intelligentes Verhalten ermöglichen, stattgefunden haben. Es scheint klar, dass Transformer-Modelle eine solche Anordnung sind. Natürlich wirft dies die Frage auf: Was andere solche Anordnungen gibt es?

Ihre Kernbotschaft ist, dass moderne KI (LLMs) im Kern einfach ein neuronales Netz sind, das durch Backpropagation und Gradientenabstieg trainiert wird. Sind Sie persönlich überrascht von der Effektivität von LLMs?

Ja und nein. Ich bin ständig erstaunt von ihren Antworten und Fähigkeiten, wenn ich sie verwende, aber wenn man auf die vorherige Frage zurückblickt, ist emergente Intelligenz real, also warum sollte sie nicht in einem ausreichend großen Modell mit einer geeigneten Architektur entstehen? Ich denke, Forscher wie Frank Rosenblatt, wenn nicht früher, dachten wahrscheinlich ähnlich.

OpenAIs Missionserklärung lautet: “sicherzustellen, dass künstliche allgemeine Intelligenz – KI-Systeme, die im Allgemeinen intelligenter sind als Menschen – der gesamten Menschheit zugute kommen”. Glauben Sie persönlich, dass AGI erreichbar ist?

Ich weiß nicht, was AGI bedeutet, genauso wenig wie ich weiß, was Bewusstsein bedeutet, also ist es schwierig, zu antworten. Wie ich im Buch sage, kann es bald einen Punkt geben, an dem es sinnlos ist, sich um solche Unterscheidungen zu kümmern – wenn es wie eine Ente aussieht und quakt wie eine Ente, nenne es einfach eine Ente und fahre fort.

Spöttische Antworten beiseite, es ist durchaus möglich, dass ein KI-System bald viele Theorien des Bewusstseins erfüllen kann. Wollen wir vollständig bewusste (was auch immer das wirklich bedeutet) KI-Systeme? Vielleicht nicht. Wenn es bewusst ist, dann ist es wie wir und daher ein Wesen mit Rechten – und ich denke, die Welt ist nicht bereit für künstliche Wesen. Wir haben bereits genug Schwierigkeiten, die Rechte unserer Mitmenschen zu respektieren, geschweige denn die von anderen Wesen.

Gab es während der Arbeit an diesem Buch etwas, das Sie überrascht hat?

Außer der gleichen Überraschung, die jeder andere über die emergenten Fähigkeiten von LLMs empfindet, nicht wirklich. Ich habe über KI als Student in den 1980er Jahren gelernt. Ich begann in den frühen 2000er Jahren mit Machine Learning zu arbeiten und war an der Entstehung des Deep Learning in den frühen 2010er Jahren beteiligt. Ich habe die Entwicklungen des letzten Jahrzehnts hautnah miterlebt, zusammen mit Tausenden anderen, während sich das Feld von Konferenz zu Konferenz dramatisch entwickelte.

Vielen Dank für das großartige Interview, Leser können auch einen Blick auf meine Rezension dieses Buches werfen. Das Buch ist bei allen großen Händlern erhältlich, einschließlich Amazon.