Ronald T. Kneusel, forfatter af “How AI Works: From Sorcery to Science” – Intervieuserie

Vi har nyligt modtaget en advanced kopi af bogen “How AI Work: From Sorcery to Science” af Ronald T. Kneusel. Jeg har læst over 60 bøger om AI, og selvom nogle af dem kan være repetitive, lykkedes denne bog at tilbyde en frisk perspektiv, Jeg nød denne bog tilstrækkeligt til at tilføje den til min personlige liste over de bedste maskinlærings- og AI-bøger aller tid.

“How AI Works: From Sorcery to Science” er en kort og klart skrevet bog, der er designet til at afgrænse de grundlæggende principper for maskinlæring. Herunder følger nogle spørgsmål, der blev stillet til forfatteren Ronald T. Kneusel.

Dette er din tredje AI-bog, de to første var: “Practical Deep Learning: A Python-Base Introduction,” og “Math for Deep Learning: What You Need to Know to Understand Neural Networks”. Hvad var din oprindelige intention, da du satte dig for at skrive denne bog?

Forskelligt målgruppe. Mine tidligere bøger er ment som introduktioner for personer, der er interesseret i at blive AI-praktikere. Denne bog er for almindelige læsere, personer, der hører meget om AI i nyhederne, men har ingen baggrund i det. Jeg vil vise læserne, hvor AI kommer fra, at det ikke er magi, og at alle kan forstå, hvad det gør.

Mens mange AI-bøger har en tendens til at generalisere, har du valgt en modsat tilgang ved at være meget specifik i undervisningen af betydningen af forskellige termer og selv forklare relationen mellem AI, maskinlæring og dyb læring. Hvorfor tror du, at der er så meget samfundsmæssig forvirring mellem disse termer?

For at forstå AI’s historie og hvorfor det er overalt, hvor vi ser nu, har vi brug for at forstå forskellen mellem termerne, men i populær brug er det rimeligt at bruge “AI” med det formål, at det primært henviser til de AI-systemer, der transformerer verden så hurtigt. Moderne AI-systemer opstod fra dyb læring, der opstod fra maskinlæring og den connectionistiske tilgang til AI.

Det andet kapitel dykker dybt ind i AI’s historie, fra myten om Talos, en kæmpe robot, der skulle vogte en Pheonecian prinsesse, til Alan Turings papir fra 1950’erne, “Computing Machinery and Intelligence”, til dyb læringens revolution i 2012. Hvorfor er det vigtigt at have en god forståelse for AI’s og maskinlærings historie for at fuldt ud forstå, hvor langt AI er kommet?

Min intention er at vise, at AI ikke bare faldt ned fra himlen. Det har en historie, en oprindelse og en udvikling. Selvom de emergente evner i store sprogmodeller er en overraskelse, er vejen, der fører til dem, ikke. Det er en vej på årtier af tanker, forskning og eksperimenter.

Du har viet et helt kapitel til at forstå legacy AI-systemer som support vector maskiner, beslutningstræer og tilfældige skove. Hvorfor tror du, at det er så vigtigt at have en fuld forståelse af disse klassiske AI-modeller?

AI som neurale netværk er kun (!) en alternativ tilgang til den samme type optimeringsbaseret modellering, der findes i mange tidligere maskinlæringsmodeller. Det er en anden måde at udvikle en model af en proces, en funktion, der mapper input til output. At kende til tidligere modeller hjælper med at definere, hvor de nuværende modeller kommer fra.

Du udtrykker din overbevisning om, at OpenAI’s ChatGPT’s LLM-model er begyndelsen på rigtig AI. Hvad var i din mening den største gamechanger mellem denne og tidligere metoder til at tackle AI?

Jeg så nyligt en video fra slutningen af 1980’erne af Richard Feynman, der forsøgte at besvare et spørgsmål om intelligente maskiner. Han sagde, at han ikke vidste, hvilken slags program, der kunne opføre sig intelligent. I en vis forstand talte han om symbolisk AI, hvor mysteriet om intelligens er at finde den magiske sekvens af logiske operationer, osv., der muliggør intelligent adfærd. Jeg undrede mig, ligesom mange andre, over det samme – hvordan kan man programmere intelligens?

Min overbevisning er, at man ikke rigtig kan. I stedet opstår intelligens fra tilstrækkeligt komplekse systemer, der kan implementere, hvad vi kalder intelligens (dvs. os). Vores hjerner er enormt komplekse netværk af grundlæggende enheder. Det er også, hvad et neuralt netværk er. Jeg tror, at transformer-arkitekturen, som er implementeret i LLM’er, har tilfældigt fundet en lignende arrangement af grundlæggende enheder, der kan arbejde sammen for at tillade intelligent adfærd at opstå.

På den ene side er det den ultimative Bob Ross “happy accident”, mens på den anden side burde det ikke være overraskende, når arrangementet og de tilladte interaktioner mellem grundlæggende enheder, der kan muliggøre emergent intelligent adfærd, er sket. Det synes klart nu, at transformer-modeller er en sådan arrangement. Naturligvis stiller det spørgsmålet: hvilke andre sådanne arrangementer kan der være?

Din take-home besked er, at moderne AI (LLM’er) i kerne er blot et neuralt netværk, der trænes ved backpropagation og gradient descent. Er du personligt overrasket over, hvor effektive LLM’er er?

Ja og nej. Jeg er konstant forbavset over deres svar og evner, når jeg bruger dem, men med henvisning til det foregående spørgsmål, er emergent intelligens virkelig, så hvorfor skulle det ikke opstå i et tilstrækkeligt stort model med en passende arkitektur? Jeg tror, at forskere så langt tilbage som Frank Rosenblatt, hvis ikke tidligere, sandsynligvis tænkte på samme måde.

OpenAI’s missionserklæring er “at sikre, at kunstig generel intelligens – AI-systemer, der er generelt klogere end mennesker – gavner hele menneskeheden.” Tror du personligt, at AGI er opnåeligt?

Jeg ved ikke, hvad AGI betyder mere end jeg ved, hvad bevidsthed betyder, så det er svært at svare. Som jeg siger i bogen, kan der meget vel komme en tid, meget snart, hvor det er meningsløst at bekymre sig om sådanne forskelle – hvis det går som en and, og quacker som en and, så kalder man det en and og går videre.

Frækt svar til side, er det fuldt ud inden for mulighedernes grænser, at et AI-system kan tilfredsstille mange teorier om bevidsthed. Vil vi have fuldt bevidste (hvad det end betyder) AI-systemer? Måske ikke. Hvis det er bevidst, er det som os og derfor en person med rettigheder – og jeg tror ikke, verden er klar til kunstige personer. Vi har nok problemer med at respektere rettighederne for vores medmennesker, endsige rettighederne for enhver anden slags væsen.

Var der noget, du lærte under skrivningen af denne bog, der overraskede dig?

Ud over det samme niveau af overraskelse, som alle andre føler over de emergente evner i LLM’er, ikke rigtig. Jeg lærte om AI som studerende i 1980’erne. Jeg startede med at arbejde med maskinlæring i begyndelsen af 2000’erne og var involveret i dyb læring, da det opstod i begyndelsen af 2010’erne. Jeg oplevede udviklingen i det sidste årti førstehånds, sammen med tusinder af andre, da feltet voksede dramatisk fra konference til konference.

Tak for det gode interview, læsere kan også ønske at se min gennemgang af denne bog. Bogen er tilgængelig hos alle større detailhandlere, herunder Amazon.