Ronald T. Kneusel, författare till “Hur AI fungerar: Från trolldom till vetenskap” – Intervjuserie

Vi har nyligen fått en förhandskopia av boken “Hur AI fungerar: Från trolldom till vetenskap” av Ronald T. Kneusel. Jag har hittills läst över 60 böcker om AI, och medan några av dem kan bli repetitiva, lyckades den här boken erbjuda en fräsch perspektiv, jag tyckte om den här boken tillräckligt för att lägga till den i min personliga lista över de bästa maskinlärnings- och AI-böckerna genom tiderna.

“Hur AI fungerar: Från trolldom till vetenskap” är en koncis och tydlig bok som är utformad för att förklara de grundläggande principerna för maskinlärning. Här är några frågor som ställdes till författaren Ronald T. Kneusel.

Detta är din tredje AI-bok, de två första var: “Praktisk djupinlärning: En Python-baserad introduktion” och “Matematik för djupinlärning: Vad du behöver veta för att förstå neuronnät”. Vad var din ursprungliga avsikt när du satte igång att skriva den här boken?

Olika målgrupp. Mina tidigare böcker är tänkta som introduktioner för personer som är intresserade av att bli AI-utövare. Den här boken är för allmänna läsare, personer som hör mycket om AI i nyheterna men som inte har någon bakgrund i det. Jag vill visa läsarna var AI kom ifrån, att det inte är magi och att vem som helst kan förstå vad det gör.

Medan många AI-böcker tenderar att generalisera, har du tagit det motsatta tillvägagångssättet genom att vara mycket specifik i undervisningen av olika termer och även förklara relationen mellan AI, maskinlärning och djupinlärning. Varför tror du att det finns så mycket samhällelig förvirring mellan dessa termer?

För att förstå AI:s historia och varför det är överallt vi tittar nu, behöver vi förstå skillnaden mellan termerna, men i populär användning är det rimligt att använda “AI” med vetskap om att det huvudsakligen hänvisar till de AI-system som förvandlar världen så snabbt. Moderna AI-system har uppstått ur djupinlärning, som i sin tur har uppstått ur maskinlärning och den connectionistiska ansatsen till AI.

Det andra kapitlet dyker djupt in i AI:s historia, från myten om Talos, en jätterobot som skulle skydda en fenicisk prinsessa, till Alan Turings papper från 1950-talet, “Computing Machinery and Intelligence”, till den djupinlärningsrevolution som började 2012. Varför är det viktigt att ha en förståelse för AI:s och maskinlärningens historia för att fullständigt förstå hur långt AI har utvecklats?

Min avsikt är att visa att AI inte bara föll från himlen. Det har en historia, ett ursprung och en utveckling. Medan de framväxande förmågorna hos stora språkmodeller är en överraskning, är vägen som ledde till dem inte det. Det är en väg av decennier av tankar, forskning och experiment.

Du har ägnat ett helt kapitel åt att förstå äldre AI-system som stödvektor-maskiner, besluts-träd och slumpmässiga skogar. Varför tror du att det är så viktigt att fullständigt förstå dessa klassiska AI-modeller?

AI som neuronnät är bara (!) en alternativ ansats till den typ av optimeringsbaserad modellering som finns i många tidigare maskinlärningsmodeller. Det är en annan syn på vad det innebär att utveckla en modell av någon process, någon funktion som kartlägger indata till utdata. Att känna till tidigare typer av modeller hjälper till att förstå var nuvarande modeller kommer ifrån.

Du uttrycker din övertygelse om att OpenAI:s ChatGPT:s LLM-modell är gryningen till sann AI. Vad var i din åsikt den största förändringen mellan detta och tidigare metoder för att hantera AI?

Jag såg nyligen en video från slutet av 1980-talet med Richard Feynman som försökte svara på en fråga om intelligenta maskiner. Han sa att han inte visste vilken typ av program som kunde bete sig intelligent. I en viss mening talade han om symbolisk AI, där mysteriet med intelligens är att hitta den magiska sekvensen av logiska operationer etc. som möjliggör intelligent beteende. Jag undrade, liksom många, över samma sak – hur programmerar man intelligens?

Min övertygelse är att man verkligen inte kan. Istället uppstår intelligens från tillräckligt komplexa system som kan implementera det vi kallar intelligens (dvs. oss). Våra hjärnor är enormt komplexa nätverk av grundläggande enheter. Det är också vad ett neuronnät är. Jag tror att transformer-arkitekturen, som implementerats i LLM, har på något sätt upptäckt en liknande ordning av grundläggande enheter som kan arbeta tillsammans för att tillåta intelligent beteende att uppstå.

Å ena sidan är det den ultimata “happy accident” à la Bob Ross, medan det på andra sidan inte borde vara förvånande när ordningen och de tillåtna interaktionerna mellan grundläggande enheter som kan möjliggöra intelligent beteende har inträffat. Det verkar nu tydligt att transformermodeller är en sådan ordning. Naturligtvis väcker detta frågan: vilka andra sådana ordningar kan finnas?

Din huvudsakliga budskap är att modern AI (LLM) i sin kärna är enbart ett neuronnät som tränas med bakpropagation och gradientnedstigning. Är du personligen förvånad över hur effektiv LLM är?

Ja och nej. Jag är ständigt förvånad över dess svar och förmågor när jag använder dem, men med hänvisning till den föregående frågan, är det verkliga intelligent beteendet, så varför skulle det inte uppstå i ett tillräckligt stort modell med en lämplig arkitektur? Jag tror att forskare så långt tillbaka som Frank Rosenblatt, om inte tidigare, troligen tänkte på samma sätt.

OpenAI:s mission är “att säkerställa att artificiell allmän intelligens – AI-system som är allmänt smartare än människor – gynnar hela mänskligheten”. Tror du personligen att AGI är uppnåelig?

Jag vet inte vad AGI betyder mer än jag vet vad medvetande betyder, så det är svårt att svara. Som jag skriver i boken kan det komma en punkt, mycket snart, där det är meningslöst att bry sig om sådana distinktioner – om det ser ut som en anka och kvackar som en anka, kalla det för en anka och fortsätt.

Skämtsamma svar åsido, är det fullständigt möjligt att ett AI-system kan uppfylla många teorier om medvetande. Vill vi ha fullständigt medvetna (vad det än betyder) AI-system? Kanske inte. Om det är medvetet är det som oss och därmed en person med rättigheter – och jag tror inte att världen är redo för artificiella personer. Vi har redan tillräckligt med problem med att respektera rättigheterna för våra medmänniskor, för att inte tala om rättigheterna för någon annan typ av varelse.

Var det något som du lärde dig under skrivandet av den här boken som tog dig med överraskning?

Förutom samma nivå av överraskning som alla andra känner inför de framväxande förmågorna hos LLM, inte riktigt. Jag lärde mig om AI som student på 1980-talet. Jag började arbeta med maskinlärning i början av 2000-talet och var involverad i djupinlärning när den uppstod i början av 2010-talet. Jag vittnade om utvecklingen under det senaste decenniet, tillsammans med tusentals andra, när fältet växte dramatiskt från konferens till konferens.

Tack för den underbara intervjun, läsarna kan också vilja ta en titt på min recension av den här boken. Boken finns tillgänglig hos alla stora återförsäljare, inklusive Amazon.