Ronald T. Kneusel, forfatter av “How AI Works: From Sorcery to Science” – Intervju-serie

Vi har nylig mottatt en forhåndsutgave av boken “How AI Work: From Sorcery to Science” av Ronald T. Kneusel. Jeg har så langt lest over 60 bøker om AI, og mens noen av dem kan bli repetitive, klarte denne boken å tilby en fersk perspektiv, Jeg likte denne boken godt nok til å legge den til min personlige liste over de beste maskinlærings- og AI-bøkene gjennom alle tider.

“How AI Works: From Sorcery to Science” er en konsis og tydelig bok designet for å tegne de grunnleggende fundamentene for maskinlæring. Under er noen spørsmål som ble stilt til forfatter Ronald T. Kneusel.

Dette er din tredje AI-bok, de to første var: “Practical Deep Learning: A Python-Base Introduction,” og “Math for Deep Learning: What You Need to Know to Understand Neural Networks”. Hva var din opprinnelige intensjon når du satte ut å skrive denne boken?

Forskjellig målgruppe. Mine tidligere bøker er ment som introduksjoner for mennesker som er interessert i å bli AI-utøvere. Denne boken er for generelle lesere, mennesker som hører mye om AI i nyhetene, men har ingen bakgrunn i det. Jeg ønsker å vise lesere hvor AI kom fra, at det ikke er magi, og at alle kan forstå hva det gjør.

Mens mange AI-bøker tenderer til å generalisere, har du tatt den motsatte tilnærmingen ved å være svært spesifik i å undervise i betydningen av ulike terminologier, og selv forklare forholdet mellom AI, maskinlæring og dyplæring. Hvorfor tror du at det er så mye samfunnsforvirring mellom disse begrepene?

For å forstå historien om AI og hvorfor det er overalt vi ser nå, må vi forstå forskjellen mellom begrepene, men i populær bruk, er det greit å bruke “AI” med viten om at det hovedsakelig henviser til AI-systemene som transformerer verden så raskt. Moderne AI-systemer oppstod fra dyplæring, som oppstod fra maskinlæring og den connexionistiske tilnærmingen til AI.

Det andre kapitlet dykker dypt inn i historien om AI, fra myten om Talos, en gigantisk robot som skulle vokte en fønikisk prinsesse, til Alan Turings papir fra 1950-årene, “Computing Machinery and Intelligence”, til oppkomsten av den dyplæringsrevolusjonen i 2012. Hvorfor er det å fatte historien om AI og maskinlæring avgjørende for å fullt ut forstå hvor langt AI har utviklet seg?

Min intensjon er å vise at AI ikke bare falt ned fra himmelen. Det har en historie, en opprinnelse og en utvikling. Mens de emergente evnene til store språkmodeller er en overraskelse, er veien som fører til dem ikke. Det er en vei av tiår med tanker, forskning og eksperimentering.

Du har viet et helt kapittel til å forstå legacy AI-systemer som støttevektormaskiner, beslutningstre og tilfeldige skoger. Hvorfor tror du at det å fullt ut forstå disse klassiske AI-modellene er så viktig?

AI som neurale nettverk er bare (!) en alternativ tilnærming til samme type optimeringsbasert modellering som finnes i mange tidligere maskinlæringsmodeller. Det er en annen måte å se på hva det innebærer å utvikle en modell av en prosess, en funksjon som kartlegger inn- og utdata. Å kjenne til tidligere typer modeller hjelper med å ramme inn hvor nåværende modeller kom fra.

Du uttrykker din tro på at OpenAIs ChatGPTs LLM-modell er gryningen til sant AI. Hva i din mening var den største game-changeren mellom denne og tidligere metoder for å takle AI?

Jeg så nylig en video fra slutten av 1980-årene av Richard Feynman som forsøkte å svare på et spørsmål om intelligente maskiner. Han sa at han ikke visste hva slags program som kunne oppføre seg intelligent. På en måte snakket han om symbolisk AI, hvor mysteriet med intelligens er å finne den magiske sekvensen av logiske operasjoner, osv., som muliggjør intelligent atferd. Jeg undret meg, som mange, over det samme – hvordan kan man programmere intelligens?

Min tro er at man faktisk ikke kan. I stedet oppstår intelligens fra tilstrekkelig komplekse systemer som kan implementere det vi kaller intelligens (dvs. oss). Våre hjerner er usedvanlig komplekse nettverk av grunnleggende enheter. Det er også hva et neuralt nettverk er. Jeg tror at transformer-arkitekturen, som implementert i LLM-er, har noenlunde tilfeldig funnet en lignende ordning av grunnleggende enheter som kan arbeide sammen for å tillate intelligent atferd å oppstå.

På den ene siden, er det den ultimate Bob Ross “happy accident”, mens på den andre siden, burde det ikke være overraskende en gang ordningen og tillatte interaksjoner mellom grunnleggende enheter som kan muliggjøre emergent intelligent atferd har skjedd. Det ser nå ut til at transformer-modeller er en slik ordning. Selvfølgelig stiller dette spørsmålet: hva andre slike ordninger måtte det være?

Din take-home-melding er at moderne AI (LLM-er) i kjernen er bare et neuralt nettverk som er trent med backpropagation og gradient descent. Er du personlig overrasket over hvor effektive LLM-er er?

Ja og nei. Jeg er stadig forbløffet over deres svar og evner når jeg bruker dem, men med henvisning tilbake til det forrige spørsmålet, er emergent intelligens virkelig, så hvorfor ikke skulle det oppstå i et tilstrekkelig stort modell med en passende arkitektur? Jeg tror forskere så langt tilbake som Frank Rosenblatt, hvis ikke tidligere, trolig tenkte på samme måte.

OpenAIs misjonsuttalelse er “å sikre at kunstig generell intelligens – AI-systemer som er generelt smartere enn mennesker – fordeler hele menneskeheten.” Tror du personlig at AGI er oppnåelig?

Jeg vet ikke hva AGI betyr mer enn jeg vet hva bevissthet betyr, så det er vanskelig å svare. Som jeg sier i boken, kan det komme en tid, svært snart nå, hvor det er meningsløst å bry seg om slike distinksjoner – hvis det går som en and og kvakker som en and, bare kall det en and og gå videre.

Cheeky svar til side, er det fullstendig innenfor mulighetene at et AI-system kan tilfredsstille mange teorier om bevissthet. Ønsker vi fullstendig bevisste (hva det enn betyr) AI-systemer? Kanskje ikke. Hvis det er bevisst, er det som oss og derfor en person med rettigheter – og jeg tror ikke verden er klar for kunstige personer. Vi har nok problemer med å respektere rettighetene til våre medmennesker, uten å snakke om rettighetene til noen andre typer vesener.

Var det noe du lærte under skrivingen av denne boken som tok deg overraskende?

Bortsett fra samme nivå av overraskelse alle andre føler over de emergente evnene til LLM-er, ikke virkelig. Jeg lærte om AI som student på 1980-tallet. Jeg startet å arbeide med maskinlæring tidlig på 2000-tallet og var involvert med dyplæring da det oppstod tidlig på 2010-tallet. Jeg var vitne til utviklingen de siste tiårene førstehånds, sammen med tusenvis av andre, mens feltet vokste dramatisk fra konferanse til konferanse.

Takk for det flotte intervjuet, lesere kan også ønske å se på min gjennomgang av denne boken. Boken er tilgjengelig på alle større forhandlere, inkludert Amazon.