Ronald T. Kneusel, forfatter av “How AI Works: From Sorcery to Science” – Intervju-serie

Vi har nylig mottatt en forhåndskopi av boken “How AI Work: From Sorcery to Science” av Ronald T. Kneusel. Jeg har så langt lest over 60 bøker om AI, og selv om noen av dem kan bli repetitive, klarte denne boken å tilby en frisk perspektiv, jeg likte denne boken godt nok til å legge den til min personlige liste over de beste maskinlærings- og AI-bøkene gjennom alle tider.

“How AI Works: From Sorcery to Science” er en konsis og klargjørende bok designet for å tegne de grunnleggende fundamentene for maskinlæring. Under er noen spørsmål som ble stilt til forfatter Ronald T. Kneusel.

Dette er din tredje AI-bok, de to første var: “Practical Deep Learning: A Python-Base Introduction,” og “Math for Deep Learning: What You Need to Know to Understand Neural Networks”. Hva var din opprinnelige intensjon da du satte ut å skrive denne boken?

Forskjellig målgruppe. Mine tidligere bøker er ment som innføringer for personer som er interessert i å bli AI-utøvere. Denne boken er for generelle lesere, personer som hører mye om AI i nyhetene, men har ingen bakgrunn i det. Jeg vil vise lesere hvor AI kom fra, at det ikke er magi, og at alle kan forstå hva det gjør.

Mens mange AI-bøker har en tendens til å generalisere, har du tatt den motsatte tilnærmingen ved å være svært spesifik i å undervise om betydningen av ulike terminologier, og selv forklare forholdet mellom AI, maskinlæring og dyplæring. Hvorfor tror du at det er så mye samfunnsforvirring mellom disse begrepene?

For å forstå historien om AI og hvorfor det er overalt vi ser nå, må vi forstå forskjellen mellom begrepene, men i populær bruk er det rimelig å bruke “AI” med vite at det hovedsakelig henviser til AI-systemer som transformerer verden så raskt. Moderne AI-systemer oppstod fra dyplæring, som oppstod fra maskinlæring og den konnekjonistiske tilnærmingen til AI.

Det andre kapitlet dykker dypt inn i historien om AI, fra myten om Talos, en gigantisk robot som skulle beskytte en fønikisk prinsesse, til Alan Turings papir fra 1950-tallet, “Computing Machinery and Intelligence”, til oppkomsten av den dype læringsrevolusjonen i 2012. Hvorfor er det å gripe historien om AI og maskinlæring instrumental for å fullt ut forstå hvor langt AI har utviklet seg?

Min intensjon var å vise at AI ikke bare falt fra himmelen. Det har en historie, en opprinnelse og en utvikling. Mens de fremvoksende evnene til store språkmodeller er en overraskelse, er veien som fører til dem ikke. Det er en vei på flere tiår med tanker, forskning og eksperimenter.

Du har viet et helt kapittel til å forstå legacy AI-systemer som støttevektormaskiner, beslutningstre og tilfeldige skoger. Hvorfor tror du at det å fullt ut forstå disse klassiske AI-modellene er så viktig?

AI som neurale nettverk er bare (!) en alternativ tilnærming til samme type optimeringsbasert modellering som finnes i mange tidligere maskinlæringsmodeller. Det er en annen måte å se på hva det betyr å utvikle en modell av en prosess, en funksjon som kartlegger inn- og ut-data. Å vite om tidligere typer modeller hjelper med å ramme inn hvor nåværende modeller kom fra.

Du uttrykker din tro på at OpenAIs ChatGPTs LLM-modell er begynnelsen på sant AI. Hva var i din mening den største game-changeren mellom denne og tidligere metoder for å takle AI?

Jeg så nylig en video fra slutten av 1980-tallet av Richard Feynman som forsøkte å svare på et spørsmål om intelligente maskiner. Han sa at han ikke visste hva slags program som kunne oppføre seg intelligent. I en viss forstand snakket han om symbolisk AI, hvor mysteriet med intelligens er å finne den magiske sekvensen av logiske operasjoner, osv., som muliggjør intelligent atferd. Jeg lurte, likesom mange andre, på samme måte – hvordan kan man programmere intelligens?

Min tro er at det ikke er mulig. I stedet oppstår intelligens fra tilstrekkelig komplekse systemer som kan implementere det vi kaller intelligens (dvs. oss). Våre hjerner er svært komplekse nettverk av grunnleggende enheter. Det samme er et neuralt nettverk. Jeg tror at transformer-arkitekturen, som er implementert i LLM-er, har noenlunde tilfeldig oppdaget en lignende ordning av grunnleggende enheter som kan arbeide sammen for å tillate intelligent atferd å oppstå.

På den ene siden er det den ultimate Bob Ross “happy accident”, mens på den andre siden burde det ikke være overraskende når ordningen og tillatte interaksjoner mellom grunnleggende enheter som kan muliggjøre intelligent atferd å oppstå, har skjedd. Det ser ut til å være klart nå at transformer-modeller er en slik ordning. Selvfølgelig stiller dette spørsmålet: hva andre slike ordninger kan det være?

Din take-home-melding er at moderne AI (LLM-er) i kjernen er bare et neuralt nettverk som er trent med backpropagation og gradient descent. Er du personlig overrasket over hvor effektive LLM-er er?

Ja og nei. Jeg er stadig forbløffet over deres svar og evner når jeg bruker dem, men med henvisning tilbake til det forrige spørsmålet, er emergent intelligens virkelig, så hvorfor skulle det ikke oppstå i et tilstrekkelig stort modell med en egnet arkitektur? Jeg tror at forskere så langt tilbake som Frank Rosenblatt, hvis ikke tidligere, sannsynligvis tenkte på samme måte.

OpenAIs misjonsuttalelse er “å sikre at kunstig generell intelligens—AI-systemer som er generelt smartere enn mennesker—gavner hele menneskeheten.” Tror du personlig at AGI er oppnåelig?

Jeg vet ikke hva AGI betyr mer enn jeg vet hva bevissthet betyr, så det er vanskelig å svare. Som jeg sier i boken, kan det komme en tid, svært snart nå, hvor det er meningsløst å bry seg om slike distinksjoner – hvis det går som en and, og kvakker som en and, så kall det en and og gå videre.

Ironiske svar til side, er det fullt mulig at et AI-system kan tilfredsstille mange teorier om bevissthet. Vil vi ha fullt bevisste (hva det enn betyr) AI-systemer? Kanskje ikke. Hvis det er bevisst, er det som oss og derfor en person med rettigheter – og jeg tror ikke verden er klar for kunstige personer. Vi har nok problemer med å respektere rettighetene til våre medmennesker, ikke å snakke om rettighetene til enhver annen type vesen.

Var det noe du lærte under skrivingen av denne boken som tok deg på overraskelse?

Ut over samme nivå av overraskelse som alle andre føler over de fremvoksende evnene til LLM-er, ikke virkelig. Jeg lærte om AI som student på 1980-tallet. Jeg begynte å arbeide med maskinlæring tidlig på 2000-tallet og var involvert med dyplæring da det oppstod tidlig på 2010-tallet. Jeg var vitne til utviklingen de siste ti årene førstehånd, sammen med tusenvis av andre, da feltet vokste dramatisk fra konferanse til konferanse.

Takk for det flotte intervjuet, lesere kan også ønske å se på min gjennomgang av denne boken. Boken er tilgjengelig på alle større forhandlere, inkludert Amazon.