Ronald T. Kneusel, auteur van “Hoe AI werkt: Van toverij tot wetenschap” – Interviewreeks

We hebben onlangs een voorpublicatie ontvangen van het boek “Hoe AI werkt: Van toverij tot wetenschap” van Ronald T. Kneusel. Ik heb tot nu toe meer dan 60 boeken over AI gelezen, en hoewel sommige ervan herhalend zijn, wist dit boek een frisse kijk te bieden, ik vond dit boek leuk genoeg om het toe te voegen aan mijn persoonlijke lijst van de Beste Machine Learning & AI-boeken aller tijden.

“Hoe AI werkt: Van toverij tot wetenschap” is een bondig en duidelijk boek dat is ontworpen om de kernbeginselen van machine learning te schetsen. Hieronder volgen enkele vragen die aan auteur Ronald T. Kneusel zijn gesteld.

Dit is uw derde AI-boek, de eerste twee waren: “Praktische diepe leer: Een Python-gebaseerde introductie” en “Wiskunde voor diepe leer: Wat u moet weten om neurale netwerken te begrijpen”. Wat was uw initiële bedoeling toen u besloot dit boek te schrijven?

Anders doelgroep. Mijn vorige boeken zijn bedoeld als introducties voor mensen die geïnteresseerd zijn in het worden van AI-beoefenaars. Dit boek is voor algemene lezers, mensen die veel over AI in het nieuws horen maar geen achtergrond hebben. Ik wil lezers laten zien waar AI vandaan komt, dat het geen magie is en dat iedereen kan begrijpen wat het doet.

Terwijl veel AI-boeken de neiging hebben te generaliseren, hebt u de tegenovergestelde aanpak gekozen door zeer specifiek te zijn in het onderwijzen van de betekenis van verschillende terminologie, en zelfs het verklaren van de relatie tussen AI, machine learning en diepe leer. Waarom denkt u dat er zo veel sociale verwarring is tussen deze termen?

Om de geschiedenis van AI te begrijpen en waarom het overal is waar we nu naar kijken, moeten we de onderscheid tussen de termen begrijpen, maar in de populaire gebruik is het redelijk om “AI” te gebruiken, wetend dat het voornamelijk verwijst naar de AI-systemen die de wereld zo snel transformeren. Moderne AI-systemen zijn ontstaan uit diepe leer, die op zijn beurt is ontstaan uit machine learning en de connectionistische benadering van AI.

Het tweede hoofdstuk gaat diep in op de geschiedenis van AI, van de mythe van Talos, een reusachtige robot die bedoeld was om een Pheonische prinses te bewaken, tot Alan Turings paper uit 1950, “Computing Machinery and Intelligence”, tot de opkomst van de diepe leerrevolutie in 2012. Waarom is het begrijpen van de geschiedenis van AI en machine learning essentieel om te begrijpen hoe ver AI is geëvolueerd?

Mijn bedoeling is om te laten zien dat AI niet zomaar uit de lucht is gevallen. Het heeft een geschiedenis, een oorsprong en een evolutie. Terwijl de opkomende mogelijkheden van grote taalmodellen een verrassing zijn, is de weg die naar hen leidt niet. Het is een weg van decennia van denken, onderzoek en experimenten.

U hebt een heel hoofdstuk gewijd aan het begrijpen van legacy AI-systemen zoals ondersteuningsvector machines, beslissingsbomen en willekeurige bossen. Waarom denkt u dat het volledig begrijpen van deze klassieke AI-modellen zo belangrijk is?

AI als neurale netwerken is slechts (!) een alternatieve benadering van hetzelfde type optimalisatie-gebaseerde modelleren dat wordt gevonden in veel eerdere machine learning-modellen. Het is een andere kijk op wat het betekent om een model van een proces te ontwikkelen, een functie die invoer naar uitvoer kaart. Het kennen van eerdere typen modellen helpt om te begrijpen waar de huidige modellen vandaan komen.

U stelt dat OpenAI’s ChatGPT’s LLM-model het begin is van echte AI. Wat was in uw mening het grootste spelveranderende aspect tussen deze en eerdere methoden om AI aan te pakken?

Ik heb onlangs een video uit de late jaren 80 van Richard Feynman gezien, waarin hij een vraag probeert te beantwoorden over intelligente machines. Hij zei dat hij niet wist welk type programma intelligent kon zijn. In zekere zin had hij het over symbolische AI, waar het mysterie van intelligentie het vinden is van de magische sequens van logische operaties, enz., die intelligent gedrag mogelijk maken. Ik vroeg me ook af, net als veel anderen, over hetzelfde – hoe programmeer je intelligentie?

Mijn overtuiging is dat je dat eigenlijk niet kunt. In plaats daarvan ontstaat intelligentie uit voldoende complexe systemen die in staat zijn om wat we intelligentie noemen (d.w.z. ons) te implementeren. Onze hersenen zijn enorm complexe netwerken van basisunits. Dat is ook wat een neurale netwerk is. Ik denk dat de transformerarchitectuur, zoals geïmplementeerd in LLM’s, toevallig een soortgelijke regeling van basisunits heeft ontdekt die samen kunnen werken om intelligent gedrag te laten ontstaan.

Als het ene hand, is het de ultieme “happy accident” van Bob Ross, terwijl het andere hand niet zo verrassend zou moeten zijn zodra de regeling en de toegestane interacties tussen basisunits die in staat zijn om intelligent gedrag te laten ontstaan, hebben plaatsgevonden. Het lijkt nu duidelijk dat transformatormodellen een dergelijke regeling zijn. Natuurlijk roept dit de vraag op: welke andere regelingen kunnen er zijn?

Uw boodschap is dat moderne AI (LLM’s) in wezen gewoon een neurale netwerk zijn dat getraind wordt met backpropagation en gradient descent. Bent u persoonlijk verbaasd over hoe effectief LLM’s zijn?

Ja en nee. Ik word continu verbaasd door hun antwoorden en mogelijkheden als ik ze gebruik, maar als ik terugdenk aan de vorige vraag, is emergente intelligentie echt, dus waarom zou het niet ontstaan in een voldoende groot model met een geschikte architectuur? Ik denk dat onderzoekers als Frank Rosenblatt, zo niet eerder, waarschijnlijk hetzelfde dachten.

OpenAI’s missiestatement is “om ervoor te zorgen dat algemene kunstmatige intelligentie – AI-systemen die over het algemeen slimmer zijn dan mensen – ten goede komen aan de hele mensheid.” Gelooft u persoonlijk dat AGI haalbaar is?

Ik weet niet wat AGI betekent, net zomin als ik weet wat bewustzijn betekent, dus het is moeilijk om antwoord te geven. Zoals ik in het boek zeg, kan het zijn dat er een punt komt, heel binnenkort, waarop het zinloos is om je druk te maken over dergelijke onderscheid – als het als een eend loopt en quakt als een eend, noem het dan gewoon een eend en ga verder.

Speelse antwoorden terzijde, is het geheel binnen de mogelijkheden dat een AI-systeem ooit veel theorieën van bewustzijn kan vervullen. Willen we volledig bewuste (wat dat ook echt betekent) AI-systemen? Misschien niet. Als het bewust is, is het net als wij en dus een persoon met rechten – en ik denk niet dat de wereld klaar is voor kunstmatige personen. We hebben al genoeg moeite om de rechten van onze medemensen te respecteren, laat staan die van enig ander type wezen.

Was er iets dat u leerde tijdens het schrijven van dit boek dat u verraste?

Behalve hetzelfde niveau van verrassing dat iedereen voelt bij de opkomende mogelijkheden van LLM’s, niet echt. Ik leerde over AI als student in de jaren 80. Ik begon te werken met machine learning in het begin van de jaren 2000 en was betrokken bij diepe leer toen het in het begin van de jaren 2010 opkwam. Ik getuigde van de ontwikkelingen van het afgelopen decennium, samen met duizenden anderen, toen het veld dramatisch groeide van conferentie tot conferentie.

Dank u voor het geweldige interview, lezers kunnen ook een kijk nemen naar mijn recensie van dit boek. Het boek is beschikbaar bij alle grote retailers, waaronder Amazon.