Ronald T. Kneusel, “How AI Works: From Sorcery to Science” -kirjan kirjoittaja – Haastattelusarja

Saimme vastaan etukäteen kirjan “How AI Work: From Sorcery to Science” Ronald T. Kneuselin kirjoittamana. Olen lukenut yli 60 kirjaa tekoälystä, ja vaikka jotkut niistä toistavat asioita, tämä kirja tarjosi raikkaan näkökulman, ja nautin siitä tarpeeksi lisätäkseni sen henkilökohtaiseen listaan parhaista koneoppimisen ja tekoälyn kirjoista.

“How AI Works: From Sorcery to Science” on tiivis ja selkeä kirja, joka on suunniteltu selittämään tekoälyn perusperiaatteita. Alla ovat muutamia kysymyksiä, joita kirjailija Ronald T. Kneuselille esitettiin.

Tämä on kolmas tekoälyaiheinen kirjasi, edelliset olivat “Practical Deep Learning: A Python-Base Introduction” ja “Math for Deep Learning: What You Need to Know to Understand Neural Networks”. Mikä oli alkuperäinen tarkoituksesi, kun aloit tekoälyn kirjoittamisen?

Erilainen kohdeyleisö. Aikaisemmat kirjani on tarkoitettu aloittelijoille, jotka ovat kiinnostuneita tekoälystä. Tämä kirja on yleisölle, ihmisille, jotka kuulevat paljon tekoälystä uutisissa, mutta eivät ole taustatietoja aiheesta. Haluan näyttää lukijoille, mistä tekoäly on peräisin, että se ei ole magiaa, ja että kuka tahansa voi ymmärtää, mitä se tekee.

Monet tekoälykirjat yleistävät, mutta olet ottanut vastakkaisen lähestymistavan ja olet erittäin tarkka opettaessasi eri termejä ja selittaessasi suhdetta tekoälyn, koneoppimisen ja syvän oppimisen välillä. Miksi luulet, että on niin paljon sekaannusta näiden termejä käytettäessä?

Jotta ymmärtäisimme tekoälyn historian ja sen, miksi se on kaikkialla, missä katselemme, meidän on ymmärrettävä ero näiden termejen välillä, mutta kansanomaisessa käytössä on syytä käyttää “tekoälyä” tietäen, että se viittaa pääasiassa tekoälyjärjestelmiin, jotka muuttavat maailmaa niin nopeasti. Nykyaikaiset tekoälyjärjestelmät kehittyivät syvän oppimisen kautta, joka puolestaan kehittyi koneoppimisesta ja yhteydenpitoisen lähestymistavan kautta.

Toisessa luvussa tutkitaan tekoälyn historiaa syvällisesti, alkaen Taloksen myytistä, jättiläisrobotista, joka oli tarkoitettu vartioimaan Pheonikialaista prinsessaa, ja jatkuu Alan Turingin 1950-luvun tutkielmaan “Computing Machinery and Intelligence”, ja edelleen syvän oppimisen vallankumoukseen vuonna 2012. Miksi tekoälyn ja koneoppimisen historian ymmärtäminen on välttämätöntä, jotta voidaan ymmärtää, kuinka pitkälle tekoäly on kehittynyt?

Aikomukseni on osoittaa, ettei tekoäly ole vain ilmestynyt taivaanrannasta. Sillä on historia, alkuperä ja kehitys. Vaikka suurten kielen mallien emergentit kyvyt ovat yllätys, polku, joka johti niihin, ei ole. Se on vuosikymmenien ajatuksen, tutkimuksen ja kokeilun tulos.

Olet omistanut koko luvun ymmärtämään perinteisiä tekoälyjärjestelmiä, kuten tukivektoreita, päätöspuita ja satunnaisia metsiä. Miksi luulet, että näiden klassisten tekoälymallien täydellinen ymmärtäminen on niin tärkeää?

Tekoäly neuroverkkoina on vain (!) vaihtoehtoinen lähestymistapa samanlaisiin optimointipohjaisiin malleihin, joita löytyy monista aikaisemmista koneoppimismalleista. Se on erilainen tapa kehittää malli jostakin prosessista, jostakin funktiosta, joka karttaa sisääntulot ulostuloiksi. Tietäminen aiemmista malleista auttaa ymmärtämään, mistä nykyiset mallit ovat peräisin.

Sanot, että OpenAI:n ChatGPT:n LLM-malli on aito tekoälyn aamunkoitto. Mikä oli sinun mielestäsi suurin muutos edellisiin menetelmiin verrattuna?

Olen äskettäin nähnyt videon, jossa Richard Feynman yrittää vastata kysymykseen älykkäistä koneista. Hän sanoi, ettei tiennyt, minkälainen ohjelma voisi toimia älykkäästi. Hän puhui symbolista tekoälystä, jossa älykkyyden mysteeri on löytää loitsunomainen jono loogisia operaatioita. Olen aiemmin pohtinut samaa asiaa – miten ohjelmoitaisiin älykkyys?

Uskon, ettei sitä voi ohjelmoida. Sen sijaan älykkyys syntyy riittävän monimutkaisista järjestelmistä, jotka voivat toteuttaa sitä, mitä kutsumme älykkyydeksi (eli meitä). Aivot ovat valtavan monimutkaisia verkkoja perusyksiköistä. Samoin neuroverkko on. Luulen, että transformer-arkkitehtuuri, kuten se on toteutettu LLM-malleissa, on jollain tavoin vahingossa löytänyt samanlaisen järjestelyn perusyksiköistä, jotka voivat toimia yhdessä salliakseen älykkään käyttäytymisen syntyä.

Toisaalta se on viimeinen Bob Rossin “onni-onnettomuus”, toisaalta se ei pitäisi olla yllättävää, kun järjestely ja perusyksiköiden väliset sallitut vuorovaikutukset, jotka mahdollistavat emergentin älykkään käyttäytymisen, ovat tapahtuneet. Näyttää nyt selvältä, että transformer-mallit ovat yksi tällainen järjestely. Tietenkin se herättää kysymyksen: mitkä muut järjestelyt voivat olla?

Sano, että moderni tekoäly (LLM) on ytimessään yksinkertaisesti neuroverkko, joka on koulutettu takaisinjakautumalla ja gradientin laskeutumisella. Oletko henkilökohtaisesti yllättynyt LLM:n tehokkuudesta?

Kyllä ja ei. Olen jatkuvasti hämmästynyt heidän vastauksistaan ja kyvyistään, kun käytän niitä, mutta viitaten edelliseen kysymykseen, emergentti älykkyys on totta, joten miksi se ei syntyisi riittävän suuressa mallissa sopivalla arkkitehtuurilla? Luulen, että tutkijat, kuten Frank Rosenblatt, jos ei aikaisemmin, luultavasti ajattelivat samaa.

OpenAI:n tehtävänkuvaus on “varmistaa, että yleinen tekoäly – tekoälyjärjestelmät, jotka ovat yleisesti ottaen älykkäämpiä kuin ihmiset – hyödyttävät koko ihmiskuntaa.” Uskotko, että yleinen tekoäly on saavutettavissa?

En tiedä, mitä yleinen tekoäly tarkoittaa, enkä tiedä, mitä tietoisuus tarkoittaa, joten on vaikea vastata. Kuten sanon kirjassa, saattaa tulla hetki, jolloin on turhaa välittää näistä eroista – jos se kävelee ankkaa ja kuin ankan ääni, se on ankan tapainen, joten kutsukaamme sitä ankaksi ja jatkakaamme.

Huvittavat vastaukset pois, on täysin mahdollista, että tekoälyjärjestelmä saattaa tyydyttää monia tietoisuuden teorioita. Haluammeko täysin tietoista tekoälyjärjestelmiä? Ehkä ei. Jos se on tietoinen, se on kuin me, ja se on henkilö, jolla on oikeudet – ja en usko, että maailma on valmis tekoälyhenkilöille. Meillä on jo tarpeeksi vaikeuksia kunnioittaa oikeuksia lähimmäisiimme, puhumattakaan minkään muun olennon oikeuksista.

Löysitkö mitään yllättävää kirjan kirjoittamisen aikana?

Siinä missä kaikki muutkin, jotka ovat yllättyneitä LLM:n emergentistä kyvystä, en ole. Olen opiskellut tekoälyä opiskelijana 1980-luvulla. Aloin työskennellä koneoppimisen parissa 2000-luvun alussa ja olin mukana syvän oppimisen kehityksessä 2010-luvun alussa. Olen todistanut tekoälyn kehitystä viimeisen vuosikymmenen aikana, kuten tuhannet muutkin, kun ala kasvoi dramaattisesti konferenssista toiseen.

Kiitos haastattelusta, lukijat voivat myös lukea arvosteluni tästä kirjasta. Kirja on saatavilla kaikista suurista jälleenmyyjistä, mukaan lukien Amazon.