Ronald T. Kneusel, kirjoittaja "How AI Works: From Sorcery to Science" – haastattelusarja

Saimme äskettäin edistyneen kopion Ronald T. Kneuselin kirjasta "How AI Work: From Sorcery to Science". Olen tähän mennessä lukenut yli 60 tekoälyä käsittelevää kirjaa, ja vaikka jotkut niistä toistuvatkin, tämä kirja onnistui tarjoamaan tuoreen näkökulman, nautin tästä kirjasta tarpeeksi lisätäkseni sen henkilökohtaiseen luettelooni Kaikkien aikojen parhaat koneoppimis- ja tekoälykirjat.

"How AI Works: From Sorcery to Science" on ytimekäs ja selkeä kirja, joka on suunniteltu määrittelemään koneoppiminen. Alla on joitain kysymyksiä, jotka esitettiin kirjoittajalle Ronald T. Kneuselille.

Tämä on kolmas tekoälykirjasi, joista kaksi ensimmäistä ovat: "Practical Deep Learning: A Python-Base Introduction" ja "Math for Deep Learning: Mitä sinun on tiedettävä ymmärtääksesi hermoverkkoja". Mikä oli alkuperäinen tarkoituksesi, kun ryhdyit kirjoittamaan tätä kirjaa?

Eri kohdeyleisö. Aiemmat kirjani on tarkoitettu esittelyksi ihmisille, jotka ovat kiinnostuneita tekoälyn harjoittajista. Tämä kirja on tarkoitettu tavallisille lukijoille, ihmisille, jotka kuulevat paljon tekoälystä uutisissa, mutta joilla ei ole siihen taustaa. Haluan näyttää lukijoille, mistä tekoäly on peräisin, että se ei ole taikuutta ja että kuka tahansa voi ymmärtää, mitä se tekee.

Vaikka monet tekoälykirjat pyrkivät yleistämään, olet omaksunut päinvastaisen lähestymistavan: opettaessasi eri terminologioiden merkityksen ja jopa selittämällä tekoälyn, koneoppimisen ja syväoppimisen välistä suhdetta. Miksi uskot, että näiden termien välillä on niin paljon yhteiskunnallista sekaannusta?

Ymmärtääksemme tekoälyn historiaa ja miksi se on kaikkialla, missä nyt katsomme, meidän on ymmärrettävä termien välinen ero, mutta yleisessä käytössä on reilua käyttää sanaa "AI", koska se viittaa ensisijaisesti tekoälyjärjestelmiin, jotka muuttavat maailmaa. niin hyvin nopeasti. Nykyaikaiset tekoälyjärjestelmät syntyivät syvästä oppimisesta, joka syntyi koneoppimisesta ja konnektionistisesta lähestymistavasta tekoälyyn.

Toinen luku sukeltaa syvälle tekoälyn historiaan, myytistä Talosista, jättiläisrobotista, jonka tarkoituksena oli vartioida feonekialaista prinsessaa, Alan Turingin 1950-luvun artikkeliin "Computing Machinery and Intelligence" Deep Learning -vallankumouksen tuloon vuonna 2012. Miksi tekoälyn ja koneoppimisen historian ymmärtäminen auttaa ymmärtämään täysin, kuinka pitkälle tekoäly on kehittynyt?

Tarkoitukseni näyttää, että tekoäly ei vain pudonnut taivaalta. Sillä on historia, alkuperä ja kehitys. Vaikka suurten kielimallien esiintulevat kyvyt ovat yllätys, niihin johtava polku ei ole. Se on yksi vuosikymmenien ajattelusta, tutkimuksesta ja kokeilusta.

Olet omistanut kokonaisen luvun vanhojen tekoälyjärjestelmien, kuten tukivektorikoneiden, päätöspuiden ja satunnaisten metsien ymmärtämiseen. Miksi uskot, että näiden klassisten tekoälymallien täydellinen ymmärtäminen on niin tärkeää?

Tekoäly neuroverkkoina on vain (!) vaihtoehtoinen lähestymistapa samanlaiseen optimointiin perustuvaan mallinnukseen, joka löytyy monista aikaisemmista koneoppimismalleista. Se on erilainen näkemys siitä, mitä tarkoittaa mallin kehittäminen jostakin prosessista, jostakin funktiosta, joka kartoittaa syötteet lähtöihin. Aikaisempien mallien tunteminen auttaa hahmottamaan nykyisten mallien alkuperän.

Kerrot uskovasi, että OpenAI:n ChatGPT:n LLM-malli on todellisen tekoälyn kynnyksellä. Mikä oli mielestäsi suurin pelimuutos tämän ja aikaisempien tekoälyn torjuntamenetelmien välillä?

Katsoin äskettäin videon 1980-luvun lopulla Richard Feynmanista, joka yritti vastata kysymykseen älykkäistä koneista. Hän sanoi, ettei tiennyt, millainen ohjelma voisi toimia älykkäästi. Eräässä mielessä hän puhui symbolisesta tekoälystä, jossa älykkyyden mysteeri on löytää älykkään toiminnan mahdollistavien loogisten operaatioiden maaginen sarja jne.. Ihmettelin monen tapaan samaa asiaa – kuinka ohjelmoit älykkyyttä?

Uskon, että et todellakaan voi. Älykkyys syntyy pikemminkin riittävän monimutkaisista järjestelmistä, jotka kykenevät toteuttamaan sen, mitä me kutsumme älykkyydeksi (eli me). Aivomme ovat erittäin monimutkaisia ​​perusyksiköiden verkostoja. Sitä on myös hermoverkko. Luulen, että muuntajaarkkitehtuuri, sellaisena kuin se on toteutettu LLM:issä, on jonkin verran vahingossa törmännyt samanlaiseen perusyksiköiden järjestelyyn, joka voi toimia yhdessä mahdollistaakseen älykkään toiminnan syntymisen.

Toisaalta se on äärimmäinen Bob Rossin "onnellinen onnettomuus", kun taas toisaalta sen ei pitäisi olla liian yllättävää, kun järjestely ja sallittu vuorovaikutus perusyksiköiden välillä, jotka pystyvät mahdollistamaan ilmeisen älykkään käyttäytymisen, on tapahtunut. Nyt näyttää selvältä, että muuntajamallit ovat yksi tällainen järjestely. Tietenkin tämä herättää kysymyksen: mitä muita tällaisia ​​järjestelyjä voisi olla?

Viestisi on, että moderni tekoäly (LLMS) on ytimessä, yksinkertaisesti neuroverkko, jota koulutetaan takaisin leviämisen ja gradienttilaskumisen avulla. Oletko itse yllättynyt siitä, kuinka tehokkaita LLM:t ovat?

Kyllä ja ei. Olen jatkuvasti hämmästynyt heidän vastauksistaan ​​ja kyvyistään niitä käyttäessäni, mutta edelliseen kysymykseen viitaten, esiintuleva älykkyys on todellista, joten miksi se ei syntyisi riittävän suuressa mallissa sopivalla arkkitehtuurilla? Luulen, että tutkijat Frank Rosenblattista asti, elleivät aikaisemmin, luultavasti ajattelivat paljon samaa.

OpenAI:n missiona on varmistaa, että yleinen tekoäly – tekoälyjärjestelmät, jotka ovat yleensä älykkäämpiä kuin ihmiset – hyödyttävät koko ihmiskuntaa. Uskotko henkilökohtaisesti, että AGI on saavutettavissa?

En tiedä mitä AGI tarkoittaa sen enempää kuin mitä tietoisuus tarkoittaa, joten siihen on vaikea vastata. Kuten kirjassa totean, saattaa hyvinkin pian tulla kohta, jossa on turhaa välittää sellaisista eroista – jos se kävelee kuin ankka ja kvaisee kuin ankka, kutsu sitä vain ankkaaksi ja jatka sen kanssa.

Röyhkeät vastaukset syrjään, on täysin mahdollista, että tekoälyjärjestelmä saattaa jonakin päivänä tyydyttää monia tietoisuusteorioita. Haluammeko täysin tietoisia (mitä se todella tarkoittaa) tekoälyjärjestelmiä? Ehkä ei. Jos se on tietoista, se on meidän kaltainen ja siten henkilö, jolla on oikeudet – enkä usko, että maailma on valmis keinotekoisille henkilöille. Meillä on tarpeeksi vaikeuksia kunnioittaa kanssaihmistemme oikeuksia, puhumattakaan minkä tahansa muun olennon oikeuksista.

Oliko jotain, mitä opit tätä kirjaa kirjoittaessasi, mikä yllätti sinut?

Saman yllätystason lisäksi kaikki muutkin kokevat LLM:n esiin nousevat kyvyt, eivät oikeastaan. Opin tekoälystä opiskelijana 1980-luvulla. Aloitin työskentelyn koneoppimisen parissa 2000-luvun alussa ja olin mukana syväoppimisessa, sellaisena kuin se syntyi 2010-luvun alussa. Todistin viime vuosikymmenen kehitystä omakohtaisesti, tuhansien muiden kanssa, kun ala kasvoi dramaattisesti konferenssista konferenssiin.

Kiitos upeasta haastattelusta, lukijat saattavat myös haluta katsoa minun arvostelu tästä kirjasta. Kirja on saatavilla kaikista suurimmista jälleenmyyjistä, mukaan lukien Amazon.