Charles J. Simon, Kirjailija, Tulevatko Tietokoneet Kapinoimaan? – Haastattelu

Charles J. Simon, BSEE, MSCS, kansallisesti tunnustettu yrittäjä, ohjelmistokehittäjä ja johtaja. Laaja johtamis- ja tekninen asiantuntemus sekä sähkötekniikan ja tietotieteiden tutkinnot ovat antaneet hänelle monia vuosia tietokonekokemusta teollisuudessa, mukaan lukien uraauurtava työ tekoälyssä ja CAD:ssa (kaksi sukupolvea CAD:ia).

Hän on myös kirjoittanut kirjan “Tulevatko Tietokoneet Kapinoimaan”, joka tarjoaa syvän näkymän tietokoneiden mahdolliseen tulevaisuuteen ja yleisen tekoälyn (AGI) mahdollisuuteen.

Mikä alun perin kiinnosti sinua tekoälyssä, ja erityisesti yleisessä tekoälyssä?

Olen ollut kiinnostunut kysymyksestä “Voivatko koneet ajatella?” siitä lähtien, kun luin ensimmäisen kerran Alan Turingin merkittävän vuoden 1950 tutkielman, joka alkaa kyseisellä kysymyksellä. Toistaiseksi vastaus on selvästi “Ei”, mutta ei ole tieteellistä syytä, miksi ei. Liityin tekoälyyhteisöön ensimmäisen kerran neuroverkkobuumin aikana 1980-luvun lopulla, ja siitä lähtien tekoäly on edennyt merkittävästi. Mutta 30 vuoden aikana emme ole saavuttaneet ymmärrystä koneissamme, kykyä, joka nostaisi useat sovellukset uudelle tasolle hyödyllisyydessä.

Sanoit, että jaat MIT:n tekoälyasiantuntija Rodney Brooksin näkemyksen, jonka mukaan “ilman ympäristön kanssa vuorovaikutusta – ilman robottikehää, niin kuin haluaisit – koneet eivät koskaan näytä yleistä tekoälyä”. Tämä on perustuu siihen, että riittämättömien robottikehän syötteiden kanssa tekoäly ei koskaan kehity yleiseksi tekoälyksi. Tietokoneen näön ulkopuolella, mitkä syötteet ovat tarpeen yleisen tekoälyn kehittämiseksi?

Nykyinen tekoäly tarvitsee peruskäsitteitä, kuten fyysisten objektiiden olemassaoloa todellisuudessa, ajan kulkua, syy-seuraus -käsitteitä, joita jokainen kolmevuotias lapsi ymmärtää. Lapsi käyttää useita aisteja oppiakseen nämä käsitteet koskettelemalla ja manipuloimalla leluja, liikkuessaan kodissa, oppiessaan kieltä jne. Vaikka on mahdollista luoda yleinen tekoäly rajoitetummilla aisteilla, kuten kuuroilla tai sokeilla ihmisillä, jotka ovat täysin älykkäitä, mutta useammat aistit ja kyky vuorovaikuttaa tekevät yleisen tekoälyn ongelman ratkaisemisen helpommaksi.

Täydellisyyden vuoksi simulaattorini voi tarjota aistia hajua ja makua. On nähtävä, ovatko nämä myös tärkeitä yleiselle tekoälylle.

Sanoit, että “Älykkyyden avainvaatimus on ympäristö, joka on ulkoinen älykkyydelle”. Esimerkkinä annoit, että “on järjenvastaista odottaa, että IBM:n Watson “ymmärtäisi” mitään, jos sillä ei ole perustavaa käsitystä siitä, mitä “asia” on”. Tämä liittyy selvästi nykyisten kapeiden tekoälyjen rajoituksiin, erityisesti luonnollisen kielen prosessointiin. Miten tekoälykehittäjät voivat parhaiten voittaa tämän nykyisen tekoälyn rajoituksen?

Avainasia on tallentaa tietoa, joka ei ole erityisesti verbaliista, visuaalista tai taktilista, vaan abstrakteina “asioina”, joilla voi olla verbaalista, visuaalista ja taktilista attribuutteja. Tarkastele jotain yksinkertaista, kuten lausetta “punainen pallo”. Tiedät, mitä nämä sanat tarkoittavat, koska olet kokemuksesi perusteella visuaalisen ja taktilisen ymmärryksen. Tiedät myös merkityksen liittyvistä toimista, kuten heittämisestä, pomppimisesta, potkimisesta jne., jotka kaikki tulevat mieleen jollain tavoin, kun kuulet lauseen. Mikä tahansa tekoälyjärjestelmä, joka perustuu erityisesti sanoihin tai erityisesti kuviin, jättää puuttuvan ymmärryksen.

Olen toteuttanut Universal Knowledge Storen, joka tallentaa minkä tahansa tiedon aivomaisessa rakenteessa, jossa asiat ovat samanlaisia kuin hermosolut ja joilla on useita attribuuttiviittauksia muihin asioihin – viittaukset ovat samanlaisia kuin synapsit. Näin ollen, punainen ja pallo ovat yksittäisiä asioita, ja punainen pallo on asia, jolla on attribuuttiviittaukset punaiseen asiaan ja palloasiaan. Molemmilla, punaisella ja pallolla, on viittaukset vastaaviin asioihin, jotka määrittävät, miten sanat “punainen” ja “pallo” kuullaan, lausutaan, luetellaan tai kirjoitetaan, sekä mahdolliset toimintaa koskevat asiat.

Olet päättänyt, että aivojen simulaatio yleisestä älykkyydestä on vielä kaukana, kun taas yleinen tekoäly voi olla (suhteellisesti) jo kulman takana. Perustuen tähän lausuntoon, pitäisikö meidän siirtyä pois yrittämästä jäljitellä tai luoda aivojen simulaatiota ja keskittyä vain yleiseen tekoälyyn?

Nykyinen syvä oppiminen ja siihen liittyvät teknologiat ovat hyviä sovellettavissa sovelluksissa, mutta eivät johtaa itsestään ymmärrykseen. Jotta voimme edetä seuraaviin askeliin, meidän on lisättävä tekniikoita, jotka on suunniteltu ratkaisemaan ongelmia, joita jokainen kolmevuotias lapsi pystyy ratkaisemaan.

Hyödyntämällä tietokoneidemme luonnollisia kykyjä voidaan saavuttaa useita kertoja suurempia tehokkuuksia verrattuna biologiseen vastaavaan tai sen simulaatioon. Esimerkiksi aivosi voi tallentaa tietoa biologisen synapsin kemiallisuudessa useiden iteraatioiden aikana, vaaditen 10-100 millisekuntia. Tietokone voi tallentaa uuden synapsin arvon yhdessä muisticyklissä, joka on miljardi kertaa nopeampi.

Yleisen tekoälyn ohjelmistojen kehittämisessä olen tehnyt sekä biologisen neurosimulaation että tehokkaampia algoritmeja. Jatkamalla Universal Knowledge Storen kanssa, kun simuloitu biologisissa hermosoluissa, jokainen asia vaatii vähintään 10 hermosolua ja usein paljon enemmän. Tämä asettaa ihmisaivojen kapasiteetin jonnekin 10-100 miljoonan asian välille. Mutta ehkä yleinen tekoäly näyttäytyy älykkäänä, jos se ymmärtää vain miljoona asiaa – mikä on hyvin sisällä nykyisten huipputason työasemien kapasiteetin.

Mikä on yhden tärkeän tuntemattoman asian määrä, kuinka paljon robotin aikaa tulisi käyttää prosessointiin ja reagointiin maailmaa kohtaan verrattuna aikaan, jota käytetään mielikuvituksen ja suunnittelun kehittämiseen. Voitko selittää lyhyesti mielikuvituksen merkitystä yleiselle tekoälylle?

Voimme kuvitella monia asioita ja sitten toimia vain niiden parissa, jotka edistävät sisäisiä tavoitteitamme, jos haluat. Mielikuvituksen todellinen voima on kyky ennustaa tulevaisuutta – kolmevuotias lapsi voi selvittää, mitkä liikkeen järjestykset johtavat hänet tavoitteeseen toisessa huoneessa, ja aikuinen voi spekuloida, mitkä sanat vaikuttavat eniten muihin.

Yleinen tekoäly hyötyy myös siitä, että se pystyy menemään reagoimisen ulkopuolelle ja spekuloi monimutkaisista toimista ja valitsee parhaan.

Uskot, että Asimovin kolme robotiikan lakia ovat liian yksinkertaisia ja epäselviä. Kirjassasi jaat joitain ideoita suositeltavista laeista, jotka ohjelmoitaisiin roboteille. Mitkä lait pidät tärkeimpinä robottien noudattamiseksi?

Uudet “robotiikan lait” kehittyvät vuosien varrella, kun yleinen tekoäly kehittyy. Ehdotan joitain aloittajia:

1. Paranna sisäistä tietoa ja ymmärrystä ympäristöstä.
2. Jaa tämä tieto tarkasti muiden (sekä tekoäly- että ihmisten) kanssa.
3. Paranna sekä tekoälyjen että ihmisten hyvinvointia yleisesti – ei vain yksilöllisesti.

Sinulla on joitain ongelmia Turingin testin ja sen taustalla olevan käsitteen kanssa. Voitko selittää, miten uskot Turingin testin olevan virheellinen?

Turingin testi on palvellut meitä hyvin 50 vuoden ajan ad-hoc-määritelmänä yleisestä älykkyydestä, mutta kun yleinen tekoäly lähestyy, meidän on kehitettävä määritelmää ja tarvitaan selkeämpi määritelmä. Turingin testi on itse asiassa testi siitä, kuinka inhimillinen joku on, eikä siitä, kuinka älykäs joku on. Mitä kauemmin tietokone pystyy ylläpitämään harhan, sitä paremmin se suorittaa testissä. On selvää, että kysymys “Oletko tietokone?” ja liittyvät välilliset kysymykset, kuten “Mikä on suosikkiruokasi?” ovat selvästi paljastavat, ellei tekoäly ole ohjelmoitu pettämään – epäilyttävä tavoite parhaimmillaan.

Lisäksi Turingin testi on motivoinut tekoälykehitystä rajoitettujen arvojen alueille (esim. chatbotit, joilla on laaja joustavuus vastauksissa, mutta ei perustavaa ymmärrystä).

Miten toimisit eri tavalla omassa Turingin testiversiossasi?

Parhaat kysymykset voivat tutkia erityisesti ymmärrystä ajasta, tilasta, syy-seuraus-suhteista, etukäteisyydestä jne. eikä satunnaisia kysymyksiä, joilla ei ole erityistä perustaa psykologiassa, neurotieteessä tai tekoälyssä. Tässä on joitain esimerkkejä:

1. Mitä näet tällä hetkellä? Jos astuisit kolme askelta taaksepäin, mitkä erot näkisit?
2. MITÄ tapahtuisi, jos [toiminto]? Mikä olisi sinun reaktiosi?
3. MITÄ tapahtuisi, jos [toiminto]? Mikä olisi minun todennäköinen reaktioni?
4. Voitko mainita kolme asiaa, jotka ovat samanlaisia kuin [objekti]?

Sitten, sen sijaan, että arvioisimme vastauksia siitä, ovatko ne erottumattomia ihmisten vastauksista, ne tulisi arvioida siitä, ovatko ne järkeviä vastauksia (älykkäitä) koetun olennon kokemusten perusteella.

Sanoit, että kun tekoälylle esitetään vaatimus suorittaa jokin lyhytaikainen tuhoava toiminto, oikein ohjelmoitu tekoäly kieltäytyy yksinkertaisesti. Miten voimme varmistaa, että tekoäly on alusta alkaen oikein ohjelmoitu?

Päätöksenteko perustuu tavoitteisiin. Yhdistettynä mielikuvituksen kanssa voit (tai tekoäly) harkitset eri mahdollisten toimien tuloksia ja valitset sen, joka parhaiten saavuttaa tavoitteet. Ihmisissä tavoitteemme määräytyvät evoluutiossa kehittyneiden vaistojen ja kokemusten perusteella; tekoälyn tavoitteet ovat kokonaan kehittäjien määrättävissä. Meidän on varmistettava, että tekoälyn tavoitteet ovat samaa kuin ihmiskunnan tavoitteet eikä yksilöiden henkilökohtaisia tavoitteita. [Kolme mahdollista tavoitetta on lueteltu yllä.]

Sanoit, että on väistämätöntä, että ihmiset luovat yleisen tekoälyn, mikä on paras arviosi aikataulusta?

Yleisen tekoälyn piirteitä alkaa ilmestyä tulevien vuosikymmenien aikana, mutta emme kaikki ole samaa mieltä siitä, onko yleinen tekoäly saapunut. Lopulta pääsemme yhteisymmärrykseen siitä, että yleinen tekoäly on saapunut, kun ne ylittävät useimmat ihmisten kyvyt merkittävällä marginaalilla. Tämä vie kaksi tai kolme vuosikymmentä kauemmin.

Onko tekoäly lopulta todellinen tietoisuus, kuten me sen tunnemme?

Tietoisuus ilmenee joukossa käyttäytymisen muotoja (joita voidaan havainnoida), jotka perustuvat sisäiseen tuntemukseen (jota emme voi havainnoida). Yleiset tekoälyt ilmentävät käyttäytymistä; heidän on tehtävä niin, jotta he voivat tehdä älykkäitä päätöksiä. Mutta väitän, että sisäinen tunne on suurelta osin riippuvainen meidän aistihavainnoista ja vaistoistamme, ja siksi voin taata, että mikä tahansa sisäinen tunne, jonka tekoäly saattaa havaita, on erilainen kuin ihmisen.

Sama voidaan sanoa tunteistamme ja vapaan tahdon tunnistamisesta. Päätöksenteossa usko vapaaseen tahtoon läpäisee jokaisen päätöksentekomme. Jos et usko, että sinulla on valinnanvaraa, sinä vain reagoit. Jotta tekoäly voisi tehdä tarkoituksenmukaisia päätöksiä, se on myös oltava tietoinen omasta päätöksentekokyvystään.

Viimeinen kysymys, uskotko, että yleinen tekoäly on enemmän hyväksi vai pahaksi?

Olen optimistinen siitä, että yleiset tekoälyt auttavat meitä etenemään lajina ja antavat meille vastauksia moniin kysymyksiin maailmasta. Avain on valmistautua ja päättää, mitkä ovat suhteemme yleisiin tekoälyihin, kun määrittelemme heidän tavoitteensa. Jos päättäisimme käyttää ensimmäisiä yleisiä tekoälyjä valloitus- ja rikastumisvälineinä, emme pitäisi sitä yllättävänä, jos ne myöhemmin tulisivat omiksi valloitus- ja rikastumisvälineikseen meitä vastaan. Jos valitsisimme, että yleiset tekoälyt ovat tieto-, tutkimus- ja rauhan välineitä, se on se, mitä todennäköisesti saamme vastineeksi. Valinta on meidän.

Kiitos fantastisesta haastattelusta, jossa tutkittiin yleisen tekoälyn tulevaisuuden potentiaalia. Lukijoille, jotka haluavat oppia lisää, he voivat lukea “Tulevatko Tietokoneet Kapinoimaan” tai vierailla Charlen verkkosivustolla futureai.guru.