Juliette Powell & Art Kleiner, The AI Dilemma -kirjan kirjoittajat – Haastattelusarja

The AI Dilemma on kirjoittanut Juliette Powell ja Art Kleiner.

Juliette Powell on kirjailija, televisio-ohjelmien luoja, jolla on 9 000 suoraa lähetystä, ja teknologiainsinööri ja sosiologi. Hän on myös Bloomberg TV:n ja Business News Networksin kommentaattori sekä puhuja talouskonferensseissa, jotka on järjestänyt The Economist ja Kansainvälinen Finanssiyhtiö. Hänen TED-puheellaan on 130 000 katselukertaa YouTubessa. Juliette tunnistaa menestyvien liiketoimintajohtajien käytännöt ja mallit, jotka panostavat eettiseen tekoälyyn ja tietoihin voittaakseen. Hän on New Yorkin yliopiston ITP:n opettajana, jossa hän opettaa neljää kurssia, mukaan lukien Vastuullisen median suunnittelutaidot, joka perustuu hänen kirjaansa.

Art Kleiner on kirjailija, toimittaja ja tulevaisuudentutkija. Hänen kirjoihinsa kuuluvat The Age of Heretics, Who Really Matters, Privilege and Success ja The Wise. Hän toimi strategy+business -lehden päätoimittajana, jota julkaisi PwC. Art on myös pitkäaikainen opettaja New Yorkin yliopiston ITP:ssä ja IMA:ssa, jossa hän opettaa muun muassa vastuullista teknologiaa ja median tulevaisuutta.
“The AI Dilemma” on kirja, joka keskittyy tekoälyn vaaroihin, kun sitä käytetään väärin, mutta myös tunnustaa tekoälyn hyödyt yhteiskunnalle.

Ongelmat johtuvat siitä, että taustalla oleva teknologia on niin monimutkainen, että se tekee käyttäjälle mahdottomaksi ymmärtää suljetun järjestelmän sisäisiä toimintaperiaatteita.

Yksi merkittävimmistä korostetuista ongelmista on, että vastuullisen tekoälyn määritelmä muuttuu jatkuvasti, koska yhteiskunnalliset arvot eivät säily yhdenmukaisina ajan myötä.

Nautin lukemasta “The AI Dilemma”. Se on kirja, joka ei sensaatioita tekoälyn vaaroista eikä syvenny tekoälyn mahdollisiin vaikutuksiin. Sen sijaan lukijat saavat tietoa siitä, miten henkilökohtaisia tietoja käytetään ilman heidän tietämystään, sekä joistakin tekoälyn nykyisistä rajoituksista ja aiheista, jotka vaativat huomiota.

Alle on muutamia kysymyksiä, jotka on suunniteltu näyttämään lukijoille, mitä he voivat odottaa tästä uraauurtavasta kirjasta.

Mikä innoitti teitä alun perin kirjoittamaan “The AI Dilemmasta”?

Juliette meni Columbiaan osittain opiskelemaan tekoälyn rajoituksia ja mahdollisuuksia. Hän oli kuullut suoraan ystäviltään, jotka työskentelivät tekoälyprojekteissa, jännitteestä, joka sisältyi niihin. Hän tuli siihen tulokseen, että tekoälyssä oli dilemma, joka oli paljon suurempi kuin itse säätely. Hän kehitti Apex-benchmark-mallin, joka on tekoälypäätösten malli, joka taipuu matalaan vastuullisuuteen yritysten ja ryhmien sisällä. Se johti hänen väitöskirjaansa.

Art oli työskennellyt Julietten kanssa useissa kirjallisissa projekteissa. Hän luki Julietten väitöskirjan ja sanoi: “Sinulla on tässä kirja.” Juliette kutsui hänet kirjoittamaan kirjan yhdessä. Yhdessä työskennellessään he huomasivat, että heillä oli erilaiset näkökulmat, mutta heidän yhteinen näkemyksensä oli, että tämä monimutkainen ja riskialtis tekoälyilmiö vaatisi parempaa ymmärrystä, jotta ihmiset voisivat käyttää sitä vastuullisemmin ja tehokkaammin.

Yksi perusongelma, jota The AI Dilemma korostaa, on, että on nykyisin mahdotonta ymmärtää, onko tekoälyjärjestelmä vastuullinen vai ei vain tutkimalla sen lähdekoodia. Kuinka suuri ongelma tämä on?

Ongelma ei ole pääasiassa lähdekoodissa. Kuten Cathy O’Neil korostaa, kun on suljettu järjestelmä, se ei ole vain koodi. Se on sosiotekninen järjestelmä – ihmisten ja teknologisten voimien vuorovaikutus, joka muokkaa toisiaan – jota on tutkittava. Logiikka, joka rakensi ja julkaisi tekoälyjärjestelmän, käsitti tarkoituksen määrittelyn, tietojen tunnistamisen, prioriteettien asettamisen, mallien luomisen, ohjeiden ja varoitusjärjestelmien asettamisen koneoppimiselle ja päätöksen, milloin ja miten ihmisen tulisi puuttua. Se on se osa, joka on tehtävä läpinäkyväksi – ainakin tarkkailijoille ja tilintarkastajille. Sosiaalisen epätasa-arvon ja muiden riskien vaara on paljon suurempi, kun nämä prosessin osat ovat piilotettuja. Et voi todella uudelleen suunnitella suunnittelulogiiikkaa lähdekoodista.

Voiko keskittyminen selitettävään tekoälyyn (XAI) koskaan ratkaista tämän ongelman?

Insinöörien mielestä selitettävä tekoäly on tällä hetkellä ryhmä teknologisia rajoituksia ja käytäntöjä, joiden tavoitteena on tehdä mallit ihmisten kannalta avoimemmiksi. Jollekulle, jota väärin syytetään, selitettävyys on eri asia ja kiireellisyys. He tarvitsevat selitettävyyttä, jotta he voisivat puolustautua. Meidän kaikkien tarvitsee selitettävyyttä siinä mielessä, että liiketoimintapäätöksiin perustuvat mallit ovat selkeät. Ainakin Yhdysvalloissa on aina jännite selitettävyyden ja organisaation kilpailun ja innovaation välillä. Tilintarkastajat ja sääntelijät tarvitsevat toisenlaisen selitettävyyden. Tähän perehdytään tarkemmin The AI Dilemmassa.

Voitko jakaa lyhyesti näkemyksesi siitä, kuinka tärkeää on pitää sidosryhmiä (tekoälyyrityksiä) vastuussa siitä koodista, jonka he julkaisevat maailmalle?

Tähän asti esimerkiksi Tempen, AZ:n itseohjautuvan auton törmäyksessä, jossa kuoli jalankulkija, operoija pidettiin vastuussa. Yksilö meni vankilaan. Lopulta se oli kuitenkin organisaation epäonnistuminen.

Kun silta romahtaa, mekanisen insinöörin pidetään vastuussa. Tämä johtuu siitä, että mekaniset insinöörit ovat koulutettuja, jatkuvasti koulutettavia ja heidän ammattikuntansa pitää heitä vastuussa. Tietokoneinsinöörit eivät ole.

Pitäisikö sidosryhmiä, mukaan lukien tekoälyyrityksiä, kouluttaa ja jatkokouluttaa parempien päätösten tekemiseksi ja vastuun ottamiseksi?

The AI Dilemma keskittyi paljon siihen, miten yritykset kuten Google (GOOGL ) ja Meta voivat kerätä ja hyödyntää henkilökohtaisia tietoja. Voitko antaa esimerkin merkittävistä tietojen väärinkäytöistä, josta kaikkien tulisi olla tietoisia?

The AI Dilemmasta, sivu 67ff:

Uusia tapauksia henkilökohtaisten tietojen systemaattisesta väärinkäytöstä tulee jatkuvasti julki, usein salattujen kasvontunnistusten avulla. Joulukuussa 2022 MIT Technology Review julkaisi tietoja iRobotin Roomba-kotirobottien käytännöstä. Ne tallentavat kuvia ja videoita vapaaehtoisten testaajien kodeissa, mikä tarkoittaa, että he keräävät luonnollisesti intiimejä henkilökohtaisia ja perheenjäseniin liittyviä kuvia. Nämä jaetaan ilman testaajien tietämystä ryhmiin ulkomailla. Ainakin yhdessä tapauksessa yksilön kuva vessassa julkaistiin Facebookissa. Samaan aikaan Iranissa viranomaiset ovat alkaneet käyttää kasvontunnistusjärjestelmiin perustuvia tietoja seuraamaan ja pidättämään naisia, jotka eivät käytä huiveja.16

Ei ole tarpeen yksityiskohtaisesti käydä läpi näitä tarinoita. Niitä on niin paljon. On kuitenkin tärkeää tunnistaa kertyvä vaikutus, kun elämme tällä tavoin. Menetämme elämämme hallinnan tunteen, kun koemme, että henkilökohtaiset tiedot voivat olla vastaan meitä milloin tahansa ilman varoitusmerkkiä.

Yksi vaarallinen käsite, josta keskusteltiin, on, miten koko maailma on suunniteltu kitkattomaksi, kitkan määritelmän ollessa “mikä tahansa asiakkaan matkan kohde, jossa he kohtaavat esteen, joka hidastaa heidät tai aiheuttaa tyytymättömyyttä.” Miten odotus kitkattomasta kokemuksesta voi johtaa vaaralliseen tekoälyyn?

Uudessa-Seelannissa Pak’n’Save-savvy-ruokabotti ehdotti reseptiä, joka olisi tuottanut kloorikaasua, jos sitä olisi käytetty. Tämä markkinoitiin keinona, jolla asiakkaat voisivat käyttää jäämät ja säästää rahaa.

Kitkattomuus luo illuusion hallinnasta. On nopeampi ja helpompi kuunnella sovellusta kuin etsiä isoäidin reseptiä. Ihmiset seuraavat vastuksen vähäisintä reittiä eivätkä tajua, minne se johtaa.

Kitka on luova. Sinun on osallistuttava. Tämä johtaa todelliseen hallintaan. Todellinen hallinta vaatii huomiota ja työtä, ja – tekoälyn tapauksessa – laajaa kustannus-hyötyanalyysiä.

Illuusion hallinnasta tuntuu siltä, että elämme maailmassa, jossa tekoälyjärjestelmät ohjaavat ihmisiä, sen sijaan, että ihmiset pitäisivät hallinnan.

San Franciscossa juuri nyt, robotakseja. Itseohjautuvien taksien idea herättää kaksi ristiriitaista tunnetta: inhimillistä jännitystä (“taksit paljon edullisemmin!”) ja pelkoa (“osuvatko ne minuun?”). Monet sääntelijät ehdottavat, että autoja testataan ihmisten kanssa, jotka voivat hallita järjestelmää. Valitettavasti ihmisten valmius ohjata järjestelmää reaaliajassa ei välttämättä ole hyvä testi julkisen turvallisuuden kannalta. Yli-itsevarmuus on usein tekoälyjärjestelmissä esiintyvä dynamiikka. Mitä autonomisempi järjestelmä on, sitä enemmän ihmiset luottavat siihen eivätkä kiinnitä täyttä huomiota. Meistä tulee väsyneitä seuratessamme näitä teknologioita. Kun onnettomuus on todella tapahtumassa, emme odota sitä eikä usein reagoida ajoissa.

Paljon tutkimusta tehtiin tähän kirjaan, oliuko mitään, mikä yllätti teitä?

Yksi asia, joka yllätti meitä, oli, että ihmiset ympäri maailmaa eivät voineet samaa mieltä siitä, kuka tulisi elää ja kuka kuolla tekoälysimulaatiossa itseohjautuvan auton törmäyksessä. Jos emme voi olla yhtä mieltä siitä, on vaikea kuvitella, että voisimme saavuttaa yhtenäisen maailmanlaajuisen tekoälyhallinnon ja yleiset tekoälystandardit.

Te kuvailitte itseänne yrittäjiksi, miten se, mitä opititte ja raportoitte, vaikuttaa tuleviin ponnisteluihinne?

Meidän tekoälyneuvontamme on suunnattu auttamaan organisaatioita kasvamaan vastuullisesti teknologian kanssa. Lakimiehet, insinöörit, sosiologit ja liiketoimintaa ajattelevat ovat kaikki sidosryhmiä tekoälyn tulevaisuudessa. Meidän työssämme yhdistämme nämä näkökulmat ja harjoitamme luovaa kitkaa parempien ratkaisujen löytämiseksi. Olemme kehittäneet kehyksiä, kuten tarkoituksenmukaisen riskin laskelmaa, auttamaan näiden asioiden navigoimisessa.

Kiitos loistavista vastauksista, lukijat, jotka haluavat oppia lisää, voivat vierailla The AI Dilemma -sivulla.