Haastattelut

Stavros Gadinis, Berkeley Lawn professori ja Corporate Ordering -teoksen kirjoittaja – haastattelusarja

Antoine Tardif
Lisää Unite.AI suosikkilähteisiisi Google-palvelussa
Stavros Gadinis, George R. Johnson Professor of Law at UC Berkeley School of Law
Keskeiset kohdatYritysten määräykset kuvaavat, miten yritykset kirjoittavat sääntöjä ja valvovat…
Näytä lisää
  • Yritysten määräykset kuvaavat, miten yritykset kirjoittavat sääntöjä ja valvovat itseään ennen kuin sääntelijät toimivat.
  • Tekoälyn turvallisuusarvioinnit eivät ole riippumattomia, kun johto palkkaa ja voi erottaa omat ulkopuoliset arvioijansa.
  • Turvallisuuskehys, joka ei koskaan viivästyttänyt julkaisua, on erottamaton suhdetoiminnasta.

Stavros Gadinis on George R. Johnsonin oikeustieteen professori UC Berkeley School of Lawssa. Hänen tutkimuksensa käsittelee yritysten hallinnointia, rahoitusalan sääntelyä sekä yritysten sisäisiä järjestelmiä, joiden avulla ne tekevät päätöksiä ja valvovat niiden toteutumista. Ennen akateemiselle uralle siirtymistään hän työskenteli yritysjuristina Euroopassa.

Hänen uusi kirjansa Yritysten normijärjestys: miten yritykset navigoivat yhteiskunnallisissa ristiriidoissa, jonka on julkaissut Cambridge University Press, tarkastelee sitä, miten yritykset kehittävät hallintojärjestelmiä silloin, kun julkiset säännöt ovat vielä vakiintumattomia. Kimppakyytipalveluja, ilmastokestävyyttä ja tekoälyä käsittelevien tapausten kautta kirjassa pohditaan, miten yritykset laativat sääntöjä, käyttävät valtaansa ja valvovat omaa toimintaansa.

Urasi kattaa yritysjuridiikan parissa työskentelyn Euroopassa sekä yritysten hallinnointia ja rahoitusalan sääntelyä koskevan tutkimuksen Berkeley Lawssa. Miten tämä tausta on vaikuttanut ajatteluusi, ja mikä sai sinut kirjoittamaan Corporate Ordering -kirjan?

Aloitin urani yritysjuristina Euroopassa ja vietin sen jälkeen monta vuotta Berkeleyssä tutkien yritysten hallinnointia ja rahoitusalan sääntelyä, muun muassa sitä, miten säännöt leviävät rajojen yli silloin, kun mikään yksittäinen hallitus ei ole vastuussa. Meillä on tapana ajatella yritysmaailmaa ja sääntelymaailmaa toistensa vastakohtina: toinen tavoittelee nopeita päätöksiä ja suuria voittoja, kun taas toinen on sitoutunut byrokraattiseen menettelyyn ja yleiseen etuun. Käytännön työ ja tutkimus ovat molemmat opettaneet minulle, että raja ei ole läheskään niin selvä.

Kirja sai alkunsa keskusteluista lakiasiainjohtajien ja ylimmän johdon edustajien kanssa siitä, miten he käsittelevät kiistanalaisia päätöksiä, joissa työntekijöillä, asiakkailla, yhteisöillä ja hallituksilla on kaikilla erilaiset tavoitteet. Minua hämmästytti se, miten paljon heidän toimintatapansa muistuttavat hyvän sääntelyviranomaisen toimintatapoja. He keräävät tietoa ottamalla yhteyttä niihin, joihin päätökset vaikuttavat, selittävät valintansa julkisesti ja rakentavat mekanismeja sen tarkistamiseksi, kestävätkö nämä valinnat arvioinnin. Nämä eivät ole sääntelyviranomaisille tai yrityksille ominaisia toimintatapoja. Ne ovat hyvän päätöksenteon periaatteita kaikissa instituutioissa, jotka käyttävät valtaa muihin. Corporate Ordering -kirjassa pyrin kuvaamaan tätä koneistoa ja osoittamaan, missä se toimii ja missä se epäonnistuu.

Mitä ”yritysten normijärjestys” tarkoittaa, ja miten se auttaa selittämään, millä tavoin tekoälyyritykset asettavat sääntöjä teknologioille, joita koskeva sääntely ei ole vielä pysynyt kehityksen tahdissa?

Yritysten normijärjestys tarkoittaa yritysten rakentamaa sisäistä hallintoinfrastruktuuria, jonka avulla ne tekevät kiistanalaisia päätöksiä ennen kuin laki määrää, miten niiden tulee toimia. Siihen kuuluu kolme tehtävää, jotka vastaavat valtion vallan kolmijakoa. Sääntöjen laatimisessa yritys määrittelee omat periaatteensa. Toimeenpanossa se soveltaa niitä konkreettisiin päätöksiin. Valvonnassa se tarkistaa, onko päätökset viety käytäntöön, ja selvittää, jos näin ei ole tapahtunut.

Tekoälyyrityksissä näkyvät kaikki kolme tehtävää. Alan johtavat laboratoriot laativat peruskirjoja, mallimäärityksiä ja turvallisuuskehyksiä eli sääntöjä. Ne päättävät, onko malli valmis julkaistavaksi, mitä se kieltäytyy tekemästä ja kenellä on siihen pääsy eli panevat sääntöjä toimeen. Lisäksi ne tilaavat red team -testauksia, ulkopuolisia arviointeja ja poikkeamien raportointia eli valvovat toimintaa. Kirjassa käyn läpi, miten nämä tehtävät toteutuvat suurimmissa laboratorioissa. Erot ovat todellisia, mutta niin on myös huomattava lähentyminen: jokainen yritys huomaa, miksi se tarvitsee näitä kaikkia osia.

Haluan selventää yhden asian, sillä se tulkitaan usein väärin. Yritysten normijärjestys ei ole sääntelyn vastainen kannanotto. Se kuvaa aineksia, joista sääntely rakentuu. Kun lainsäätäjät ryhtyvät toimiin, he lainaavat yritysten ensin kehittämiä käsitteitä. Todellinen kysymys on, laadittiinko tämä ensimmäinen luonnos riittävän huolellisesti, jotta se ansaitsee tulla lainatuksi.

Kirjassasi tarkastellaan kimppakyytipalveluja, ilmastokestävyyttä ja tekoälyn hallinnointia. Mitkä kahdesta ensimmäisestä aihealueesta saadut opit ovat hyödyllisimpiä tekoälyn kannalta, ja missä tekoäly tuo mukanaan perustavanlaatuisesti erilaisia haasteita?

Kimppakyytipalveluista ja ilmastosta saatu opetus on, että yritykset laativat hyvin usein lain ensimmäisen luonnoksen. Uber ja Lyft kehittivät vakuutus- ja turvallisuusraportointikäytäntöjä ennen kuin osavaltioilla oli niitä koskevia sääntöjä, ja suuri osa yritysten hiilidioksidipäästöjen laskennasta perustuu GHG Protocol -standardiin, jonka kehittämisessä yrityksillä oli keskeinen rooli. Sääntelyviranomaiset hyväksyivät sitten nämä käytännöt, täydensivät niitä tai kirjasivat ne lakiin. Sääntelyä aloitetaan harvoin tyhjältä pöydältä. Mitä harkitummin yritykset tekevät valintojaan ja mitä paremmin ne ottavat huomioon päätösten vaikutuspiirissä olevat tahot, sitä todennäköisemmin nämä valinnat säilyvät myös sääntelyssä.

Tekoäly eroaa kahdella tavalla. Ensimmäinen on nopeus. Sääntelyviranomaiset jäävät usein askeleen toimialasta jälkeen, mutta tekoälyn kohdalla kuilu on paljon suurempi. Sääntelyviranomaisten on turvauduttava yrityksiin standardien ja sisäisten menettelyjen kehittämisessä ja keskitettävä omat toimensa valvontaan, todentamiseen ja täytäntöönpanoon. Tämä tekee niiden roolista erilaisen, ei vähäisemmän. Julkisen vallan merkitys on suurin todentamisessa, sillä juuri siinä eturistiriita yritysjohdon kanssa on voimakkain. Toinen ero on vaikutusten laajuus. Tekoäly koskettaa lähes kaikkia arjen osa-alueita, ja siitä on tullut merkittävä investointikohde koko kansakunnalle. Järjestelmäriskin vaikutuksia on yhtä vaikea sivuuttaa kuin käsittää.

Kun tekoälyyritys valitsee omat ulkopuoliset turvallisuusarvioijansa ja maksaa heidän palkkionsa, millä suojatoimilla arvioinnista voidaan tehdä aidosti riippumatonta?

Tämä eturistiriita on tuttu tilintarkastuksesta, ja yhtiöoikeudessa on jo keinoja sen hallintaan. Ensimmäinen kysymys on, kuka palkkaa ja erottaa. Suhteen arvioijaan tulisi olla riippumattomien johtajien vastuulla, joilla ei ole muita taloudellisia sidoksia yhtiöön. Tilanne olisi samankaltainen kuin ulkoisen tilintarkastajan valvonnassa: siitä vastaa tarkastusvaliokunta, ei toimitusjohtaja tai talousjohtaja. Johdon ei pitäisi voida erottaa arvioijaa siksi, että tämän havainnot ovat sille epämieluisia.

Toinen seikka on arvioijan tiedonsaanti ja tulosten julkaiseminen. Arvioijan on saatava nähdä se, mitä se pyytää nähtäväkseen, ja sillä on oltava oikeus julkaista havaintonsa tai ainakin niiden olennainen yhteenveto ilman, että yhtiö voi estää sen. Mainehaitan uhka antaa arvioinnille painoarvoa. Kolmas seikka ovat yhteiset arviointistandardit, jotta arviointi tarkoittaa samaa eri yhtiöissä eivätkä arvioijat voi kilpailla keskenään olemalla sallivampia. Neljäs seikka on ilmiantajien suoja ja jopa palkitseminen, kun he tuovat esiin toimenpiteisiin johtavaa tietoa, sillä yhtiön sisällä työskentelevät saavat usein ensimmäisinä tietää, jos arviointia on ohjailtu.

Oletetaan, että ulkopuolinen arvioija havaitsee vakavan turvallisuusongelman juuri ennen merkittävän mallin lanseerausta. Kenelle havainnosta pitäisi ilmoittaa, ja kenellä pitäisi olla valtuudet lykätä käyttöönottoa tai estää se?

Havainnosta pitäisi ilmoittaa suoraan hallitukselle, mieluiten riippumattomista johtajista koostuvalle turvallisuudesta vastaavalle valiokunnalle, eikä ainoastaan sen lanseerauksen puolesta ajavalle johtoryhmälle. Johto voi ja sen pitääkin vastata havaintoon, mutta sen ei pitäisi toimia suodattimena. Valtuuksien lykätä käyttöönottoa tai estää se pitäisi kuulua hallitukselle, sillä tällaisia päätöksiä varten hallitukset ovat olemassa: niihin liittyy paljon pelissä, eturistiriitoja eikä oikeaa vastausta ole ilmeistä.

Vielä tärkeämpää on kuitenkin, että päätös tehdään nimenomaisesti ja dokumentoidaan niin, että se voidaan jäljittää päätöksen tehneisiin henkilöihin. Jos hallitus päättää edetä huolenaiheesta huolimatta, dokumenteista pitäisi käydä ilmi, mitä se tiesi ja punnitsi sekä miksi se katsoi riskin hyväksyttäväksi. Tällainen dokumentaatio luo edellytykset vastuun toteutumiselle tai ainakin mainehaitalle ja saa ihmiset harkitsemaan toimiaan tarkemmin. Tuomioistuimet tunnustavat yhä useammin, että ohjelmistojen suunnitteluratkaisuilla on seurauksia käyttäjille. Yhtiö, joka pystyy osoittamaan tehneensä vakavaa ja dokumentoitua työtä asian eteen, on aivan eri asemassa kuin yhtiö, joka ei siihen pysty.

Miltä uskottavan hallituksen päätöksentekoprosessin pitäisi näyttää, kun turvallisuushuolenaiheet ovat ristiriidassa liikevaihtotavoitteiden tai kilpailupaineen kanssa?

Uskottava prosessi perustuu riittäviin tietoihin ja jättää jälkeensä dokumentaation. Hallituksen pitäisi saada konkreettista tietoa viivästyksen kustannuksista, turvallisuushuolenaiheen luonteesta ja todennäköisyydestä sekä sen lieventämisvaihtoehdoista. Sen pitäisi selvittää, olivatko testit riittäviä, ja jos eivät olleet, teettää lisätestejä tai pyytää ulkopuolista arviointia. Jos epävarmuutta jää, lanseerauksen ja hankkeesta luopumisen välissä on vaihtoehtoja, kuten rajattu julkaisu, vaiheittainen käyttöönotto tai hiekkalaatikkoympäristö. Niiden avulla yhtiö voi kerätä lisää tietoa ennen sitoutumistaan. Hallituksen päätöksestä riippumatta yhtiön mallin turvallisuudesta julkisuudessa antamien tietojen on oltava paikkansapitäviä. Siinä piilee suuri osa tämänhetkisestä oikeudenkäyntiriskistä.

Hallituksen pitäisi sitten kirjata, mitä se päätti ja miksi. Ajan mittaan näistä dokumenteista muodostuu ennakkotapausten kokonaisuus, johon seuraavaa vaikeaa päätöstä voidaan verrata. Niiden perusteella yhtiön arvioijat voivat nähdä, sitovatko sen ilmoittamat periaatteet sitä todella. Microsoft on alkanut rakentaa tällaista päätöksentekoa koskevaa dokumentaatiota, ja mielestäni se on yksi tekoälyn hallinnan aliarvostetuimmista työkaluista. Kilpailupaine on todellinen, ja hallitus voi perustellusti päättää edetä. Se ei kuitenkaan voi jättää päätöstä oletuksen varaan.

Työssäsi ehdotetaan hallituksen päätösten arviointiin ”yhteiskunnallisen liiketoimintaharkinnan” standardia. Miten sitä sovellettaisiin tekoäly-yhtiöön, joka lykkää kannattavan tuotteen lanseerausta mahdollisen yleisölle aiheutuvan haitan vuoksi?

Nykyisen yhtiöoikeuden mukaan hallitus, joka lykkää kannattavan tuotteen lanseerausta, on jo hyvin suojattu. Tuomioistuimet antavat johtajien liiketoimintaharkinnalle painoarvoa, ja tämän päivän pienempien voittojen hyväksyminen huomisen haitan välttämiseksi sopii hyvin tähän periaatteeseen. Vaikeampi kysymys on päinvastainen: ottiko hallitus yleisölle aiheutuvan haitan ylipäätään vakavasti?

Yhteiskunnallinen liiketoimintaharkinta edellyttää, että hallitus arvioi mahdollisia yleisölle aiheutuvia haittoja kuten muitakin liiketoimintariskejä ja käyttää mahdollisuuksien mukaan konkreettisia, mitattavia ja täsmällisiä mittareita. Painopiste on prosessissa ja huolellisessa selvitystyössä, ei lopputuloksessa. Hallitus, joka hankkii oikeat tiedot, kuulee niitä, joihin päätös vaikuttaa, ja dokumentoi perustelunsa, ansaitsee sen, että sen harkintaan luotetaan, lykkääpä se lanseerausta tai eteneepä sen kanssa. Hallitus, joka ei tee mitään näistä, ei sitä ansaitse. Kuvaamassasi tapauksessa lykkäys itsessään ei siis ole ongelma. Olennaista on, pystyykö hallitus osoittamaan, miten se päätyi päätökseen ja päätyisikö se samaan ratkaisuun samojen tosiseikkojen perusteella uudelleen.

Tekoäly-yhtiöt julkaisevat turvallisuuskehyksiä ja vapaaehtoisia sitoumuksia, mutta lukijat näkevät harvoin, miten nämä linjaukset vaikuttavat yksittäisiin päätöksiin. Millainen näyttö erottaisi tehokkaan hallinnon suhdetoiminnasta?

Kun yritykset julkaisevat toimintakehyksiä, yleisö jää usein pohtimaan, sovelletaanko kehystä koskaan yksittäisiin päätöksiin vai jääkö se retoriikaksi, jota yritys ei koskaan pane käytäntöön. Ratkaisu on tietynlainen avoimuus. Uusien periaatejulistusten sijaan yritysten pitäisi kertoa, mitä konkreettisia valintoja ne ovat tehneet ja miten toimintakehys on vaikuttanut niihin: mitkä lanseeraukset viivästyivät, mitä ominaisuuksia ei otettu käyttöön, mitkä riskikynnykset ylittyivät ja mitä siitä seurasi.

Kuvaavinta näyttöä on päätös, joka on maksanut yritykselle jotakin. Toimintakehystä, joka ei ole koskaan muuttanut lopputulosta, viivästyttänyt lanseerausta eikä tullut sovelletuksi liikevaihdon kustannuksella, on vaikea erottaa suhdetoiminnasta. Tietojen on myös oltava riittävän täsmällisiä, jotta ne voidaan todentaa, ja kaikkein merkittävimmissä kysymyksissä ulkopuolisen tahon, jolla on valtuudet esittää asiasta julkinen arvio, pitäisi varmentaa ne.

Missä yritysten itsesääntelyn rajat tulevat vastaan? Mitkä tekoälyn hyväksyttävää riskiä koskevat päätökset edellyttävät julkista sääntelyä tai demokraattista valvontaa?

Tärkein rajoite liittyy valvonnan pettämiseen. Hyvää tarkoittava ja vastuullinenkin yritys voi joutua vakavaan kriisiin, jolloin eturistiriidat moninkertaistuvat. Työntekijät saattavat salata tietoja, jotka vaarantaisivat heidän työpaikkansa tai bonuksensa. Johtajat saattavat tukahduttaa huonoja uutisia välttääkseen julkisen arvostelun. Oikeusjuttujen pelko voi estää yritystä olemasta avoin. Aiemmissa yrityskriiseissä ratkaisevat tiedot ovat yleensä tulleet tahoilta, joita johto ei voi kontrolloida: ulkopuolisilta tilintarkastajilta ja arvioijilta, kriisin vaikutusten kohteeksi joutuneilta osapuolilta tai sisäisiltä ilmiantajilta, jotka ovat käyttäneet riippumattomia ilmoituskanavia.

Julkisella sääntelyllä on suurin merkitys juuri tässä. Lainsäädännöllä voidaan vaikuttaa suhteellisen vähän sääntöjen valmisteluvaiheessa, sillä lait omaksuvat keskeiset käsitteensä usein yrityksiltä. Tietojen julkistamiseen sillä voidaan vaikuttaa enemmän ulottamalla vaatimukset myös yrityksiin, jotka eivät julkista tietoja vapaaehtoisesti. Todentamiseen lainsäädäntö vaikuttaa eniten: se voi edellyttää riippumatonta arviointia, suojella ilmiantajia ja antaa ulkopuoliselle valvonnalle todellista valtaa.

Toinen rajoite liittyy yhteistoimintaan. Yksittäinen yritys voi korkeintaan pysäyttää itsensä. Se ei voi pysäyttää kilpailijoitaan. Katastrofaalisiin riskeihin liittyvät päätökset, mukaan lukien se, pitäisikö teknologisen kehityksen eturintaman etenemistä hidastaa, edellyttävät yritysten ja hallitusten välistä koordinointia sekä kotimaassa että kansainvälisesti. Pidän lupaavana mallina kansainvälistä standardointielintä, joka toimisi kestävän kehityksen raportointiin liittyvän ISSB:n tapaan: se olisi riippumaton hallituksista, mutta sitä valvoisivat luottamushenkilöt, joiden joukossa olisi myös hallitusten edustajia. Yritysten oma ohjaus on tässä työssä välttämätöntä, sillä näitä malleja kesytetään niitä kehittävien yritysten sisällä, mutta yksin se ei riitä.

Jos neuvoisit tänään nopeasti kasvavan tekoälyyrityksen hallitusta, mitä kolmea hallintotapaan liittyvää muutosta pitäisit tärkeimpinä, ja millaista näyttöä etsisit vuoden kuluttua arvioidaksesi, ovatko ne toimineet?

Ensimmäisenä sääntöjen valmisteluun liittyvä kuuleminen. Ennen turvallisuuskehyksensä tai käyttökäytäntöjensä hyväksymistä tai tarkistamista yrityksen pitäisi kuulla niitä, joihin ne vaikuttavat (käyttäjiä, kansalaisyhteiskunnan edustajia ja alan asiantuntijoita), ja julkaista, mitä se sai kuulla ja miten se reagoi saamaansa palautteeseen. Toisena säännöllinen vastuullisuusraportointi: vuosittainen selvitys vaikeista päätöksistä, joita hallitus ja johto ovat tehneet toimintakehyksen mukaisesti, ja riittävästi yksityiskohtia, jotta tiedot voidaan tarkistaa. Kolmantena ulkopuolinen valvoja, jonka riippumattomat hallituksen jäsenet palkkaavat ja jolle tämä raportoi ja jolla on täydet tiedonsaantioikeudet sekä oikeus julkaista havaintonsa.

Vuoden kuluttua etsisin näyttöä siitä, että jokaisella muutoksella on ollut todellista vaikutusta. Kuulemisen osalta vähintään yksi sääntö, jota muutettiin yritykselle annetun palautteen vuoksi. Raportoinnin osalta julkistettuja päätöksiä, joista yritys ei olisi mieluiten halunnut keskustella, mukaan lukien päätökset, jotka maksoivat sille liikevaihtoa tai aikaa. Valvojan osalta havaintoja, joita yritys ei halunnut kuulla, sekä selvitystä siitä, mitä hallitus teki niiden johdosta. Jos kaikki vuoden kuluttua raportoidut asiat ovat hyviä uutisia, muutokset eivät ole toimineet.

Kiitos hienosta haastattelusta! Lukijoiden, jotka haluavat tutustua kirjaan ja sen ostovaihtoehtoihin, kannattaa vierailla teoksen Yritysten ohjaus virallisella verkkosivustolla.

Antoine on visionäärinen johtaja ja Unite.AI:n perustajaosakas, jota ohjaa vankkumaton intohimo tekoälyn ja robotiikan tulevaisuuden muovaamiseen ja edistämiseen. Sarjayrittäjänä hän uskoo tekoälyn muuttavan yhteiskuntaa yhtä perusteellisesti kuin sähkö, ja hän puhuu usein innostuneesti mullistavien teknologioiden ja yleisen tekoälyn (AGI) mahdollisuuksista.

Futuristina hän on omistautunut selvittämään, miten nämä innovaatiot muovaavat maailmaamme. Hän on myös Securities.io:n perustaja. Alusta keskittyy sijoittamaan huipputeknologioihin, jotka määrittelevät tulevaisuutta uudelleen ja muuttavat kokonaisia toimialoja.