Ajatusjohtajat

Kyllä: EU:n tekoälysäädös kattaa agenttisen tekoälyn – näin

Dr. Ley Muller Gyda Grodås Christiansen
Lisää Unite.AI suosikkilähteisiisi Google-palvelussa
Keskeiset kohdatAgenttinen tekoäly kuuluu jo EU:n tekoälyasetuksen piiriin, koska se täyttää…
Näytä lisää
  • Agenttinen tekoäly kuuluu jo EU:n tekoälyasetuksen piiriin, koska se täyttää tekoälyjärjestelmän määritelmän.
  • Tekoälyasetus sääntelee sitä, mitä teknologia tekee ja millaisia riskejä se aiheuttaa, sen sijaan että se nimeäisi tiettyjä teknologioita.
  • Teknologiajätit, jotka lobbaavat tekoälyasetusta vastaan, ajavat itsesääntelyä, joka merkitsee sääntelyn kaappaamista.

Nyt on vahvasti esillä käsitys, että agenttinen tekoäly ja tekoälyagentit jäävät jonkinlaiseen sääntelyn katvealueeseen ja että EU:n tekoälysäädös ei sovellu niiden sääntelyyn. Olemme lukeneet tästä arvostetuista norjalaisista uutismedioista (Morgenbladet ja Dagensnæringsliv), ja johtavat tutkijat ovat toistaneet samaa väitettä (University of Oslo). Näemme näissä väitteissä kaksi perustavanlaatuista ongelmaa… ja uskomme, että ne perustuvat pelkoihin, eivät tosiasioihin.

Ensinnäkin agenttista tekoälyä säännellään EU:n tekoälysäädöksellä.

Toiseksi tällaiset väitteet heikentävät olemassa olevaa sääntelyä. Ne vahvistavat käsitystä, että tekoälyyrityksillä on parhaat edellytykset hallita omiin järjestelmiinsä liittyviä riskejä. Tämä on yleinen argumentti, joka johtaa sääntelyn kaappaukseen.

Teemme tiivistä yhteistyötä tekoälysäädöksen parissa Standards Norwayn kansallisen tekoälykomitean nimitettyinä jäseninä. Olemme myös mukana eurooppalaisissa komiteoissa, jotka laativat yhdenmukaistettuja standardeja suuririskisten tekoälyjärjestelmien tarjoajille. Standardit auttavat yrityksiä täyttämään tekoälysäädöksen lakisääteiset vaatimukset.

EU:n tekoälysäädös sääntelee agenttista tekoälyä usealla tavalla

Euroopan komissio on julkaissut useita selkokielisiä ja helppolukuisia usein kysyttyjä kysymyksiä ”agenteista” ja ”agenttisesta tekoälystä” ja täsmentänyt, että ne kuuluvat sääntelyn soveltamisalaan yksinkertaisesti siksi, että ne täyttävät tekoälyjärjestelmän laajemman määritelmän (Miten tekoälyagentteja käsitellään tekoälysäädöksessä? | AI Act Service Desk). Tässä vielä muutamia esimerkkejä:

  • Agenttinen tekoäly perustuu usein suuriin kielimalleihin, joita säännellään yleiskäyttöisinä tekoälymalleina.
  • Kun agenttinen tekoälyjärjestelmä on vuorovaikutuksessa ihmisten kanssa, myös säädöksen läpinäkyvyysvaatimukset tulevat voimaan.
  • Jos tekoälymalli luokitellaan systeemistä riskiä aiheuttavaksi, sen tarjoajaan sovelletaan lisävaatimuksia. Niihin kuuluu muun muassa mallin valmiuksien arviointi, mukaan lukien sen autonomiset ja agenttiset ominaisuudet.

Tekoälysäädöksessä ei mainita sanaa ”agentti”, koska siinä ei säännellä tiettyjä teknologiatyyppejä. Sen sijaan siinä säännellään sitä, mihin teknologia on suunniteltu, sekä kyseisiin toimintoihin liittyviä riskejä.

Tekoälysäädöksen tarkoituksena on suojella perusoikeuksiamme

Suuri osa tekoälysäädöksen kritiikistä tulee niiltä, jotka haluavat lisää sääntelyä ja joiden mukaan kaikkien riskien poistaminen on rakenteellisesti mahdotonta. Kansainvälisen sääntelykehyksen olisi kuitenkin ollut mahdotonta ennakoida kaikkia tulevaisuuden riskejä.

Tekoälysäädös keskittyy sen sijaan tekoälyjärjestelmien aiheuttamiin riskeihin, jotka voivat vaikuttaa terveyteen, turvallisuuteen ja perusoikeuksiin. Tämä todetaan jo ensimmäisen artiklan ensimmäisessä virkkeessä.

Ensimmäisessä virkkeessä ei kuitenkaan mainita erästä tärkeää asiaa: tekoälysäädös on markkinalähtöinen. Sen on tarkoitus edistää tekoälyn käyttöä ja tukea innovointia. Toisin sanoen tekoälysäädös suhtautuu myönteisesti tekoälyyn. Tässä yhteydessä säännellään tiettyjä käyttötarkoituksia ja toimialoja.

Tietyt alat on luokiteltu ennalta suuririskisiksi

Esimerkkejä aloista, joilla käytetään tekoälyjärjestelmiä:

  • rekrytointi
  • keskeisten palvelujen jakaminen
  • lääkinnälliset laitteet
  • kriittiseen infrastruktuuriin integroidut järjestelmät, joissa turvallisuus on ensiarvoisen tärkeää.

Tekoälyjärjestelmien tarjoajien on järjestelmän tyypistä riippumatta otettava käyttöön kattavat riskienhallintajärjestelmät, jos niiden järjestelmät voivat vaikuttaa oikeuksiimme. Tähän kuuluu sen arvioiminen, miten käyttäjät voivat käyttää tekoälyjärjestelmää väärin.

Sääntelyn kaappaus: kun tarjoajat ehdottavat itsesääntelyä

Jos kuuntelemme Anthropicia, OpenAI:ta ja Metaa sekä eräitä Norjan julkisessa keskustelussa esitettyjä näkemyksiä, voi saada käsityksen, että tekoäly ja agenttinen tekoäly ovat liian monimutkaisia tekoälysäädöksen piiriin. Liian kehittyneitä EU:lle. Liian vaarallisia kenenkään muun kuin yritysten itsensä säänneltäviksi.

Meidän on syytä olla varovaisia, kun maailman vaikutusvaltaisimmat teknologiayritykset – jotka ovat voimakkaasti lobanneet tekoälysäädöksen lievemmän toimeenpanon puolesta – väittävät nyt, ettei sääntely riitä niiden kaikkein tehokkaimpien järjestelmien hallintaan. Niiden ehdottama ratkaisu on säännellä itse itseään.

Tämä on tyypillinen sääntelyn kaappauksen muoto: prosessi, jossa lakeja ja sääntelyä muovaavat vähitellen juuri ne tahot, joita niiden on tarkoitus valvoa, ja nämä tahot toimivat omaksi edukseen.

Yhdysvallat tarjoaa tästä selkeän esimerkin (Superälyn aikakauden käynnistäminen – The White House). Valkoisen talon superälyä koskeva sopimus on ”vapaaehtoinen sopimus”, johon ovat sitoutuneet X:n, Metan, Anthropicin, OpenAI:n ja Googlen johtajat. Siinä nämä yritykset lupaavat säännellä itse itseään. Asiakirjassa todetaan, että lait saattavat olla paikallaan jossakin kuvitteellisessa tulevaisuuden vaiheessa: ”Ajan myötä voi olla järkevää kirjata nämä toimet lakeihin tai asetuksiin.” Ajan myötä. Ehkä. Sääntelyn harkitseminen saattaa olla järkevää.

Toistaiseksi yhdysvaltalaisten odotetaan kuitenkin luottavan siihen, että nämä suuret teknologiayhtiöt säätelevät itse itseään.

Toisin kuin Yhdysvalloissa, Euroopassa on sitova laki: EU:n tekoälysäädös.

Sääntelykaappaus on silti edelleen riski, myös siksi, että luottamus tähän lakiin voi heikentyä. Jos teknologiajätit pystyvät vakuuttamaan ihmiset siitä, ettei tekoälysäädös ole riittävän hyvä, emme enää tue sen täytäntöönpanoa. Väitteet siitä, että agenttinen tekoäly olisi liian kehittynyttä, älykästä tai vaarallista tekoälysäädöksen käsiteltäväksi, heikentävät kannatustamme sääntelylle.

Kun sääntelykaappaus pääsee vallalle, sitä on vaikea perua.

Olemme samaa mieltä siitä, että jotkin tekoälyjärjestelmät voivat johtaa seurauksiin, joita on vaikea ennakoida. Juuri tästä syystä tarvitsemme riskienhallintamenettelyjä, kuten tekoälysäädös edellyttää. (Tohtori Muller työskentelee komiteassa, joka on lähes saanut valmiiksi riskienhallinnan yhdenmukaistetun standardin 18228 kehittämisen.)

EU:n tekoälysäädös ei ole täydellinen, ja sitä on todennäköisesti kehitettävä edelleen. Agenttisen tekoälyn esittäminen EU:n tekoälysäädöksen soveltamisalan ulkopuolelle kuuluvana kuitenkin lisää epävarmuutta, ei turvallisuutta.

Dr. Ley Muller on erikoistunut eettiseen tekoälyn hallintaan. Hän kuuluu tekoälyn standardointikomiteoihin ja johtaa myös tekoälyn hallintaan erikoistunutta konsulttiyritystä Values-driven AI. Puolet ajastaan hän auttaa eurooppalaisia tekoälypalveluntarjoajia täyttämään tekoälysäädöksen vaatimukset; toisen puolikkaan hän auttaa suuria julkisia organisaatioita hallitsemaan varjoälyn käyttöä ja rakentamaan laajempaa yhteisymmärrystä sidosryhmien kesken tekoälystrategioista.

Gyda Grodås Christiansen on johtava neuvonantaja, jonka työnkuvaan kuuluvat digitaalinen terveydenhuolto, terveysinformatiikka ja tekoälyn hallinta. Hän edistää kansainvälistä standardointia CEN/CENELECin yhteisen teknisen komitean 21 ja Standard Norwayn kautta. Hänen työnsä keskittyy yhteentoimivuuteen, terveystietoihin ja tekoälyn vastuulliseen käyttöönottoon terveydenhuollossa.