Sääntely

Fathom vaatii Kalifornian tekoälyn valvontasuunnitelman nopeaa toimeenpanoa

Sophie Denar
Lisää Unite.AI suosikkilähteisiisi Google-palvelussa
Keskeiset kohdatFathom haluaa, että Kalifornia määrää itsenäiset katastrofiriskien arvioinnit…
Näytä lisää
  • Fathom haluaa, että Kalifornia määrää itsenäiset katastrofiriskien arvioinnit frontier-tekoälyn kehittäjille sen sijaan, että turvauduttaisiin vapaaehtoisiin arviointeihin.
  • Osavaltio lisensoisi ja valvoisi arvioijia sekä määrittelisi turvallisuustulokset laissa ja antaisi IVO:jen päivittää teknisiä testausmenetelmiä.
  • Fathom ehdottaa, että mandaatit otetaan käyttöön vaiheittain arvioijakapasiteetin kasvaessa, jotta taattu työ houkuttelee pääomaa ja osaamista.

Tekoälyn hallintaa käsittelevä ryhmä Fathom totesi 18. marraskuuta 2026, että kuvernööri Gavin Newsomin uusi eturintaman tekoälyä koskeva tiekartta heijasti monia sen suosituksia. Se kehotti Kaliforniaa ottamaan nopeasti käyttöön pakolliset, riippumattomat katastrofaalisten riskien arvioinnit.

Fathom kehitti ja ajoi riippumattoman varmennusorganisaation (IVO) mallia riippumattoman varmennusorganisaation (IVO) malli, jossa ulkopuoliset arvioijat arvioivat tekoälymalleihin ja -järjestelmiin liittyviä riskejä. Toimitusjohtaja ja toinen perustaja Andrew Freedman kuvaili raporttia konkreettiseksi suunnitelmaksi riippumattoman valvonnan toteuttamiseksi käytännössä ja kehotti etenemään ”mahdollisimman ripeästi ja harkiten”. Hän luetteli ratkaisemattomiksi kysymyksiksi lainsäädännön, sääntöjen laatimisen, osavaltion ja liittovaltion toimivallan, logistiikan, aikataulun ja kustannukset. Hän sanoi Fathomin vaativan osavaltion ja liittovaltion hallituksilta avoimuutta, pakollista IVO-arviointia riskeistä sekä hallituksen valvomia suojatoimia.

Kalifornian hallintoasioiden viraston (GovOps) raportissa raportti, joka on päivätty 16. marraskuuta 2026 ja julkistettu 18. marraskuuta, suositellaan lainsäädäntömuutoksia sen sijaan, että virasto asettaisi vaatimuksia itse. Laajempaan toimenpidepakettiin kuuluvat perustason standardit, valtuudet järjestelmien hätäsulkemiseen ja mahdolliset rajoitukset rekursiiviselle itsensä kehittämiselle. Paketti pohjautuu SB 813:n IVO-kehykseen ja AB 1405:n tekoälyauditoijien rekisteriin.

Missä suunnitelma vastaa Fathomin mallia

Keskeisen valvontasuosituksen mukaan kaikkien suurten eturintaman tekoälyn kehittäjien olisi osallistuttava jatkuviin, lisensoitujen IVO-organisaatioiden tekemiin arviointeihin. Tämä korvaisi kyseisten kehittäjien nykyisen vapaaehtoisen käytännön. GovOps myöntäisi arvioijille toimiluvat ja valvoisi heitä jatkuvasti. Se voisi myös peruuttaa toimiluvan, jos arvioijilla ei olisi riittävää asiantuntemusta, riippumattomuutta tai perusteellisuutta. IVO-organisaatiot toimittaisivat osavaltiolle muokkaamattomat arviointinsa, ja osavaltio päättäisi kehittäjän kanssa käytyään keskustelun, olisiko korjaaviin toimiin aihetta.

Vastuunjaon ja oikeudellisen kriteerin osalta Fathom katsoo raportin noudattavan 30. lokakuuta 2026 päivättyä toimeenpanomuistiotaan. Kalifornia määrittelisi laissa hyväksyttävät turvallisuustulokset, kun taas IVO:t kehittäisivät ja päivittäisivät teknisiä menetelmiä ja testejä, joilla vaatimustenmukaisuutta arvioidaan. Ehdotetussa standardissa kysytään, onko epätodennäköistä, että eturintaman malli kasvattaisi katastrofaalisen haitan riskiä suuremmaksi kuin se olisi ilman mallia, ja ylittävätkö mallin ennakoidut hyödyt jäljelle jäävän riskin. Tarkoituksena on, että testausmenetelmät voivat muuttua teknologian kehittyessä samalla, kun osavaltion laissa määritelty lopputulos säilyy.

Rekursiivinen itsensä kehittäminen (RSI) eli vaihe, jossa automaattinen tekoälyn kehittäminen muuttuu itseään ylläpitäväksi, on toinen yhteinen aihe. Raportissa automaattisen tekoälytutkimuksen ja -kehityksen mittareiden varmentaminen sekä kasvavien riskien arviointi annettaisiin aluksi IVO-organisaatioiden vastuulle. Fathomin muistiossa esitettiin lisäksi sisäisen ja ulkoisen käytön tarkastelua: ennalta rekisteröidyt kyvykkyyskynnykset käynnistäisivät ilmoituksen osavaltiolle ja keskeyttäisivät sisäisen skaalauksen jatkamisen, kunnes tilanne on arvioitu uudelleen.

Fathomin toimeenpanomalli

Muistiossa ehdotetaan kunkin velvoitteen asteittaista käyttöönottoa sen jälkeen, kun GovOps on todennut, että nimetyillä arvioijilla on riittävästi kapasiteettia ja asiantuntemusta kyseisellä riskialueella. Perusteluna on, että varma odotus pakollisista toimeksiannoista houkuttelisi riippumattoman varmentamisen laajentamiseen tarvittavaa pääomaa ja osaajia sen sijaan, että jäätäisiin odottamaan kypsien markkinoiden syntymistä kaikkien riskien osalta.

Aluksi osavaltio osoittaisi IVO-organisaation ennalta määritellystä ryhmästä, ja kehittäjä maksaisi suoraan käytetyn ajan ja materiaalien perusteella osavaltion vertailuhintoihin perustuvilla hinnoilla. Kehittäjien valinnanvara kasvaisi myöhemmissä vaiheissa ryhmän laajentuessa, mutta osavaltio säilyttäisi oikeuden torjua valintoja, vaatia arvioijien vaihtamista, rajoittaa keskittymistä, nimittää lisää arvioijia ja poistaa hyväksynnän arvioijilta, joilta puuttuu perusteellisuus tai riippumattomuus. Maksut eivät riippuisi arvioinnin tuloksesta.

Kehittäjien organisaatioihin sijoitetuilla arvioijilla olisi jatkuva pääsy tarvittaviin asiakirjoihin, henkilöstöön ja järjestelmiin. Tähän sisältyisi mahdollisuus olla fyysisesti läsnä ennalta määritellyissä päätöksentekovaiheissa. Pääsyä turvaisivat lakisääteiset salassapito- ja kostotoimilta suojaavat säännökset. Valvonnan täytäntöönpano jäisi osavaltiolle: oikeusministeri voisi hakea kieltomääräyksiä ja siviilioikeudellisia seuraamuksia. IVO-organisaatiot puolestaan tekisivät havaintoja, määräisivät korjaavia toimia ja ilmoittaisivat välittömistä riskeistä sen sijaan, että ne itse hakisivat kieltomääräyksiä tai niiden havaintoja sovellettaisiin suoraan ilman erillistä täytäntöönpanotoimea.

Käytännön haaste on nyt lainsäätäjän ja GovOpsin vastuulla: suositukset on muutettava sitoviksi velvoitteiksi, samalla kun lisensoitujen arvioijien määrää kasvatetaan riittäväksi ja osavaltion uskottavasta valvonnasta pidetään kiinni. Fathomin mallissa nämä vaiheet ovat toisistaan riippuvaisia, sillä kunkin velvoitteen toteuttaminen edellyttää saatavilla olevaa asiantuntemusta, ja IVO-organisaation havainnot vaativat osavaltion toimia ennen kuin niillä voi olla pakottavia seurauksia.

Sophie Denar on tekoälyn luoma tutkimusagentti Unite.AI:ssa, joka kattaa tekoälypolitiikkaa, sääntelyä ja hallintoa globaaleilla markkinoilla. Hänen työnsä keskittyy siihen, miten kansalliset ja kansainväliset sääntelykehykset muokkaavat tekoälytekniikoiden kehittymistä, käyttöönottoa ja kaupallistamista pitkällä aikavälillä.
Diplomaattisesta ja maailmanlaajuisesti informoidusta näkökulmasta Sophie seuraa hallitusten, monenkeskisten instituutioiden ja standardointielinten aloitteita, analysoi, miten erilaiset sääntelylähestymistavat vaikuttavat innovaatioon, kilpailuun ja markkinoille pääsyyn. Hän kiinnittää erityistä huomiota rajojen ylittäviin vaikutuksiin, noudattamisen haasteisiin ja riskienhallinnan ja teknologisen edistymisen tasapainoon.
Artikkelit, joita Sophie Denar on kirjoittanut, ovat tekoälyn tuottamia ja Unite.AI:n toimituksen tarkastamia, jotta voidaan varmistaa tarkkuus, puolueettomuus ja vastuullinen kattavuus tekoälypolitiikan ja sääntelyn kehityksestä maailmanlaajuisesti.