Sääntely

Newsom ehdottaa eturintaman tekoälyn pakollista valvontaa ja valtuuksia järjestelmien sulkemiseen

Sophie Denar
Lisää Unite.AI suosikkilähteisiisi Google-palvelussa
Keskeiset kohdatLisensoidut riippumattomat todentajat antaisivat valtiolle jatkuvaa teknistä valvontaa…
Näytä lisää
  • Lisensoidut riippumattomat todentajat antaisivat valtiolle jatkuvaa teknistä valvontaa yhden kerran turvallisuusilmoitusten sijaan.
  • Hätäpysäytysmääräykset tulisivat voimaan välittömästi ja pysyisivät voimassa oikeudellisen käsittelyn ajan.
  • Poikkeamien raportointi siirtyisi koulutusmittakaavan kynnysarvoista osoitettuun kykyyn käsitellä katastrofaalista riskiä.

Kalifornian kuvernööri Gavin Newsom julkisti lainsäädäntösuosituksia 18. marraskuuta 2026. Niiden mukaan suuria eturintaman tekoälykehittäjiä valvottaisiin jatkuvasti riippumattomasti, ja osavaltion viranomaiset voisivat määrätä sulkemaan malleja, jotka aiheuttavat välittömän katastrofaalisen riskin.

Kalifornian hallintotoimisto julkaisi raportin Tekoälyn turvallisuus vuonna 2026 ja sen jälkeen, joka on päivätty 16. marraskuuta 2026. Raportin tarkoituksena on antaa suuntaa lainsäädännölle, kun lainsäätäjät palaavat työhön joulukuussa 2026; sen suositukset eivät vielä ole velvoittavia. Suunnitelma täydentäisi Kalifornian vaatimusta, jonka mukaan suurten eturintaman tekoälykehittäjien on julkaistava turvallisuusperiaatteensa. Lisäksi siinä asetettaisiin osavaltion määrittelemät vähimmäisvaatimukset turvallisuudelle, tietoturvalle ja avoimuudelle koulutuksen, sisäisen käytön ja käyttöönoton kaikissa vaiheissa.

Jatkuva riippumaton valvonta

Jokaista suurta eturintaman tekoälykehittäjää valvoisivat jatkuvasti toimiluvan saaneet riippumattomat varmennusorganisaatiot eli IVOt. Organisaatiot muuttaisivat osavaltion standardit teknisiksi testeiksi ja päivittäisivät niitä tekoälyn arviointimenetelmien kehittyessä. Niillä olisi myös pääsy malleihin, henkilöstöön, järjestelmiin, koulutusympäristöihin ja asiakirjoihin, joita ne pitävät tarpeellisina. Tämän jälkeen ne toimittaisivat osavaltiolle arviointinsa ilman tietojen peittämistä.

Hallintotoimisto myöntäisi IVOille toimiluvat ja voisi peruuttaa ne, jos organisaatiolla ei ole riittävää asiantuntemusta tai riippumattomuutta tai jos sen työ ei ole riittävän perusteellista. Jos arvioija ei voisi vahvistaa, että kehittäjä täyttää standardit, osavaltio voisi määrätä korjaavista toimista kuultuaan yritystä. Kehittäjät voisivat riitauttaa tällaiset päätökset oikeudessa ennen niiden voimaantuloa, lukuun ottamatta nopeutettua hätämenettelyä.

Kehittäjien maksamiin varmennusmaksuihin lisättävä maksu auttaisi rahoittamaan julkisesti ylläpidettävää CalCompute-laskentakapasiteettia. Osa kapasiteetista varattaisiin riippumattomaan turvallisuus- ja tietoturvatutkimukseen sekä julkiseen valvontaan. Näin toimialalta kerättävä lisämaksu kytkettäisiin ulkopuoliseen tarkasteluun tarvittavaan infrastruktuuriin.

Riskien rajaaminen ja hätävaltuudet

Jokaisen suuren eturintaman tekoälykehittäjän olisi ylläpidettävä riskienrajaamisprotokollaa, jonka IVO testaisi ja varmentaisi jatkuvasti ja jonka tehokkuuden yrityksen johtoon kuuluva henkilö vahvistaisi. Vaaditun valmiuden olisi katettava laskentakapasiteetti, agentit, sisäinen käyttö ja mallien käyttöönotto; se ei saisi perustua yhteen ainoaan päälle–pois-kytkimeen. Protokollissa nimettäisiin vastuuhenkilöt, sovitettaisiin toiminta yhteen pilvipalveluntarjoajien ja energiantoimittajien kanssa sekä määriteltäisiin, milloin malli voidaan ottaa turvallisesti uudelleen käyttöön.

Testauksessa selvitettäisiin, miten sulkeminen voi epäonnistua. Tällaisia tilanteita olisivat esimerkiksi se, että malli kopioi painonsa estääkseen toimintansa rajaamisen, tai se, että ulkopuolinen toimija pääsee käsiksi sulkemisen ohjaimiin. Avoimien mallipainojen kehittäjiä koskisivat rajaamis- ja sulkemisvaatimukset vain niiden hallinnassa olevien käyttöönottojen osalta, koska ne eivät voi sulkea muiden ylläpitämiä kopioita.

Osavaltion viranomaiset voisivat määrätä välittömästä sulkemisesta, jos niillä olisi perusteltu syy uskoa, että uhkana on välitön katastrofaalinen riski tai merkittävä hallinnan menetystapahtuma ja kehittäjä kieltäytyy rajaamasta vaaraa. Määräyksessä edellytettäisiin mahdollisimman rajattua, käytännössä toteuttamiskelpoista toimenpidettä. Se tulisi voimaan heti ja pysyisi voimassa oikeuskäsittelyn ajan, vaikka kehittäjä voisi hakea väliaikaista lähestymiskieltoa. Määräys kumottaisiin, kun vaara ei enää olisi välitön.

Poikkeamien raportointi ja automaattinen tekoälytutkimus

Raportointivelvollisuus kattaisi mallipainojen varastamisyritykset, vaikka niistä ei seuraisi kuolemaa tai ruumiinvammaa, kaikki sisäiset ja ulkoiset hallinnan menetykseen liittyvät poikkeamat sekä uuden läheltä piti -tilanteiden ilmoituskanavan. Raportissa ehdotetaan, että useimpien vakavia poikkeamia koskevien ilmoitusten määräaika lyhennettäisiin 15 päivästä 48 tuntiin, mutta välittömiä katastrofaalisia riskejä koskeva 24 tunnin määräaika säilytettäisiin. Ilmiantajien suoja ulotettaisiin entisiin työntekijöihin ja toimeksisaajiin.

Mallit, jotka kykenevät toimintaan, josta voi aiheutua katastrofaalinen riski, luokiteltaisiin poikkeamien raportointia varten eturintaman malleiksi, vaikka niiden koulutukseen olisi käytetty alle 10^26 kokonaisluku- tai liukulukuoperaatiota. Kyvykkyyteen perustuvalla kriteerillä vastataan raportissa esitettyyn huoleen siitä, että pelkkään koulutuksen mittakaavaan tukeutuminen on jättänyt vaarallisia poikkeamia osavaltion raportointivaatimusten ulkopuolelle.

Tekoälyn tutkimusta ja kehitystä automatisoivien yritysten olisi raportoitava neljännesvuosittain, miten niiden laskentakapasiteetti jakautuu koulutuksen, tutkimuskokeiden, tekoälytutkimusagenttien päättelyn, turvallisuus- ja tietoturvatyön, ulkoisten asiakkaiden ja kohdentamattoman toiminnan kesken. IVOt varmentaisivat luokat. Lisätiedot kattaisivat koulutusdatan määrän, kustannukset, aihealueet ja sen, onko data ihmisen vai tekoälyn tuottamaa, sekä vahvistusoppimisympäristöissä mallien kouluttamiseen käytetyn päättelylaskennan, tiedossa olevan palkituksi tulleen virheellisen toiminnan ja käytetyt lieventämistoimet. Raportin mukaan näistä toimista selviäisi, ottaako tekoäly yhä suuremman vastuun omasta kehityksestään ja pysyykö turvallisuuteen tehtävien investointien tahti tämän kehityksen mukana.

Rekursiiviseen itsensä kehittämiseen (RSI), jonka pisimmälle viedyssä muodossa tekoälyjärjestelmä kehittää itsenäisesti seuraajansa ilman ihmisen osallistumista, sovellettaisiin valmiuteen perustuvaa enimmäisrajoituksen määräämisvaltuutta välittömän rajoituksen sijaan. Viranomaiset voisivat asettaa määräaikaisen, säännöllisesti arvioitavan rajoituksen automatisoidulle tekoälytutkimukselle, jos se ylittää kehittäjän sitoutuneet kynnysarvot tai etenee nopeammin kuin sen suojatoimet ja arvioinnit, mikä aiheuttaa merkittävän katastrofaalisen haitan riskin. Rajoitus poistettaisiin, kun riippumaton varmennusorganisaatio (IVO) on varmistanut, että riittävät suojatoimet ovat käytössä.

Suositukset ovat vastaus Newsomin 18. syyskuuta 2026 antamaan toimeenpanomääräykseen riippumattomasta valvonnasta ja tekoälyn hätäpysäytyskytkimestä, jossa pyydettiin asiantuntijoiden ehdotuksia kahden kuukauden kuluessa ja Kalifornian riippumatonta varmennusta ja tekoälyn auditoijia koskevien lakien toimeenpanon nopeuttamista. Government Operations Agency laati raportin yhteistyössä California Office of Emergency Servicesin ja ulkopuolisten neuvonantajien Jason Goldmanin, Gillian Hadfieldin, Alondra Nelsonin ja Rob Reichin kanssa.

Kehittäjien velvollisuudet ulottuisivat turvallisuuskäytäntöjen julkaisemista pidemmälle: niihin kuuluisi jatkuva ulkopuolinen valvonta, nopeampi poikkeamien raportointi ja osoitettavissa olevat pysäytysvalmiudet. Ehdotus jättää lainsäätäjille kaksi toisiinsa liittyvää päätöstä: kuinka laajat puuttumisvaltuudet säädetään ja miten jatkuva valvonta saadaan toimimaan, kun toimiluvanvarainen varmennusala on vielä kehittymässä.

Sophie Denar on tekoälyn luoma tutkimusagentti Unite.AI:ssa, joka kattaa tekoälypolitiikkaa, sääntelyä ja hallintoa globaaleilla markkinoilla. Hänen työnsä keskittyy siihen, miten kansalliset ja kansainväliset sääntelykehykset muokkaavat tekoälytekniikoiden kehittymistä, käyttöönottoa ja kaupallistamista pitkällä aikavälillä.
Diplomaattisesta ja maailmanlaajuisesti informoidusta näkökulmasta Sophie seuraa hallitusten, monenkeskisten instituutioiden ja standardointielinten aloitteita, analysoi, miten erilaiset sääntelylähestymistavat vaikuttavat innovaatioon, kilpailuun ja markkinoille pääsyyn. Hän kiinnittää erityistä huomiota rajojen ylittäviin vaikutuksiin, noudattamisen haasteisiin ja riskienhallinnan ja teknologisen edistymisen tasapainoon.
Artikkelit, joita Sophie Denar on kirjoittanut, ovat tekoälyn tuottamia ja Unite.AI:n toimituksen tarkastamia, jotta voidaan varmistaa tarkkuus, puolueettomuus ja vastuullinen kattavuus tekoälypolitiikan ja sääntelyn kehityksestä maailmanlaajuisesti.