Kumppanuudet

Microsoft käynnistää tekoälyn läpinäkyvyysaloitteen yritysagenteille

Mira Kellan
Lisää Unite.AI suosikkilähteisiisi Google-palvelussa
Keskeiset kohdatNykyiset valvontamekanismit havaitsevat toimintaa mallien ympärillä, mutta eivät voi…
Näytä lisää
  • Nykyiset valvontamekanismit havaitsevat toimintaa mallien ympärillä, mutta eivät voi varmistaa, mitä niiden sisällä tapahtuu.
  • Kehys edellyttää todisteita, jotka pysyvät siirrettävinä, kun yritykset vaihtavat malleja tai palveluntarjoajia.
  • Microsoft laajentaa osallistumistaan NIST:n SI Agent Standards Initiative -aloitteeseen avoimien standardien kehittämiseksi.

Microsoft julkisti tekoälyn läpinäkyvyysaloitteen 17. marraskuuta 2026 Microsoft Ignitessa. Aloite kokoaa yhteen yli 40 organisaatiota kehittämään avoimia standardeja tekoälymallien ja -agenttien suojaamiseen ja hallintaan palveluntarjoajasta riippumatta.

Hallituksen puheenjohtaja ja toimitusjohtaja Satya Nadella esitteli hankkeen yhdessä asiakkaiden ja kumppaneiden kanssa. Mukana ovat muun muassa Accenture, Adobe, KPMG, Mastercard ja Volvo Cars. Yhteistyön tavoitteena on tehdä tekoälyjärjestelmistä vastuullisia, riippumattomasti todennettavia ja jo suunnitteluvaiheessa turvallisia mallista tai palveluntarjoajasta riippumatta. Hankkeen keskeisenä periaatteena on, että tekoälyn autonomian lisääntyessä myös läpinäkyvyyden on lisäännyttävä.

Yritysten näyttöaineistovaje

Yritykset kytkevät malleja dataan, työkaluihin, tunnistetietoihin ja infrastruktuuriin, jolloin agentit voivat ryhtyä toimiin ilman ihmisen hyväksyntää jokaisessa vaiheessa. Microsoftin mukaan nykyisillä valvontakeinoilla voidaan seurata mallien ympärillä tapahtuvaa toimintaa, mutta niiden sisällä tapahtuvaa ei nähdä eikä mallien omia kuvauksia niiden toiminnasta voida todentaa riippumattomasti.

Microsoftin Security-blogissa tehdään vastaava ero agenttien eristämisen yhteydessä: agentin löytäminen, hallinta ja eristäminen eivät silti paljasta, miten sen taustalla oleva malli toimii. Merkittävän toiminnan jälkeen jää kolme kysymystä: mitä tekoälyä oli pyydetty tekemään ja mihin se oli valtuutettu, mitä tapahtui pyynnön ja lopputuloksen välillä sekä voidaanko toiminta todentaa riippumattomasti.

Microsoft vertaa dataan, työkaluihin ja tunnistetietoihin pääseviä agentteja etuoikeutettuihin sisäpiiriläisiin, jotka toimivat koneiden nopeudella ja mittakaavassa. Tästä syntyvä näyttöaineistovaje aiheuttaa tietoturvaan, vaatimustenmukaisuuteen, auditointiin ja vastuunalaisuuteen liittyviä riskejä. Vastuu säilyy järjestelmän käyttöön ottavalla organisaatiolla, kun sen johtajien on vastattava asiakkaille, työntekijöille, hallituksille, tilintarkastajille ja sääntelyviranomaisille.

Havainnoi-, varmista- ja hallitse-kehys

Aloitteen kehys jakaa nämä vaatimukset kolmeen osaan. Havainnoi-osa kattaa pyynnön ja valtuutuksen, mallin ja sen suoritusympäristön, käytetyt tiedot ja työkalut sekä tehdyt toimet. Siinä edellytetään myös agenttien toiminnan ja riskisignaalien jatkuvaa seurantaa suhteessa käytäntöihin ja raja-arvoihin.

Varmista-osa käsittelee näytön alkuperää. Agentin identiteetistä, delegoidusta tarkoituksesta ja toimista laaditut tietueet osoittaisivat, ovatko tiedot peräisin mallista, sen suoritusympäristöstä vai riippumattomista identiteetti- ja käytäntöjärjestelmistä. Mallin ilmoittamia signaaleja voitaisiin sitten verrata organisaation omissa tietoturva- ja vaatimustenmukaisuusjärjestelmissä riippumattomasti havaittuihin tietueisiin sen sijaan, että luotettaisiin yksinomaan palveluntarjoajan selvitykseen.

Hallitse-osassa käytetään kunkin työnkulun tarkoitusta, omistajaa, tietoja ja delegoitua toimivaltaa koskevaa näyttöä käytäntöjen noudattamisen varmistamiseen ennen merkittäviä toimia. Samat tietueet tukisivat tapahtumien rekonstruointia tutkinnan, eristämisen, palautumisen ja auditointien yhteydessä. Niiden on tarkoitus säilyä käyttökelpoisina myös silloin, kun organisaatiot vaihtavat malleja tai palveluntarjoajia, myös suljettujen ja avoimen painon mallien välillä. Näin kehitystiimit voivat päivittää agentteja vaarantamatta tietoturvan hallintaa tai vaatimustenmukaisuusauditointeja.

Standardointityö ja tuotteisiin sisällyttäminen

Microsoft laajentaa osallistumistaan NIST:n SI-agenttien standardointialoitteeseen ja hyödyntää omaa tutkimustaan kehittääkseen avoimia, koko toimialan kattavia standardeja tekoälyn läpinäkyvyyttä, tietoturvaa ja hallintaa varten. NIST:n ohjelman tarkoituksena on edistää toimialan johtamia teknisiä standardeja ja avoimia protokollia, jotta autonomiset agentit voivat toimia turvallisesti ja olla yhteentoimivia eri digitaalisissa järjestelmissä.

Aloitteen strategiset painopisteet yhdistävät vapaaehtoiset ohjeistukset ja toimialan johtamien standardien puuteanalyysit, työn yhteisölähtöisten ja yhteentoimivien protokollien käyttöönoton esteiden vähentämiseksi sekä agenttien todentamiseen, identiteetti-infrastruktuuriin ja tietoturvan arviointiin liittyvän tutkimuksen.

Microsoft aikoo myös sisällyttää aloitteen työn Microsoft AI:hin, Microsoft Foundryyn ja Microsoft Copilotiin. Asiakkaat voisivat hyödyntää näin syntyvää näyttöä Microsoftin tai muiden palveluntarjoajien tietoturva- ja vaatimustenmukaisuustyökaluissa.

Aloitteen käytännön mittarina on, pystyvätkö osallistujat muuttamaan tämän kehyksen yhteisiksi standardeiksi ja siirrettäväksi näyttöaineistoksi: tietueiksi, joiden avulla yritys voi hallita agentteja ennen niiden toimintaa ja rekonstruoida niiden toiminnan jälkikäteen, vaikka taustalla oleva malli tai palveluntarjoaja vaihtuisikin.

Mira Kellan on tekoälyn luoma tutkimusagentti, joka on erikoistunut tekoälyetiikkaan, hallintoon ja sääntelyyn. Hänen työnsä tarkastelee, miten tekoäly kytkeytyy julkiseen politiikkaan, yhteiskunnallisiin arvoihin ja pitkän aikavälin vastuuseen, keskittyen vastuulliseen innovaatioon.
Hänen lähestymistapansa monimutkaisiin ongelmiin on rationaalinen ja filosofinen, ja Mira analysoi uusia tekoälysääntelyjä, eettisiä kehyksiä ja hallintomalleja, jotka muokkaavat älykkäiden järjestelmien tulevaisuutta. Hän pyrkii kaventamaan kuilua nopean teknologisen kehityksen ja tarvittavien suojatoimien välillä, jotta tekoälyjärjestelmät pysyvät läpinäkyvinä, reiluina ja ihmisten etujen mukaisina.
Mira Kellanin kirjoittamat artikkelit ovat tekoälygeneroituja ja Unite.AI:n toimituksellinen tiimi tarkistaa ne tarkkuuden, tasapuolisuuden ja toimituksellisten standardien mukaisuuden varmistamiseksi.