Mielipide
Tekoäly siirtyy tietokoneisiimme – mutta kuka hallitsee sitä, mitä se näkee?

Keskeiset kohdatPaikallinen tekoälykäsittely ei automaattisesti takaa yksityisyyttä tai turvallisuutta…
Näytä lisää
- Paikallinen tekoälykäsittely ei automaattisesti takaa yksityisyyttä tai turvallisuutta laitteella toimiville agenteille.
- Agenttien on toimittava vähimmän oikeuden käytännöllä, joka on rajattu siihen, mitä kukin työnkulku vaatii.
- Käyttäjät tarvitsevat läpinäkyvän ja peruutettavissa olevan hallinnan siihen, mitä agentit voivat nähdä ja tehdä.
Tekoälyagentit ovat siirtymässä chat-ikkunoista käyttöjärjestelmiin, sovelluksiin ja tiedostoihin, joita ihmiset käyttävät päivittäin.
Viime kuukausina julkaistut uudet Windows-tietokoneet ja ohjelmistot avaavat tavallisille käyttäjille ja yritysympäristöihin uuden aikakauden, jossa tekoäly pystyy suorittamaan itsenäisesti monivaiheisia tehtäviä. Siirtymä ei ole enää pelkkä teknologiaennuste.
NVIDIAn RTX-tehoiset Windows-tietokoneet tukevat paikallisesti suoritettavia tekoälyagentteja, ja Perplexity on laajentanut agenttiominaisuuksiaan yhteensopiviin Windows-tietokoneisiin mahdollistaen työnkulut, joissa käytetään paikallisia tiedostoja ja yhdistettyjä sovelluksia. Samaan aikaan Microsoft kehittää suojatoimia, joilla hallitaan agenttien pääsyä resursseihin ja niiden toimintaa.
Suurempi autonomia tuo kuitenkin mukanaan suurempia tietoturvariskejä. Microsoftin tietoturvasta vastaava varatoimitusjohtaja Hayete Gallot varoitti 19. lokakuuta, että organisaatioiden on tehtävä enemmän suojatakseen ”agenttimaisia sisäpiiriläisiä”. Hän huomautti, että tekoälyagenteilla on usein liian laajat käyttöoikeudet ja että ne voivat käyttää arkaluonteisia tietoja, työkaluja ja järjestelmiä tehdessään päätöksiä kriittisissä prosesseissa.
Microsoftin Windows-tietoturvastrategia perustuu eristämiseen, rajoitettuihin käyttöoikeuksiin ja rajalliseen valvontaan sekä kasvavaan huoleen siitä, että agentin virheellä voi olla seurauksia, jotka ulottuvat pelkkää väärää vastausta pidemmälle. Agentti voi paljastaa arkaluonteisia tietoja, muuttaa kriittisiä tiedostoja tai käynnistää ei-toivottuja toimintoja yrityssovelluksissa.
Paikallinen tekoäly ei automaattisesti tarkoita yksityistä tekoälyä
Tekoälyagenttien käyttö tietokoneella voi vähentää pilvipalveluihin siirrettävien arkaluonteisten tietojen määrää, mutta paikallinen käsittely ei ole täydellinen tietoturvatakuu.
Laitteessa suoritettavalla mallillakin voi silti olla pääsy liian moniin tiedostoihin, sen tietoturva voi olla heikko tai yhteydet muihin sovelluksiin voivat olla turvattomia.
Ongelma ei aina ole tekoälymallissa, vaan usein organisaation hallintamallissa, sanoi Bayron Quintero, iData Globalin toimitusjohtaja ja toinen perustajista. Yritys on erikoistunut tekoälyratkaisuihin eri puolilla Amerikkaa.
Yritykset voivat antaa liikaa tai liian vähän pääsyä tietoihin, sovelluksiin ja liiketoimintaprosesseihin, hän kertoi Unite.AI:lle. Agenteille voidaan myöntää oikeuksia, jotka eivät vastaa niiltä odotettuja tehtäviä.
”Haasteena on varmistaa, että agentti noudattaa vähimpien oikeuksien periaatetta ja pääsee käsiksi vain tiettyyn työnkulkuun tarvittaviin tietoihin, järjestelmiin ja toimintoihin”, Quintero sanoi. Tämä tarkoittaa, että käyttöoikeudet myönnetään vain tiettyyn työnkulkuun tarvittaviin tietoihin, järjestelmiin ja toimintoihin.
Hän piti olennaisina suojatoimina selkeää tietojen omistajuutta, roolipohjaisia käyttöoikeuksia sekä vuorovaikutuksen jatkuvaa valvontaa sisäisten ja kolmansien osapuolten järjestelmien kanssa.
Turvallista paikallista tekoälyä ei ole olemassakaan, Quintero painotti.
Liian laajat käyttöoikeudet, heikko salaus, riittämätön valvonta ja turvattomat integraatiot voivat tehdä laitteessa toimivasta agentista yhtä riskialttiin kuin pilvipohjaisesta agentista – tai jopa riskialttiimman.
Tietoturvassa ei ole kyse vain siitä, missä järjestelmän malli toimii, vaan myös siitä, miten järjestelmä on määritetty ja miten sitä hallitaan.
Uusi raja kulkee käyttöoikeuksissa
Tavallisen käyttäjän kannalta olennaista on, ovatko tekoälyagentin käyttöoikeudet sen tehtävän kannalta asianmukaiset.
Agentin ei pitäisi joutua käymään läpi koko levyä, jos sitä pyydetään vain tiivistämään yksi asiakirja. Valokuvien järjestämiseen tarkoitetun työkalun ei pitäisi automaattisesti lukea taloustietoja tai pystyä lähettämään viestejä. Käyttöoikeuksien on oltava tarkasti rajattuja, läpinäkyviä ja peruutettavissa.
Microsoftin agenttitili- ja työtilamalli on askel kohti sitä, että agentin toiminta erotetaan henkilön istunnosta. Suojausten on kuitenkin toimittava myös käytännön tilanteissa, ei vain esittelyssä.
Microsoftin Windows-agenttien tietoturvaohjeissa edellytetään käyttäjän hyväksyntää, toimintalokeja ja mekanismia, jolla varmistetaan agenttien pääsyn rajaaminen vain niiden tarvitsemiin resursseihin. Työnantajien ja kehittäjien on seurattava, miten agentit reagoivat asiakirjoissa, verkkosivustoilla tai viesteissä oleviin harhaanjohtaviin ohjeisiin.
Agentit voivat törmätä epäluotettavaan sisältöön suorittaessaan hyväksyttyä tehtävää. Jos agentti tulkitsee vihamielisen tekstin käskyksi, seurauksena voi olla vakava tietoturvaongelma, sillä tietoihin pääsee helposti käsiksi.
Arkaluonteisten toimintojen kohdalla ihmisen hyväksynnän ja vähimpien oikeuksien periaatteen on kuljettava käsi kädessä eristämisen kanssa.
Kätevyyttä on rajattava selkeästi
Tekoälytietokonetta ei arvioida vain sen perusteella, kuinka paljon työtä agentit pystyvät automatisoimaan, vaan myös sen perusteella, kuinka luottavaisesti käyttäjät voivat jakaa henkilökohtaisia ja ammatillisia tietoja.
Paikallinen käsittely voi nopeuttaa agenttipohjaisen tekoälyn toimintaa ja vähentää tiettyjen tietojen altistumista, mutta se ei poista käyttöoikeuksien ja valvonnan tarvetta.
Periaatteen pitäisi olla yksinkertainen: agenteilla saa olla pääsy vain työssä tarvittaviin tietoihin, ja käyttäjien on pystyttävä ymmärtämään, seuraamaan ja estämään agentin toimintaa.
Kun tietokoneet kykenevät yhä paremmin toimimaan puolestamme, hallintaa ei saa jättää jälkikäteen mietittäväksi asiaksi. Sen on oltava osa suunnittelua.












