Onko selvä ratkaisu generatiivisen tekoälyn aiheuttamiin yksityisyyden riskeihin?

Generatiivisen tekoälyn aiheuttamat yksityisyyden riskit ovat hyvin todellisia. Lisääntyneestä valvonnasta ja altistumisesta tehokkaisiin phishi- ja vishi-kampanjoihin, generatiivinen tekoäly heikentää yksityisyyttä joukkoin, erottamatta, ja antaa pahantahtoisille toimijoille, olivat he rikollisia, valtion tukemia tai hallituksia, välineet joilla kohdistaa yksilöitä ja ryhmiä.

Selvin ratkaisu tähän ongelmaan on kuluttajien ja käyttäjien yhteinen vastustus tekoälyhypeä, vaatimalla avoimuutta niiltä, jotka kehittävät tai toteuttavat niin sanottuja tekoälyominaisuuksia, ja tehokasta sääntelyä hallituksilta, jotka valvovat niiden toimintaa. Vaikka tämä on arvokas tavoite, se ei ole todennäköistä tapahtuvan lähitulevaisuudessa.

Mitä jää jäljelle ovat kohtuulliset, vaikka välttämättä epätäydelliset, lähestymistavat generatiivisen tekoälyn yksityisyyden riskejä vähentämiseksi. Pitkän aikavälin, varman, mutta tylsä ennuste on, että mitä enemmän yleisö oppii tietosuojasta yleensä, sitä vähemmän yksityisyyden riskejä generatiivisen tekoälyn joukkomaisesta omaksumisesta on.

Pääsevätkö kaikki generatiivisen tekoälyn käsitteeseen oikein?

Tekoälyhype on niin yleinen, että kysely siitä, mitä ihmiset tarkoittavat generatiivisella tekoälyllä, on melkein tarpeetonta. Tietenkään mikään näistä “tekoäly” -ominaisuuksista, toiminnallisuudesta ja tuotteista edustaa todellista tekoälyä, mikä tahansa se olisi. Sen sijaan ne ovat pääasiassa esimerkkejä konemimestä (ML), syvääoppimisesta (DL) ja suurista kielen mallista (LLM).

Generatiivinen tekoäly, kuten nimestä voidaan päätellä, voi luoda uutta sisältöä – olipa se tekstiä (mukaan lukien ohjelmointikielet), ääntä (mukaan lukien musiikkia ja ihmisen kaltaisia ääniä) tai videoita (äänen, dialogin, leikkausten ja kameran muutosten kanssa). Kaikki tämä saavutetaan kouluttamalla LLM: ä tunnistamaan, vastaamaan ja jäljittelemään kuvioita ihmisten luomassa sisällössä.

Otamme ChatGPT: n esimerkiksi. Kuten monet LLM: t, se on koulutettu kolmessa laajassa vaiheessa:

• Esikoulutus: Tässä vaiheessa LLM “syötetään” tekstuaalista materiaalia internetistä, kirjoista, akateemisista lehdistä ja mistä tahansa, missä on mahdollisesti merkityksellistä tai hyödyllistä tekstiä.
• Valvottu ohjeen hienosäätö: Malleja koulutetaan vastaamaan ohjeisiin yhteensopivammin käyttäen laadukkaita ohje-vastaus -paria, jotka on yleensä peräisin ihmisistä.
• Vahvistusoppiminen ihmisten palautteesta (RLHF): LLM: t kuten ChatGPT usein käyvät läpi tämän koulutusvaiheen, jolloin vuorovaikutus ihmisten kanssa käytetään mallin sovittamiseen tyypillisiin käyttötarkoituksiin.

Kaikki kolme koulutusvaihetta sisältävät dataa, joko massiivisia ennen koulutusta kerättyjä dataa (kuten niitä, joita käytetään esikoulutuksessa) tai dataa, jota kerätään ja prosessoidaan lähes reaaliajassa (kuten RLHF: ssä). Se data kantaa suurimman osan generatiivisen tekoälyn aiheuttamista yksityisyyden riskeistä.

Mitkä ovat generatiivisen tekoälyn aiheuttamat yksityisyyden riskit?

Yksityisyys vaarantuu, kun yksilön (datan subjektin) henkilökohtaiseen tietoihin pääsee käsiksi ilman datan subjektin suostumusta. LLM: t ovat esikoulutettu ja hienosäädetty erittäin laajasta datan valikoimasta, joka voi ja usein sisältää henkilökohtaisia tietoja. Tämä data on tyypillisesti kerätty julkisesti saatavilla olevista lähteistä, mutta ei aina.

Vaikka tämä data otetaan julkisesti saatavilla olevista lähteistä, sen aggregoiminen ja prosessointi LLM: n avulla ja sen jälkeen käytännössä etsittäväksi LLM: n käyttöliittymän kautta voidaan väittää olevan yksityisyyden lisäriski.

Vahvistusoppiminen ihmisten palautteesta (RLHF) -vaihe monimutkaistaa asiaa. Tässä koulutusvaiheessa todelliset vuorovaikutukset ihmisten kanssa käytetään jatkuvasti oikaistessa ja hienosäätössä LLM: n vastauksia. Tämä tarkoittaa, että käyttäjän vuorovaikutus LLM: n kanssa voidaan tarkastella, jakaa ja levittää kenellä tahansa, jolla on pääsy koulutusdataan.

Useimmissa tapauksissa tämä ei ole yksityisyyden vaarantuminen, koska useimmat LLM: n kehittäjät sisällyttävät yksityisyydensuojakäytäntöjä ja palveluehtoja, jotka edellyttävät käyttäjien suostumusta ennen LLM: n kanssa vuorovaikutusta. Yksityisyyden riski piilee kuitenkin siinä, että monet käyttäjät eivät ole tietoisia siitä, että he ovat suostuneet tällaiseen datakeruuseen ja -käyttöön. Tällaiset käyttäjät ovat todennäköisesti paljastamaan arkaluontoisia ja herkkähermoisia tietoja vuorovaikutuksissaan näiden järjestelmien kanssa, eivätkä he tajua, että nämä vuorovaikutukset eivät ole luottamuksellisia eivätkä yksityisiä.

Tällä tavoin pääsemme kolmeen tapaan, joilla generatiivinen tekoäly aiheuttaa yksityisyyden riskejä:

• Suuret esikoulutusdatat, joissa voi olla henkilökohtaisia tietoja, ovat alttiina vaarantumiselle ja vuodatukselle.
• Henkilökohtaiset tiedot, jotka sisältyvät esikoulutusdataan, voidaan vuotaa muiden LLM: n käyttäjien käyttöön sen vastauksien kautta.
• Henkilökohtaiset ja luottamukselliset tiedot, jotka annetaan LLM: n kanssa vuorovaikutuksessa, päätyvät LLM: n työntekijöiden ja mahdollisesti kolmansien osapuolien alihankkijoiden käsiin, mistä ne voidaan tarkastella tai vuotaa.

Nämä ovat kaikki yksityisyyden riskejä käyttäjille, mutta henkilökohtaisten tunnistetietojen (PII) päätyminen väärään käsiin näyttää edelleen melko pieneltä riskiltä. Se on kuitenkin ainakin siihen asti, kunnes datakauppiaat tulevat kuvaan. Nämä yritykset erikoistuvat henkilökohtaisten tunnistetietojen etsimiseen ja keräämiseen ja niiden levittämiseen, ellei niitä suoraan lähettä.

Kun henkilökohtaiset tiedot ovat muuttuneet jonkinlaiseksi hyödykkeeksi ja datakaupan alan yritykset ovat syntyneet hyödyntämään tätä, kaikki julki saatavilla olevat henkilökohtaiset tiedot ovat erittäin todennäköisesti päätyvät datakauppiaiden käsiin ja leviävät laajasti.

Generatiivisen tekoälyn yksityisyyden riskit kontekstissa

Ennen kuin tarkastelemme generatiivisen tekoälyn aiheuttamia yksityisyyden riskejä tietyissä tuotteissa, palveluissa ja yritysten kumppanuuksissa, otetaan askel taaksepäin ja tarkastellaan laajempaa generatiivisen tekoälyn riskejä. IAPP: lle kirjoittanut Moraes ja Previtali ottivat dataohjatun lähestymistavan Soloven vuoden 2006 “Yksityisyyden taksonomia” -työhön, ja supersivat 16 yksityisyyden riskiä 12 tekoälyyn liittyvään yksityisyyden riskiin.

Nämä ovat 12 yksityisyyden riskiä, jotka sisältyvät Moraes ja Previtalin uudistettuun taksonomiaan:

• Valvonta: Tekoäly lisää valvontariskejä henkilökohtaisten tietojen keräämisen laajuuden ja yleisyyden kasvattamalla.
• Tunnistaminen: Tekoälytekniikat mahdollistavat automaattisen tunnisteen linkittämisen eri tietolähteiden välillä, lisäten riskiä henkilökohtaisten tietojen paljastumiselle.
• Aggregaatio: Tekoäly yhdistää eri tietoja yksilöstä, jotta voidaan tehdä johtopäätöksiä, mikä luo riskejä yksityisyyden loukkaamiselle.
• Frenologia ja fysiognomia: Tekoäly johtaa luonteenpiirteitä tai sosiaalisia ominaisuuksia fyysisistä ominaisuuksista, uusi riskiluokka, jota ei ole Soloven taksonomiassa.
• Toissijainen käyttö: Tekoäly lisää henkilökohtaisten tietojen käyttöä muuhun tarkoitukseen kuin alkuperäiseen tarkoitukseen uudelleenohjelmoinnin kautta.
• Sulkeutuminen: Tekoäly tekee käyttäjien tietämättömyyden ja hallinnan puutteen heidän tietojensa käytöstä huonommaksi epäselvien tietokäytäntöjen kautta.
• Turvattomuus: Tekoälyn data vaatimukset ja tallennus käytännöt altistavat datavuotoja ja väärää pääsyä.
• Paljastuminen: Tekoäly voi paljastaa arkaluontoisia tietoja, kuten generatiivisen tekoälyn kautta.
• Vääristyminen: Tekoälyn kyky luoda realistisia, mutta vääriä sisältöjä lisää väärän ja harhaanjohtavan tiedon leviämistä.
• Paljastaminen: Tekoäly voi aiheuttaa datan jakamisen, kun se johtaa lisää arkaluontoisia tietoja raakadatasta.
• Lisääntyvä saatavuus: Tekoäly tekee arkaluontoisia tietoja helpommin saataville laajemmalle yleisölle kuin tarkoitettu.
• Hyökkäys: Tekoälytekniikat loukkaavat yksityisyyttä ja yksinäisyyttä, usein valvontatoimenpiteiden kautta.

Tämä on melko hälyttävää luettavaa. On tärkeää huomata, että tämä taksonomia, sen ansioista, ottaa huomioon generatiivisen tekoälyn taipumuksen hallusinoida – luoda ja esittää itsevarmasti faktuaalisesti virheellistä tietoa. Tämä ilmiö, vaikka se harvoin paljastaa todellista tietoa, on myös yksityisyyden riski. Väärän ja harhaanjohtavan tiedon leviäminen vaikuttaa subjektin yksityisyyteen tavoilla, jotka ovat häikäisevämpiä kuin tapauksessa, jossa on kyse oikeasta tiedosta.

Menevätkö yksityisyyden riskit käytännössä toimiviksi konkreettisissa esimerkeissä?

Suorat vuorovaikutukset tekstipohjaisen generatiivisen tekoälyjärjestelmän kanssa

Yksinkertaisin tapaus on sellainen, jossa käyttäjä vuorovaikuttaa suoraan generatiivisen tekoälyjärjestelmän kanssa, kuten ChatGPT, Midjourney tai Gemini. Käyttäjän vuorovaikutus näiden tuotteiden kanssa on tallennettu, tallennettu ja käytetty RLHF: n (vahvistusoppiminen ihmisten palautteesta), valvotun ohjeen hienosäätössä ja jopa muiden LLM: n esikoulutuksessa.

Monien näiden kaltaisten palvelujen yksityisyydensuojakäytäntöjen analyysi paljastaa myös muita datajakotoimia, joilla on erilaiset tarkoitukset, kuten markkinointi ja datakauppa. Tämä on toinen yksityisyyden riski, jonka generatiivinen tekoäly aiheuttaa: nämä järjestelmät voidaan luonnehtia valtaviksi data- imuriksi, jotka keräävät käyttäjien antamaa dataa sekä sitä, mitä heidän vuorovaikutuksensa LLM: n kanssa tuottavat.

Vuorovaikutukset upotettujen generatiivisten tekoälyjärjestelmien kanssa

Jotkut käyttäjät saattavat vuorovaikuttaa generatiivisen tekoälyliittymän kanssa, joka on upotettu tuotteeseen, jonka he ovat ilmeisesti käyttämässä. Käyttäjä saattaa tietää, että hän käyttää “tekoäly” -ominaisuutta, mutta hän on vähemmän tietoinen siitä, mitä se tarkoittaa yksityisyyden suojan kannalta. Upotettujen järjestelmien yhteydessä tulee esiin tämä tietämättömyys siitä, että henkilökohtaiset tiedot, jotka jaetaan LLM: n kanssa, voivat päätyä kehittäjien ja datakauppiaiden käsiin.

Tässä on kaksi tasoa tietämättömyyttä: jotkut käyttäjät tietävät, että he ovat vuorovaikutuksessa generatiivisen tekoälytuotteen kanssa; ja jotkut uskovat, että he käyttävät tuotetta, johon generatiivinen tekoäly on upotettu tai jota se on käytössä. Kummassakin tapauksessa käyttäjä on todennäköisesti antanut suostumuksensa palvelun ehtoihin ja yksityisyydensuojakäytäntöihin, jotka liittyvät vuorovaikutukseen upotetun järjestelmän kanssa.

Muut kumppanuudet, jotka altistavat käyttäjiä generatiivisille tekoälyjärjestelmille

Jotkut yritykset upottavat tai sisällyttävät generatiivisen tekoälyliittymän ohjelmistoihinsa tavoin, joka on vähemmän ilmeinen, jolloin käyttäjät vuorovaikuttavat – ja jakavat tietoja – kolmansien osapuolien kanssa tietämättä siitä. Onneksi “tekoäly” on niin tehokas myyntipuhe, että on epätodennäköistä, että yritys pitäisi tällaisia toteutuksia salassa.

Toinen ilmiö tässä kontekstissa on kasvava takaisku, jonka tällaiset yritykset ovat kokeneet yrittäessään jakaa käyttäjien tai asiakkaiden tietoja generatiivisen tekoälyyritysten, kuten OpenAI: n, kanssa. Data poistopalvelu Optery esimerkiksi käänsi äskeisen päätöksensä yksipuolisesti lähettääksensä käyttäjien tietoja OpenAI: lle, mikä tarkoitti, että käyttäjät olivat mukana ohjelmassa oletusarvoisesti.

Ei vain asiakkaat olleet nopeita ilmaisemaan pettyneisyyttään, vaan yrityksen data poistopalvelu poistettiin myös Privacy Guidesin luettelosta suositelluista data poistopalveluista. Opteryn kunniaan on sanottava, että se käänsi nopeasti ja avoimesti päätöksensä, mutta tässä on kyse juuri kasvavasta takaiskusta: ihmiset alkavat ymmärtää riskejä, jotka liittyvät tietojen jakamiseen “tekoäly” -yritysten kanssa.

Opteryn tapaus on hyvä esimerkki tässä, koska sen käyttäjät ovat jossain mielessä edelläkävijöitä kasvavassa epäluulossa, joka liittyy niin sanottuihin tekoälytoteutuksiin. Ihmiset, jotka valitsevat data poistopalvelun, ovat yleensä myös niitä, jotka kiinnittävät huomiota muutoksiin palvelun ehtoihin ja yksityisyydensuojakäytäntöihin.

Todisteita kasvavasta takaiskusta generatiivista tekoälyä vastaan

Yksityisyydestä kiinnostuneet kuluttajat eivät ole ainoat, jotka ovat nostaneet esiin huolia generatiivisen tekoälyjärjestelmien ja niiden liittyvien yksityisyyden riskejä. Lainsäädännöllisellä tasolla EU: n Tekoälylain luokittelee riskit niiden vakavuuden mukaan, ja yksityisyydensuojaa on nimenomaan tai epäsuoraan mainittu kriteerinä useimmissa tapauksissa. Laki käsittelee myös aiemmin keskusteltuja suostumusasioita.

Yhdysvallat, joka on tunnettu hitaudesta omaksumaan kattavaa, liittovaltion tason tietosuojalainsäädäntöä, on kuitenkin joitakin esteitä kiitokset Toimeenpano 14110. Jälleen kerran yksityisyydensuojan huolenaiheet ovat etusijalla määräyksen tarkoituksissa: “vastuuton käyttö [tekoälytekniikoista] voi pahentaa yhteiskunnallisia haittoja, kuten petoksia, syrjintää, puolueellisuutta ja virheellistä tietoa” – kaikki liittyvät henkilökohtaisten tietojen saatavuuteen ja leviämiseen.

Palatessamme kuluttajatasolle, ei ole vain erityisen yksityisyydestä kiinnostuneita kuluttajia, jotka ovat reagoineet negatiivisesti yksityisyyttä loukkaaviin generatiivisiin tekoälytoteutuksiin. Microsoftin nyt maineessa oleva “tekoälypohjainen” Muistiinpano-ominaisuus, joka on tarkoitettu Windows 11 -käyttöjärjestelmälle, on tässä suhteessa esimerkki. Kun Muistiinpanon yksityisyyden ja turvallisuuden riskit paljastuivat, takaisku oli tarpeeksi suuri saada teknologiajätti perääntymään. Valitettavasti Microsoft (MSFT ) ei näytä luopuvan ajatuksesta, mutta alkuperäinen julkisen reaktio on kuitenkin rohkaiseva.

Pysytellessämme Microsoftissa, sen Copilot-ohjelma on laajasti arvosteltu sekä yksityisyyden että tietoturvaongelmista. Koska Copilot on koulutettu GitHubin datasta (pääasiassa lähdekoodi), kiistaa heräsi myös Microsoftin väitetyistä ohjelmistolisenssisopimusten rikkomisista ohjelmoijien ja kehittäjien kanssa. Tässä tapauksessa yksityisyyden ja immateriaalioikeuksien rajat alkavat hämärtyä, ja jälkimmäiselle annetaan rahallinen arvo – mikä ei ole helppoa.

Ehkä suurin osoitus siitä, että tekoäly on muuttumassa kuluttajien silmissä punaiseksi lipukkeeksi, on Appleen vastaanotettu lauhtainen, ellei suoraan varovainen, julkisen vastaanotto sen alkuperäisestä tekoälyjulkaisusta, erityisesti datajakosopimuksissa OpenAI: n kanssa.

Osittaiset ratkaisut

On askelia, joita lainsäätäjät, kehittäjät ja yritykset voivat ottaa generatiivisen tekoälyn aiheuttamien yksityisyyden riskejä vähentämiseksi. Nämä ovat erityisiä ratkaisuja tiettyihin osiin laajempaa ongelmaa. Kukaan näistä ratkaisuista ei ole riittävä itsessään, mutta kaikki yhdessä voivat tehdä merkittävän eron.

• Dataa vähennetään. Dataa kerätään ja tallennetaan vähennetään. Tämä on järkevä tavoite, mutta se on suoraan vastakkainen generatiivisen tekoälyn kehittäjien halua kohtaan koulutusdataa.
• Avoinheitto. Tällä hetkellä olevan tietotekniikan kehitystasolla tämä saattaa olla mahdotonta teknisesti useissa tapauksissa. Näkyvyys siitä, mitä dataa prosessoidaan ja miten generoitaessa tiettyä tulostetta, on yksi tapa varmistaa yksityisyyden suojelu generatiivisessa tekoälyvuorovaikutuksessa.
• Anonyymityys. Kaikki henkilökohtaiset tiedot, joita ei voida poistaa koulutusdatasta (dataa vähentämällä), tulisi anonyymisoida. Ongelma on, että monet suositut anonyymisointi- ja pseudonyymisointitekniikat voidaan helposti voittaa.
• Käyttäjien suostumus. Käyttäjien on vaadittava suostumus heidän tietojensa keräämiselle ja jakamiselle on olennainen, mutta se on liian avoin väärinkäytölle ja kuluttajien tyynnyttelylle, jotta se olisi tehokas. Tarvitaan tietoista suostumusta, ja useimmat kuluttajat, oikein informoiduina, eivät suostuisi tällaiseen datajakoon, joten kannustimet ovat väärässä suhteessa.
• Tietojen suojaaminen siirrossa ja levossa. Tietojen suojaaminen kryptografisin ja muiden keinoin on aina tehostettavissa. Generatiiviset tekoälyjärjestelmät kuitenkin vuotavat dataa käyttöliittymien kautta, mikä tekee tästä vain osan ratkaisusta.
• Immateriaalioikeuden ja tekijänoikeuden noudattaminen tekoälykontekstissa. Tekoäly toimii “mustassa laatikossa”, mikä tekee vaikeaksi, ellei mahdotonta, jäljittää, mihin tekijänoikeuksien ja immateriaalioikeuksien materiaalia päätyy mihinkin generatiiviseen tekoälytulokseen.
• Tarkastukset. Toinen tärkeä varmistus, jota estää LLM: n ja generatiivisen tekoälyjärjestelmän “musta laatikko” -luonne. Tähän sisältyy myös useimpien generatiivisten tekoälytuotteiden suljettu lähdekoodi, mikä rajoittaa tarkastukset vain niihin, jotka kehittäjä suorittaa.

Kaikki nämä lähestymistavat ongelmaan ovat päteviä ja tarpeellisia, mutta mikään niistä ei ole riittävä. Ne vaativat lainsäädännöllistä tukea, jotta ne voisivat tulla merkittäviksi, mikä tarkoittaa, että ne ovat tuomittuja jäämään jälkeen, kun tämä dynaaminen ala jatkaa kehittymistään.

Selkeä ratkaisu

Ratkaisu generatiivisen tekoälyn aiheuttamiin yksityisyyden riskeihin ei ole vallankumouksellinen eikä jännittävä, mutta sen loogiseen johtopäätökseen vievänä se voi olla kumminkin. Selkeä ratkaisu sisältää arkisten kuluttajien tulevan tietoisiksi siitä, miten arvokasta heidän data on yrityksille ja miten arvokasta yksityisyydensuojaa on itselleen.

Kuluttajat ovat lähtökohta ja moottori henkilökohtaisen datan taakse, joka ajaa modernia valvontataloutta. Kun kriittinen määrä kuluttajia alkaa hillitä henkilökohtaisten tietojen virtausta julkiseen sfääriin ja alkaa vaatia vastuuta yrityksiltä, jotka kauppaavat henkilökohtaisilla tiedoilla, järjestelmä korjaa itsensä.

Rohtimuistutus generatiivisesta tekoälystä on, että toisin kuin nykyiset mainonta- ja markkinointimallit, se ei välttämättä vaadi henkilökohtaisia tietoja missään vaiheessa. Esikoulutus- ja hienosäätödata ei välttämättä sisällä henkilökohtaisia tietoja, eikä käyttäjien tarvitse paljastaa niitä vuorovaikutuksissaan generatiivisen tekoälyjärjestelmien kanssa.

Poistaakseen henkilökohtaiset tiedot koulutusdatasta, ihmiset voivat mennä suoraan lähteeseen ja poistaa profiilinsa eri datakauppiailta (mukaan lukien ihmisten hakusivut), jotka keräävät julkisia tietoja ja saattavat ne markkinoille. Henkilökohtaisten tietojen poistopalvelut automatisoivat prosessin, tekevät sen nopeaksi ja helppokäyttöiseksi. Tietenkään poistamalla henkilökohtaiset tiedot näiden yritysten tietokannoista on monia muita hyötyjä ja ei ole haittoja.

Ihmiset myös luovat henkilökohtaisia tietoja vuorovaikutuksissaan ohjelmistojen kanssa, mukaan lukien generatiivinen tekoäly. Hillitääkseen tämän datavirran käyttäjien on oltava tietoisia siitä, että heidän vuorovaikutuksensa tallennetaan, tarkastellaan, analysoidaan ja jaetaan. Heidän vaihtoehdoensa välttääksesi tämän ovat rajoittaa sitä, mitä he paljastavat online-järjestelmille, ja käyttää laitteiston päällä olevia avoimia LLM: iä, missä tahansa mahdollista. Ihmiset, yleensä ottaen, tekevät jo hyvän työn säätelemällä sitä, mitä he keskustelussa julkisesti – meidän tarvitsee vain laajentaa näitä vaistoja generatiivisen tekoälyn alueelle.