Vaishnav Anand, Teknologia Demystified: Kyberturva – Haastattelusarja

Seitsemänentoista vuoden ikäinen, athenalainen koulun opiskelija, Vaishnav Anand, on kehittänyt ensimmäisen tekoälyjärjestelmän, joka pystyy havaitsemaan “geospatial deepfake”-satelliittikuvia, jotka voivat peittää sotilasalueita, väärentää luonnonvarojen esiintymisiä tai vääristää onnettomuustietoja, aiheuttaen riskejä kansallisen turvallisuuden ja globaalin vakauden kannalta. Koska julkisia tietoja tällaisen havaitsemisen kannalta ei ole saatavilla, Anand on luonut oman syntetisen kuvamateriaalin Generative Adversarial Networks -menetelmällä, kouluttanut malleja alusta alkaen ja soveltaa parhaillaan difuusiomenetelmiä tarkkuuden parantamiseksi. Hänen tutkimuksensa on jo esitetty Esri International User Conference -tapaamisessa ja Cambridgen yliopistossa, ja hän on saanut tunnustusta Esrin puheenjohtajalta Jack Dangermondilta.

Anandin työ tekoälyn turvallisuuden parissa on johtanut kahteen kyberturvaan liittyvään kirjaan, jotka on otettu käyttöön yksityiskouluissa, ja hänen viimeisin teoksensa, Teknologia Demystified: Kyberturva: Modernin Kyberturvan Perusperiaatteet, on saanut 5,0-tähden arvostelun. Kirja selittää monimutkaisia aiheita, kuten kalastelua, haittaohjelmia, palomuureja ja salaamista, selkeinä ja käytännöllisinä opetuksina opiskelijoille, opettajille ja kaikille, jotka ovat kiinnostuneita digitaalisesta turvallisuudesta. Tekemällä kyberturvan helposti lähestyttäväksi ja mielenkiintoiseksi, Anand vakiinnuttaa itsensä innovaattorina tekoälyssä ja nousevana äänena koulutuksessa ja teknologiassa.

Olet vielä lukiossa, mutta jo vaikuttamassa tekoälyyn ja kyberturvaan. Mitä sinut alun perin kiinnosti tässä alalla, ja miten aloit siirtymisen kehittämään näin edistyneitä projekteja nuorena?

Se, mikä minua alun perin kiinnosti tässä alalla, oli tekoälyn kaksijakoinen luonne. Se tarjoaa uskomattoman potentiaalin, mutta se voi myös aiheuttaa vahinkoa. Minulla oli suora kokemus deepfake-tekniikasta, joka muutti näkemykseni. Nähdessäni, miten syntetinen media voi vakavasti satuttaa nuoria, tajusin, että tämä on enemmän kuin pelkästään tekninen uteliaisuus; se on kriittinen yhteiskunnallinen ongelma, joka vaatii enemmän ymmärtämystä.

Tutkimukseni ei alkanut suuresta suunnitelmasta, vaan uteliaisuudesta. Jokainen kysymys, johon tutustin, johti seuraavaan, luoden löytöjen kierron. Huomasin olevani kiinnostunut yhä monimutkaisemmista ongelmista. En etsinyt tunnustusta; olin aidosti kiinnostunut kysymyksistä.

Siirryin yksilöllisestä tutkimisesta merkittäviin tutkimuksiin verkostoitumisen ja määrätietäisyyden kautta. Aloin ottaa yhteyttä vakiintuneisiin tutkijoisiin, joiden työtä ihailin, pääasiassa LinkedInin kautta. Vaikka monet eivät vastanneet, onneksi pääsin yhteyteen kahden tutkijan kanssa, jotka keskittyivät tekoälyn turvallisuuteen ja deepfake-havaitsemiseen. He aloittivat minut pienillä tehtävillä suuremmissa tutkimushankkeissaan. Kun osoitin luotettavuuteni ja oivallukseni, nämä tehtävät muuttuivat merkittävimmiksi.

Tämä mentorointi oli elämänmuuttavaa. Kokemattomien tutkijoiden ohjaus auttoi minua muuttamaan uteliaisuuteni tarkoitukselliseksi työksi. Inherentti motivaationi, heidän johdatuksensa ja jatkuva ponnisteluni muuttivat vähitellen epävirallisen kiinnostukseni merkittäviksi tutkimuspanostuksiksi. Se vahvisti uskoani, että todellinen edistys usein tulee ei-dramaattisista läpimurroista, vaan tärkeiden ongelmien jatkuvaan sitoutumiseen.

Useimmat ihmiset ajattelevat deepfake-kuvia kasvojen tai äänien muokkauksena. Mitä sinua inspiroi tutkimaan geospatial deepfake-kuvia erityisesti, ja miksi näet tämän niin kriittisenä sokeana pisteena?

Kun useimmat ihmiset kuulevat sanan “deepfake”, he ajattelevat väärennettyjä julkkisvideoita tai muokattuja ääniä. Minäkin ajattelin niin aluksi. Mutta kun opin enemmän, aloin miettiä, missä muualla tämä teknologia voisi olla käytössä tavalla, jota emme välttämättä huomaa. Silloin tajusin, että satelliittikuvat usein käsitetään täysin luotettaviksi. Hallitukset, yritykset ja jopa hätätilannejoukkueet tekevät merkittäviä päätöksiä niiden perusteella.

Tämä näytti sokealta pisteeltä. Jos väärennetty video voi vahingoittaa mainetta, väärennetty kartta tai muokattu satelliittikuva voi johtaa todellisiin maailmanlaajuisiin seurauksiin. Puolustus ja sota ovat yhä enemmän riippuvaisia tekoälyjärjestelmistä, drooneista ja automaattisesta päätöksenteosta, joten riskit kasvavat. Muokattu satelliittisignaali voi pettää ei vain ihmisiä, vaan myös koneita.

Se, mikä minua iski enemmän, oli, että geospatial deepfake-kuvat saavat paljon vähemmän huomiota kuin kasvo- tai äänideepfake-kuvat. Julkisia tietoja tai standardityökaluja niiden havaitsemiseksi ei ole. Lisäksi satelliittikuvien väärennösten havaitseminen on paljon haasteellisempaa. Et vain etsi ongelmia kuten huulien liikkeen epätarkkuutta tai ääniongelmia. Satelliittikuvat koostuvat hienoisista tekstuureista ja spektrinäkymistä maisemista, viljelymaista, valtameristä ja kaupungeista. Nämä kuviot ovat vaikeampia havaita ja vaativat toisenlaista lähestymistapaa.

Voi kuvailla prosessisi, jossa havaitset väärennettyjä satelliittikuvia, ja miten ne voivat aiheuttaa kansallisen turvallisuuden, taloudellisen ja hätätilannevastaisen riskin?

Käänteisenäni tuli, kun kohtasin deepfaken, joka ravisteli uskoani siihen, mitä näen. Se epäily hetki paljasti minulle jotain tärkeää: ihmiset luottavat visuaaliseen todistusaineistoon, ja kun tämä luottamus on murtunut, se muuttaa, miten meidän on katsoa kaikkea. Kokemus sai minut tuntemaan, kuinka haavoittuvia me kaikki olemme taitavalle petokselle.

Aluksi, kuten useimmat ihmiset, keskityin ilmeisiin käyttökohteisiin – deepfake-videoihin ja muokattuihin kasvoihin. Varhaiset havaitsemishankkeeni antoivat minulle olennaisen ymmärryksen siitä, miten nämä teknologiat toimivat, mutta ne myös osoittivat minulle laajemmat vaikutukset, joita en ollut aiemmin käsittänyt.

Todellinen silmänavaus tuli, kun toimin National 4-H GIS -johtoryhmän apulaisjohtajana. Työskennellessäni geospatiaalisten tietojen ja satelliittikuvien parissa näin, miten nämä näennäisesti objektiiviset lähteet ohjaavat tärkeitä päätöksiä. Seurasin, miten kartat ohjasivat hätätilannevastauksia, muotoilivat ympäristöpolitiikkaa ja vaikuttivat useiden miljoonien dollarien arvoisiin yhteisösuunnitteluhankkeisiin. Se, mikä minua yllätti eniten, oli luottamus tähän tietoon – se käsitetään ehdottoman totuutena.

Silloin kaikki selkeni. Jos väärennetty video voi aiheuttaa emotionaalista häiriötä ja sosiaalista levottomuutta, väärennetty satelliittikuva voi johtaa kohtalokkaisiin todellisiin maailmanlaajuisiin seurauksiin. Mieti, mitä tapahtuisi, jos hätätilannejoukkueita ohjattaisiin väärennetyille onnettomuusalueille, hallitukset tekisivät päätöksiä virheellisten ympäristötietojen perusteella tai talousmarkkinat vaikuttaisivat muokattuihin maatalousraportteihin. Mahdollinen vahinko oli hämmästyttävä.

Tämä yhdistelmä deepfake-tutkimuksestani ja GIS-kokemuksestani paljasti aukon yhteisessä tietoisuudessamme. Vaikka maailma keskustelee kasvojen vaihtamisesta ja syntetisistä medioista, geospatial deepfake-kuvien paljon suurempi uhka on suurelta osin huomiota vailla. Tämä tajunta muodosti tutkimukseni kulun – ratkaisemalla vakavan haavoittuvuuden, joka voisi muuttaa, miten ymmärrämme totuuden datavetoisessa maailmassamme.

Tutkimuksesi käyttää Generative Adversarial Networks (GAN) -tekniikkaa väärennettyjen satelliittikuvien havaitsemiseen. Kuinka järjestelmäsi toimii, ja mitä tekee siitä erilaisen verrattuna yleispäteviin deepfake-havaitsemiin?

Useimmat nykyiset havainnontekijät on suunniteltu kasvojen tai äänien tunnistamiseen. Ne etsivät ongelmia kuten epätarkkoja huulien liikkeitä tai ääniongelmia. Satelliittikuvat ovat hyvin erilaisia. Ne koostuvat hienoisista tekstuureista ja spektrinäkymistä maisemista, viljelymaista, valtameristä ja kaupungeista. Nämä kuviot ovat vaikeampia havaita ja vaativat toisenlaista lähestymistapaa.

Alkuperäisessä hankkeessani koulutin GAN-runkoja SpaceNet-7 -aineistolla, joka koostuu todellisista satelliittikuvista. Generaattori oppii muuttamaan satunnaisen melun todellisemmaksi satelliittikuvaksi. Se havaitsee monimutkaiset kuviot, jotka ovat ominaisia todellisille geospatiaalisille tiedoille.

Tällä hetkellä tutkin difuusiomalleja generaattoreina. Nämä edustavat merkittävää parannusta GAN-malleihin kuvanlaadun suhteen. Diffuusiomallit kuten DDPM ja DDIM luovat erittäin realistisia satelliittikuvia oppimalla kääntämään melun lisäämisen prosessia. Syntetiset kuvat, joita ne tuottavat, ovat usein selkeämpiä ja yksityiskohtaisempia kuin ne, jotka GAN-mallit tuottavat. Tämä tarjoaa sekä mahdollisuuksia että haasteita. Vaikka nämä mallit voivat tarjota parempaa koulutusdataa havaintojärjestelmille, ne tuottavat myös edistyneempiä väärennöksiä, jotka ovat vaikeampia havaita.

Vertailen parhaillaan eri havaitsemismenetelmiä, joilla voitan määrittää, mitkä niistä ovat tehokkaimpia eri generointitekniikkoja vastaan. Tämä sisältää perinteisiä CNN-pohjaisia luokittelijoita, transformer-pohjaisia arkkitehtuureja, jotka voivat havaita pitkän aikavälin suhteita satelliittikuvissa, ja hybridi-menettelyjä, jotka yhdistävät spektrianalyysin syvään oppimiseen. Jokaisella menetelmällä on omat vahvuutensa: CNN:t ovat hyviä paikallisten tekstuuri-ongelmien havaitsemisessa, transformerit voivat havaita suurempia rakenteellisia ongelmia kuvien alueilla, ja spektrianalyysi voi tunnistaa hienoja taajuusmerkintöjä, joita neuroniverkot saattavat jättää huomiotta.

Mielenkiintoinen näkökohta on, miten eri generaattorit jättävät yksilöllisiä jälkiä. GAN:ien tuottamat kuvat usein sisältävät tiettyjä virheitä korkeataajuisissa yksityiskohdissa ja reunoissa, kun taas diffuusiogeneraattorien tuottamat kuvat osoittavat usein hienompia epäjohdonmukaisuuksia koko kuvan yleisessä koherenssissa ja spektriominaisuuksissa. Kouluttamalla havaintomalleja sekä GAN- että diffuusiogeneraattoreiden tuottamille väärennöksille, saan syvemmän ymmärryksen syntetisen satelliittikuvan ominaispiirteistä. Tämä auttaa kehittämään havaintojärjestelmiä, jotka voivat sopeutua generointiteknologian kehittyessä.

Tämä monimutkainen lähestymistapa havaitsemiseen on olennainen. Koska generatiiviset mallit kehittyvät, tarvitsemme havaintojärjestelmiä, jotka eivät riipu virheistä yhdestä generointimenetelmästä. Tavoitteena on tunnistaa perustavanlaatuiset tilastolliset ominaisuudet, jotka erottavat aitoa satelliittikuvaa mistä tahansa syntetisestä muodostumasta, riippumatta siitä, mitä teknologiaa niiden luomiseen käytetään.

MIT URTC -tutkimuksessasi mainitset saavuttaneesi noin 88 prosentin tarkin havainnin aidoista satelliittikuvista ja väärennöksistä. Mitkä olivat avainläpimurrot, jotka mahdollistivat tämän suorituskyvyn?

Avainläpimurroksi osoittautui se, että yhtään olemassa olevaa tietoa ei ollut saatavilla väärennettyjen satelliittikuvien kouluttamiseen. Tämä pakotti minut kehittämään kaksiosaisen lähestymistavan, työskentelemään sekä generoinnin että havainnin osalla samanaikaisesti. Luomin oman syntetisen aineiston GAN-malleilla ja koulutin diskriminaattoreita tällä aineistolla. Tämä mahdollisti minun kehittää järjestelmää, joka todella ymmärtää aidoissa geospatiaalisissa tiedoissa olevat tilastolliset kuviot.

Toinen tärkeä oivallus oli tunnistaa, että satelliittikuvat sisältävät haasteita, jotka poikkeavat kasvojen deepfake-kuvien haasteista. Kasvot sisältävät yleensä vakiintuneita anatomisia rakenteita, kun taas satelliittikuvat kattavat laajan valikoiman maastotyyppejä – kaiken viljelymaista urbaaneihin suunnitelmiin ja luonnollisiin maisemiin. Minun piti luoda havaintojärjestelmä, joka pystyy tunnistamaan aitoja piirteitä kaikissa näissä eri ympäristöissä.

Tämä erikoistunut menetelmä, joka ei riipu yleispätevistä havainnoista, mahdollisti mallin oppimisen hienoja spektrinäkymien ja tekstuuri-epäjohdonmukaisuuksien eroja, jotka paljastavat syntetisen satelliittikuvan. Kuitenkin nykyinen tutkimukseni diffuusiomalleilla osoittaa paljon parempia tuloksia, saavuttaen korkeamman tarkin ja osoittaen parempaa kestävyyttä edistyneitä generointitekniikoita vastaan.

Kuinka luot oman syntetisen kuvamateriaalin koulutukseen, koska julkisia tietoja geospatial deepfake -havainnosta ei ole?

Syntetisen aineiston luominen vaati monimutkaisen GAN-rakenteen kehittämistä, joka oli koulutettu SpaceNet-7 -aineistolla, joka koostuu todellisista satelliittikuvista. Generaattori oppi muuttaa satunnaisen melun realistisemmaksi satelliittikuvaksi. Se sai kiinni monimutkaiset kuviot, jotka ovat ominaisia todellisille geospatiaalisille tiedoille.

Prosessi muistuttaa taitavan väärentäjän ja koulutetun tarkastajan välistä kilpailua. Generaattori jatkaa parantamista syntetisissä kuvissa, kun taas diskriminaattori parantaa kykyään havaita hienoja merkkejä väärennöksestä. Tämä kaksisuuntainen koulutusprosessi luo kierron, jossa molemmat osapuolet pyrkivät parantamaan suorituskykyään. Kontrolloimalla sekä generointi- että havaintiprosesseja, saan olennaisen ymmärryksen siitä, miten syntetinen satelliittikuva luodaan.

Mitälaisia poikkeamia – spektrinäkymien, tekstuuri- tai muita – järjestelmäsi tunnistaa, kun erottaa aitoja ja muokattuja kuvia?

Toisin kuin kasvojen deepfake-kuvissa, joissa ongelmat kuten epäluonnollinen silmien vilkunta tai huulien liikkeen epätarkkuus ovat yleensä helppoja havaita, satelliittikuvien ongelmat ovat paljon hienompia. Järjestelmäni tunnistaa spektrinäkymien epäjohdonmukaisuuksia, joissa vuorovaikutus eri sähkömagneettisten taajuuksien välillä ei vastaa maan havaintodataa. Se myös havaitsee tekstuuri-epäjohdonmukaisuuksia, kuten viljelymaan, joka näyttää liian yhdenmukaiselta, valtameren pinnan, jolta puuttuvat luonnolliset aallot, tai urbaanien tekstuureja, joissa on keinotekoisia toistuvia kuvioita.

Kontekstuaaliset poikkeamat lisäävät toisen tason havainnolle. Nämä sisältävät esimerkiksi tiieverkkoja, jotka eivät seuraa luonnollisia maastonmuotoja, viljelysuunnitelmia, jotka ignoroivat todelliset viljelyrajoitukset, tai urbaaneja kehitysmallien, jotka eivät noudatta tyypillistä kaupungin kasvumallia. Nämä ongelmat saattavat paeta silmien havainnon, mutta ne luovat selkeät tilastolliset signaalit, joita malli voi tunnistaa.

Järjestelmällä on kuitenkin rajoituksia monimutkaisissa kuvissa. Tiheät urbaanit alueet, joilla on päällekkäisiä rakenteita, tai satelliittikuvat, jotka ovat vaikuttaneet merkittävästi ilmakehän häiriöistä, voivat vähentää havainnon tarkkuutta. Nämä reunatapaukset osoittavat alueita, jotka vaativat lisätutkimusta ja mallin parantamista.

Mitä seuraavaa odotetaan tämän tutkimuksen suhteen, ja mitä näet seuraavana suurena askeleena tässä suunnassa?

Vaikka GAN-pohjainen tutkimukseni osoitti, että voimme havaita satelliittikuvien väärennökset tarkin, olen oppinut, että hyvät laboratoriotulokset eivät takaa menestystä todellisessa maailmassa. Syntetinen kuva-aineisto usein ei vastaa kuvamalleja, joille havaintomallit on koulutettu, ja generatiiviset teknologiat kehittyvät nopeasti.

Seuraava vaihe keskittyy kehittämään vahvoja, sopeutuvia järjestelmiä, jotka toimivat hyvin vaihtelevissa olosuhteissa. Tämä edellyttää parempia arviointimenetelmiä, jotka jäljittelevät syntetisen kuvan käytön epävarmuutta todellisessa maailmassa. Tarvitsemme myös käytännöllisiä työkaluja, kuten kevyitä selainlaajennuksia, reaaliaikaisia API:ja ja integraatiokeskuksia, joilla voidaan auttaa tärkeissä päätöksenteon prosesseissa.

Nykyinen tutkimussuuntani korostaa sopeutuvuutta ja käytännön soveltamista. En yritä vain parantaa mallin tarkkuutta kontrolloiduissa ympäristöissä. Pyrin suunnittelemaan havaintojärjestelmiä, jotka voivat pysyä luotettavina, kun generatiiviset tekniikat muuttuvat. Haluan tarjota käyttökelpoisia työkaluja hallituksille, yrityksille ja yhteisöille, jotka riippuvat luotettavasta geospatiaalisesta tiedosta.

Geospatiaalisten tietojen ulkopuolella tutkimuksesi kattaa myös videodeepfake-kuvat, reaaliaikaisen äänen todennuksen ja tekoälyn harhan aiheuttamat ongelmat lainoissa. Kuinka valitset, mitkä eettiset haasteet otat seuraavaksi?

Tutkimussuuntani ei johdu trendeistä; se keskittyy löytämään kriittisiä haavoittuvuuksia järjestelmissä, joissa ihmiset asettavat perustavanlaatuista luottamusta. Jokainen projekti alkaa tunnistamalla tiettyjä kohtia, joissa luottamus voidaan heikentää, johtaa vakaviin seurauksiin.

Deepfake-tutkimukseni alkoi henkilökohtaisesta kokemuksesta, joka osoitti, miten syntetinen media voi vahingoittaa henkilön luottamusta visuaaliseen todistusaineistoon. Työskenteleminen National 4-H GIS -johtoryhmän kanssa korosti, kuinka paljon ihmiset luottavat satelliittikuvien tietoihin hätätilannevastauksissa ja päätöksenteossa. Tämä yhteys johti geospatial deepfake -tutkimukseen, jossa panokset ovat potentiaalisesti hyvin korkeat.

Tämä malli koskee myös äänen todennusta. Mietin, miten syntetisiä hätätilannepuheluita voidaan käyttää 911-järjestelmiin. On myös ongelma tekoälyn harhaisuudesta lainoissa, jossa algoritmien syrjintä voi evätä mahdollisuuksia koko yhteisöiltä. Jokainen näistä alueista heijastaa tärkeää luottamussuhdetta ihmisten ja teknologian välillä, jota on suojattava.

Tutkin, missä teknologia kohtaa sosiaalisen haavoittuvuuden, keskittyen tutkimukseen, joka voi estää luottamuksen murtumisen ennen kuin ne muuttuvat laajoihin kriiseihin.

Olet julkaissut myös Teknologia Demystified: Kyberturva -kirjan, joka on otettu käyttöön koulussa. Mikä motivoi sinua kirjoittamaan tämän kirjan, ja miten teet teknisestä aineistosta helposti lähestyttävää opiskelijoille ja opettajille?

Kirja syntyi suoraan deepfake-tutkimuksestani. Se osoitti minulle, kuinka tärkeää on digitaalinen lukutaito nuorille, jotka kohtaavat monimutkaisemman teknologian maailman. Kyberturva vaikutti oikealta aloituskohteelta, koska se vaikuttaa jokaisen elämään, riippumatta heidän teknistä osaamistaan tai urapyrkimyksistään.

Kohdistin kirjoitukseni opiskelijoille, jotka ovat vain muutamia vuosia nuorempia kuin minä. Mitä olisi auttanut minua ymmärtämään kybertuhkia, kun aloitin opiskelun. Järjestin sisällön tarinoita, vertailuja ja visuaalista materiaalia käyttäen, sekä interaktiivisia tehtäviä ja reflektiivisiä kysymyksiä. Nämä työkalut tekevät vaikeat ideat helpommin ymmärrettäviksi.

On ollut erityisen merkittävää nähdä, miten lukio-ohjelmat, koulukirjastot ja kansalaisjärjestöt, jotka palvelevat vähemmistöopiskelijoita, ovat omaksuneet kirjan. Halusin luoda resurssin, joka avaa ovia opiskelijoille, jotka muuten saattaisivat tuntea olevansa suljettuina kyberturva-keskusteluista.

Keskittyminen kyberturvaan loi perustan digitaalisen turvallisuuden periaatteille ennen kuin seuraava kirjani käsittelee tekoälyä ja deepfake-kuvia, jotka ovat minun pääasiallinen tutkimusaihe. Opiskelijoiden on opittava perustavanlaatuiset turvallisuusperiaatteet ennen kuin he perehtyvät hankaliin eettisiin kysymyksiin, jotka liittyvät tekoälyyn.

Kirjassa käsittelet uhkia kalastelusta ransomwareen. Mitä luulet olevan yksi tärkein kyberturva-periaate, jonka nuoret tulisi ymmärtää tänään?

Tärkein periaate on “luota ja tarkista”. On olennaista kehittää tapa kyseenalaistaa digitaalista tietoa ennen toimintaa. Useimmat onnistuneet kyberhyökkäykset hyödyntävät enemmän ihmisten luottamusta kuin monimutkaisia teknisiä heikkouksia. Riippumatta siitä, onko kyse epäilyttävistä linkeistä, tuntemattomien tiedostojen lataamisesta tai viesteistä, jotka näyttävät tutuilta, pysähtyminen ja tarkistaminen voi estää monia hyökkäyksiä.

Nuorille, jotka viettävät paljon aikaa verkossa ja nopeasti siirtyvät eri alustoilla, tämä varovaisuus on erityisen tärkeää. Muodostamalla tarkistamisen tapa, joka suojaa monia uhkia, luo puolustusasenteen, joka suojelee monia uhkia.

Tämä periaate ulottuu kyberturvan yli ja kattaa laajemman digitaalisen lukutaidon. Samat kriittiset ajattelutaidot, jotka suojaavat haittaohjelmilta, auttavat myös tunnistamaan virheellistä tietoa, deepfake-kuvia ja muita digitaalisen petoksen muotoja.

Vuosien varrella olet julkaissut useita tutkimuksia, osallistunut STEM-koulutusaloitteisiin ja julkaissut kirjoituksia. Miten toivot muokata tekoälyn turvallisuuden ja vastuullisen innovaation tulevaisuutta?

Kaikki, mitä teen, keskittyy rakentamaan ja ylläpitämään luottamusta teknologiaan. Tekoäly voi saavuttaa täyden potentiaalinsa vain, jos ihmiset uskovat näiden järjestelmien turvallisuuteen, reiluuteen ja avoimuuteen. Ilman tätä luottamusta, jopa mullistavat teknologiat kamppailevat saadakseen hyväksynnän ja käytön.

Tutkimukseni pyrkii löytämään avainhaavoittuvuudet ennen kuin ne muuttuvat laajoihin ongelmiin. Työskentelen alueilla kuten geospatial deepfake-kuvissa ja äänen todennuksessa, joissa riskit eivät aina ole ilmeisiä, mutta voivat johtaa vakaviin seurauksiin. Koulutuksen ja kirjoittamisen kautta haluan auttaa opiskelijoita ymmärtämään nämä järjestelmät, sen sijaan, että he pitävät teknologiaa salaperäisenä mustana laatikkoa, joka on varattu asiantuntijoille.

Näkyni vastuullisesta innovaatiosta sisältää turvallisuuden ja reiluuden jo varhaisimmassa kehitysvaiheessa, ei vasta jälkikäteen. Tämä tarkoittaa, että arvioimme malleja niiden suorituskyvyn lisäksi myös mahdollisista epäonnistumisen kohdista, tunnistamme, ketkä voivat olla vaarassa, ja kehitämme strategioita vähentämään näitä riskejä.

Pitkällä aikavälillä haluan auttaa luomaan kulttuuria, jossa jokainen tekoälykeksintö saa yhtä paljon huomiota turvallisuuden ja vastuullisuuden suhteen. Työni kattaa tutkimuksen, koulutuksen ja viestinnän, koska riskien löytäminen on vain hyödyllistä, jos voimme myös auttaa muita ymmärtämään ja ratkaisemaan ne.

Jos voin auttaa tunnistamaan kriittisiä haavoittuvuuksia ja samalla lisätä teknologisen lukutaidon, uskon, että vaikutan tekoälyn tulevaisuuteen, jota ihmiset voivat todella luottaa ja hyötyä.

Kiitos haastattelusta, lukijoita kehotetaan lukea Teknologia Demystified: Kyberturva: Modernin Kyberturvan Perusperiaatteet.