Tekoälyselaimen työkalut pyrkivät tunnistamaan deepfake- ja muut väärennettyä mediaa

Teknologiayritysten pyrkimykset torjua väärää tietoa ja väärennettyä sisältöä ovat lisääntyneet viime aikoina, kun kehittyneet väärennösTeknologiat, kuten DeepFakes, ovat helpompia käyttää ja tarkemmin kehitettyjä. Yksi tuleva yritys auttaa ihmisiä tunnistamaan ja taistelemaan deepfakeja vastaan on RealityDefender, jota tuottaa AI-säätiö, joka on sitoutunut kehittämään eettisiä tekoälyagentteja ja avustajia, joita käyttäjät voivat kouluttaa eri tehtäviin.

AI-säätiön merkittävin projekti on alusta, joka mahdollistaa ihmisten luominen omia digitaalisia hahmoja, jotka näyttävät heiltä ja edustavat heitä virtuaalisissa tapaamisissa. AI-säätiötä valvoo Global AI Council, ja sen tehtävänä on ennakoida mahdolliset negatiiviset vaikutukset tekoälyalustoista ja yrittää päästä ongelmien eteen. VentureBeatin mukaan yksi työkalu, jonka AI-säätiö on luonut väärennetyn sisällön havaitsemiseen, on nimeltään Reality Defender. Reality Defender on työkalu, jonka henkilö voi käyttää selaimessaan, joka analysoi videoita, kuvia ja muita medioita havaitakseen merkkejä siitä, että mediaa on väärennetty tai muokattu jollain tavoin. Toivotaan, että työkalu auttaa vastustamaan väärennetyn sisällön kasvavaa virtausta internetissä, joka on kaksinkertaistunut viime kuuden kuukauden aikana.

Reality Defender toimii hyödyntämällä useita tekoälypohjaisia algoritmeja, jotka voivat havaita vihjeitä siitä, että kuva tai video on väärennetty. Tekoälymallit havaitsevat hienot merkit huijaamisesta ja manipuloinnista, ja väärät positiiviset tulokset, joita malli havaitsee, merkitään vääräksi työkalun käyttäjien toimesta. Tiedot käytetään sitten mallin uudelleenkoulutukseen. Tekoälyyritykset, jotka luovat ei-petollisia deepfakeja, merkitsevät sisällön “rehellinen tekoäly” -tagilla tai vesileimalla, joka mahdollistaa ihmisten helposti tunnistaa tekoälyllä luodut väärennökset.

Reality Defender on vain yksi työkaluista ja koko tekoälyvastuualustasta, jonka AI-säätiö yrittää luoda. AI-säätiö pyrkii luomaan Guardian AI -vastuualustan, joka perustuu sille periaatteelle, että yksilöillä tulisi olla pääsy henkilökohtaisiin tekoälyagenteihin, jotka työskentelevät heidän puolestaan ja jotka voivat auttaa suojelemaan heitä pahantahtoisten toimijoiden hyväksikäytöltä. Periaatteessa AI-säätiö pyrkii laajentamaan tekoälyn ulottuvuutta yhteiskunnassa, saattaen sen useammalle ihmiselle, samalla suojelemalla tekoälyn riskejä vastaan.

Reality Defender ei ole ainoa uusi tekoälyohjattu tuote, joka pyrkii vähentämään väärää tietoa Yhdysvalloissa. Samankaltainen tuote on nimeltään SurfSafe, jonka loivat kaksi UC Berkeley -yliopiston opiskelijaa, Rohan Phadte ja Ash Bhat. The Vergeen mukaan SurfSafe toimii sallimalla käyttäjien napsauttaa medialle, josta he ovat uteliaita, ja ohjelma suorittaa käänteisen kuvahakuja ja yrittää löytää vastaavaa sisältöä luotettavista lähteistä internetissä, merkitsemällä kuvat, jotka on tiedetty väärennetyiksi.

On epäselvää, kuinka tehokkaita nämä ratkaisut ovat pitkällä aikavälillä. Dartmouth College -professori ja oikeustieteiden asiantuntija Hany Farid on lainannut The Vergeä sanomalla, että hän on “erittäin epäilevä” siitä, että järjestelmät kuten Reality Defender toimisivat merkittävällä tavoin. Farid selitti, että yksi haasteista väärennetyn sisällön havaitsemisessa on, että mediaa ei voi jakaa yksinkertaisesti väärennetyksi tai aidoiksi. Farid selitti:

“On jatkumo; erittäin monimutkainen joukko ongelmia, joita on ratkottava. Jotkut muutokset ovat merkityksettömiä, ja jotkut muuttavat perustavanlaatuisesti kuvan luonteen. Yrittääksemme kouluttaa tekoälyä tunnistamaan ero on äärimmäisen viattomasti. Ja yrittääksemme ulkoistaa sen on vielä enemmän viattomasti.”

Lisäksi on vaikea sisällyttää joukkorahoitusta, kuten väärän positiivisen merkitsemistä, koska ihmiset ovat yleensä hyvin huonoja tunnistamaan väärennettyjä kuvia. Ihmiset tekevät usein virheitä ja puuttuvat hienoja yksityiskohtia, jotka merkitsevät kuvan väärennetyksi. On myös epäselvää, kuinka käsitellä pahantahtoisia toimijoita, jotka trollaavat, kun he merkitsevät sisältöä.

On todennäköistä, että väärennösien havaitsemiseen tarkoitetut työkalut on yhdistettävä digitaaliseen lukutaitoon, joka opettaa ihmisiä, miten ajatella sisällöstä, jonka he kohtaavat internetissä.