Fins a on arribaran els Deepfakes?

A mesura que la intel·ligència artificial s'integra més profundament a la nostra vida diària, la tecnologia deepfake s'ha convertit en una preocupació creixent per a molts, especialment els aficionats a compartir moments personals a les xarxes socials. Tant si es tracta d'una sortida nocturna amb amics com d'un pícnic familiar a les Bahames, les fotos compartides a través de plataformes com Instagram, Facebook i Snapchat no estan necessàriament a salvo d'un possible mal ús.

Recentment, una jove de Corea va utilitzar les xarxes socials per expressar la seva angoixa per un vídeo fals fet com a acte de venjança. Al vídeo, semblava despullada. Va demanar apassionadament que s'eliminés el vídeo generat per IA i va instar l'individu a aturar-ne la distribució.

L'octubre de 2023, figures reconegudes com la copresentadora de CBS Mornings Gayle King, l'actor Tom Hanks i la personalitat de YouTube MrBeast van ser víctimes de vídeos deepfake no autoritzats que es van estendre per les plataformes de xarxes socials. Un altre vídeo amb la periodista de CNN Clarissa Ward a prop de la frontera entre Israel i Gaza va ser manipulat per posar en dubte el seu reportatge.

Aquests vídeos, creats amb tecnologia deepfake d'avantguarda, tenen el poder de substituir persones dins del contingut existent. La seva naturalesa realista és inquietant, i fa que molts creguin en la seva autenticitat. Això inclou Cançons generades per IA imitant estrelles famoses, algunes de les quals s'han convertit en capdavanteres.

Aquests esdeveniments han despertat preocupacions globals sobre el potencial d'humiliació pública, assetjament i xantatge, posant de manifest encara més el sinistre potencial dels deepfakes.

Per què la tecnologia Deepfake és més perillosa del que penses

L'augment d'incidents inquietants indica la urgència de mesures proactives contra els deepfakes. Actualment, no hi ha una llei universal que abordi els deepfakes o el contingut generat per IA no autoritzat, fins i tot als Estats Units. Tot i que no es poden eradicar completament, es poden prendre mesures de protecció.

Per als desconeguts, la tecnologia deepfake utilitza IA per crear imatges, vídeos o clips d'àudio realistes però fabricats. Aquesta tecnologia enganyosa va guanyar protagonisme al voltant del 2017 quan un usuari anònim de Reddit va introduir un algorisme per generar vídeos falsos realistes.

Tot i que inicialment destinat a l'entreteniment, l'educació o l'activisme, el ràpid avenç de la IA, juntament amb les capacitats deepfake, presenta una multitud de preocupacions ètiques i de seguretat. Això inclou:

1. Violació de la privadesa: una preocupació principal és l'ús no autoritzat de la semblança d'una persona. Els casos notables inclouen vídeos per adults falsificats de celebritats, que embruten la seva imatge. Per exemple, el 2017, va circular àmpliament un vídeo inadequat que representava falsament l'actriu Gal Gadot.
2. Desinformació i manipulació: Els deepfakes poden distorsionar les veritats, influint en l'opinió pública. Un exemple notable és un vídeo deepfake amb l'expresident Obama, creat per BuzzFeed i Jordan Peele. Tot i que està pensat com un PSA contra la desinformació, subratlla el potencial mal ús de la tecnologia.

1. Frau i xantatge: Aquesta tecnologia pot produir proves falses o enganyar mitjançant la duplicació de veu/imatge. Els delinqüents podrien utilitzar deepfakes per a l'extorsió o fins i tot el frau financer, com es va veure quan una empresa energètica del Regne Unit va ser enganyada perquè transferís una quantitat important, potencialment mitjançant deepfake de veu.
2. Biaix i discriminació: Les falsificacions profundes poden perpetuar o amplificar els prejudicis de la societat, possiblement tergiversant dades demogràfiques específiques.

Deepfakes: amenaces a la democràcia, les relacions i la identitat

Tot i que la tecnologia deepfake en si no és inherentment malèvola, el seu mal ús pot ser perjudicial. Pot distorsionar els resultats electorals, tensar les relacions personals i violar la identitat personal, tal com es mostra en programes d'entreteniment com "DeepFake Love" i "Clickbait" de Netflix.

Pensaments Finals

Els deepfakes estan transformant l'àmbit digital, obrint vies innovadores alhora que plantegen reptes ètics. L'absència de regulació global i d'eines de detecció efectives fa que aquest sigui un problema crític. Tot i que la conscienciació pública i l'alfabetització mediàtica són essencials, només formen part de la solució.

És vital reflexionar: veiem els deepfakes com a meravelles tecnològiques o amenaces per al benestar individual i social? La conversa ha de persistir, ja que la consciència i l'acció col·lectives són crucials per mitigar els impactes perjudicials de la tecnologia deepfake.