Facebook elimina els comptes generats per IA i utilitzats per perpetuar les teories de la conspiració

Les empreses de xarxes socials tenen com a objectiu controlar la desinformació abans de la temporada electoral del 2020 de diverses maneres. Tot i que Twitter va prohibir recentment els anuncis polítics de la seva plataforma, Facebook acaba d'anunciar que ha tancat centenars de comptes, grups i pàgines falsos. Molts d'aquests comptes semblen tenir imatges de perfil generades per intel·ligència artificial, i molts s'han utilitzat per difondre informació errònia i teories de conspiració.

Segons informa Forbes, Facebook va declarar que els comptes i les pàgines prohibides estaven vinculades a la xarxa "Beauty of Life" o "TheBL", que Facebook va dir que estava vinculada al grup conservador de publicacions de notícies, Epoch Times. Segons Facebook, Epoch Media Group ha gastat gairebé 9.5 milions de dòlars en publicitat a través de moltes de les pàgines i grups ara prohibits, amb moltes de les publicacions que contenen teories de la conspiració pro-Trump. Tot i que Epoch Media Group nega els càrrecs, Facebook ha afirmat que ha treballat estretament amb investigadors independents com Graphika i el Digital Forensic Research Lab (DFRLab) de l'Atlantic Council per determinar la naturalesa dels comptes i pàgines abans de prendre mesures contra ells.

Segons Facebook, els comptes van ser eliminats per "comportament coordinat no autèntic", per enganyar els altres sobre les seves identitats i per intentar interferències polítiques.  Segons CNET, Facebook va dir que els comptes sovint publicaven contingut que promocionava candidats polítics i ideologies específiques, centrant-se en eleccions conservadores, polítiques conservadores i un fort suport al president Trump.

Facebook va publicar un informe de 39 pàgines sobre l'esdeveniment que cobria moltes de les seves troballes. Un dels aspectes notables de l'informe de Facebook va ser que molts dels comptes prohibits es van crear amb l'ajuda d'IA. Els investigadors de Facebook afirmen a l'informe:

"Desenes d'aquests comptes falsos tenien imatges de perfil generades per intel·ligència artificial, en el primer desplegament a gran escala de cares falses conegut pels autors d'aquest informe".

Segons les conclusions de l'informe, les imatges generades per IA no eren perfectes, amb detalls que sovint revelaven la seva veritable naturalesa. Els elements contigus d'una imatge, com les ulleres o els cabells d'una persona, sovint eren asimètrics. A més, els detalls de fons sovint eren borrosos i distorsionats. Tanmateix, és possible que aquests elements no es notin a primera vista, sobretot tenint en compte les petites mides d'imatge de les fotos de perfil en una cadena de comentaris de Facebook. Molts dels perfils falsos també semblaven tenir informació de perfil falsa i fins i tot publicacions falses, potencialment generades per IA.

Tal com va informar NBC, el cap de política de seguretat de Facebook, Nathaniel Gleicher, va afirmar que el comportament dels comptes és el que els va revelar com a no autèntics i que els intents d'utilitzar imatges i informació de perfil falses no ajuden a protegir els comptes del descobriment. Gleicher va dir que les imatges generades per IA feien que els comptes fossin més propensos a ser atrapats. Gleicher va dir:

"Hem detectat aquests comptes perquè tenien un comportament fals. L'ús de perfils generats per IA com una manera de fer-se veure més reals no els ajuda realment. La cosa més important aquí és l'agressió de la xarxa en l'ús d'identitats falses... El que hi ha de nou aquí és que suposadament es tracta d'una empresa de mitjans amb seu als Estats Units que aprofita actors estrangers que es fan passar per nord-americans per impulsar contingut polític. Ho hem vist molt amb actors estatals en el passat”.

No obstant això, els investigadors independents de Graphika i l'Atlantic Council van afirmar que la facilitat amb què els mals actors van poder crear tantes imatges i donar als seus relats una autenticitat percebuda "és una preocupació". Facebook i altres empreses de xarxes socials estan sota pressió per intensificar els esforços per combatre la proliferació de la desinformació política, una tasca que requerirà mantenir-se tecnològicament per davant d'aquells que busquen difondre la desinformació.

Abans que Facebook hagués fet caure els comptes, les pàgines i els grups, el contingut publicat per aquestes entitats va arribar a milions de persones. Segons s'informa, almenys 55 milions de comptes havien seguit una de les 89 pàgines prohibides diferents. La majoria dels seguidors eren comptes no nord-americans. En total, es van eliminar de Facebook uns 600 comptes, 90 pàgines i 150 grups. També es van eliminar aproximadament 70 comptes d'Instagram.

La notícia arriba just quan Facebook comença un repte de detecció de DeepFake, que s'allargarà fins al març del 2020. Twitter també ha prohibit recentment gairebé 6000 comptes dels seus sospitosos originats a l'Aràbia Saudita i ha publicat contingut intencionadament enganyós.