A Facebook eltávolítja az AI által generált és az összeesküvés-elméletek állandósítására használt fiókokat

A közösségi médiával foglalkozó cégek a 2020-as választási szezon előtt számos módon igyekeztek visszaszorítani a félretájékoztatást. Míg a Twitter nemrégiben betiltotta a politikai hirdetéseket a platformjáról, a Facebook most bejelentette, hogy hamis fiókok, csoportok és oldalak százait zárta le. Úgy tűnik, hogy sok ilyen fiókban mesterséges intelligencia által generált profilképek találhatók, és állítólag sokat téves információk és összeesküvés-elméletek terjesztésére használtak.

Amint arról a Forbes beszámolt, a Facebook kijelentette, hogy a betiltott fiókok és oldalak az „Élet Szépe” hálózathoz vagy a „TheBL”-hez kapcsolódnak, amely a Facebook szerint a konzervatív hírközlő csoporthoz, az Epoch Timeshoz kapcsolódik. A Facebook szerint az Epoch Media Group csaknem 9.5 millió dollárt költött reklámra a már betiltott oldalakon és csoportokon keresztül, és sok bejegyzés Trump-párti összeesküvés-elméleteket tartalmaz. Míg az Epoch Media Group tagadja a vádakat, a Facebook kijelentette, hogy szorosan együttműködött olyan független kutatókkal, mint a Graphika és az Atlantic Council Digital Forensic Research Lab (DFRLab), hogy meghatározzák a fiókok és oldalak természetét, mielőtt fellépne ellenük.

A Facebook szerint a fiókokat „összehangolt nem hiteles viselkedés”, mások személyazonosságukról való szándékos félrevezetése, valamint politikai beavatkozás megkísérlése miatt távolították el.  A CNET szerint, a Facebook szerint a fiókok gyakran tettek közzé konkrét politikai jelölteket és ideológiát népszerűsítő tartalmakat, amelyek a konzervatív választásokra, a konzervatív politikákra és Trump elnök erős támogatására összpontosítottak.

A Facebook egy 39 oldalas jelentést tett közzé az eseményről, amely számos megállapítást tartalmaz. A Facebook jelentésének egyik figyelemre méltó aspektusa az volt, hogy a tiltott fiókok közül sokat mesterséges intelligencia segítségével hoztak létre. A Facebook kutatói a jelentésben kijelentik:

„Ezen hamis fiókok tucatjaiban volt mesterséges intelligencia által generált profilkép a jelentés készítői által ismert hamis arcok első nagyszabású bevetésekor.”

A jelentés megállapításai szerint a mesterséges intelligencia által generált képek nem voltak tökéletesek, a részletek gyakran elárulják valódi természetüket. A kép összefüggő elemei, mint például a szemüveg vagy a haja, gyakran aszimmetrikusak voltak. Ezenkívül a háttér részletei gyakran elmosódottak és torzak voltak. Előfordulhat azonban, hogy ezek az elemek első pillantásra nem észrevehetők, különösen, ha figyelembe vesszük a profilfotók kis képméretét a Facebook megjegyzésláncában. Úgy tűnt, hogy sok hamis profil hamis profilinformációkat, sőt hamis bejegyzéseket is tartalmaz, amelyeket potenciálisan mesterséges intelligencia generált.

Ahogy az NBC közölte, a Facebook biztonsági politikáért felelős vezetője, Nathaniel Gleicher kijelentette, hogy a fiókok viselkedése az, ami miatt nem hitelesek, és a hamis képek és profilinformációk használatára tett kísérletek nem segítenek megvédeni a fiókokat a felfedezéstől. Gleicher kijelentette, hogy a mesterséges intelligencia által generált képek valójában növelik a fiókok elkapásának valószínűségét. Gleicher azt mondta:

„Azért észleltük ezeket a fiókokat, mert hamis viselkedést tanúsítottak. A mesterséges intelligencia által generált profilok valósághűbbé tételére való felhasználása valójában nem segít nekik. A legnagyobb kivetnivaló itt a hálózat kirívósága a hamis identitások használatában… Az újdonság az, hogy állítólag egy amerikai székhelyű médiavállalatról van szó, amely amerikaiaknak kiadó külföldi szereplőket használ fel a politikai tartalmak terjesztésére. Sokat láttunk már ilyet állami szereplőkkel a múltban.”

Mindazonáltal a Graphika és az Atlantic Council független kutatói kijelentették, hogy „aggodalomra ad okot, hogy a rossz színészek könnyedén tudtak annyi képet alkotni, és beszámolóikat hitelesnek adni”. A Facebookra és más közösségi médiavállalatokra nyomás nehezedik, hogy fokozzák erőfeszítéseiket a politikai félretájékoztatás elterjedése ellen, amely feladat megköveteli, hogy technológiailag a téves információk terjesztésére törekvők előtt maradjanak.

Mielőtt a Facebook megszüntette volna a fiókokat, oldalakat és csoportokat, az ezen entitások által közzétett tartalom emberek millióihoz jutott el. A jelentések szerint legalább 55 millió fiók követte a 89 különböző tiltott oldal valamelyikét. A követők többsége nem amerikai fiók volt. Összesen mintegy 600 fiókot, 90 oldalt és 150 csoportot távolítottak el a Facebookról. Körülbelül 70 fiókot is eltávolítottak az Instagramról.

A hír éppen akkor érkezik, amikor a Facebook elindít egy DeepFake-felderítési kihívást, amely 2020 márciusáig tart. A Twitter a közelmúltban majdnem 6000 olyan fiókot is kitiltott, amelyek gyanúsítottjai Szaúd-Arábiából származtak, és szándékosan félrevezető tartalmat tettek közzé.