Az európai és az Egyesült Királyság mélyhamisítási szabályozási javaslatai meglepően korlátozottak

Elemzés Azon kampányolók számára, akik abban reménykednek, hogy 2022 lehet az az év, amikor a mélyhamisított képek szigorúbb jogi hatókörbe tartoznak, a korai mutatók nem biztatóak.

Múlt csütörtökön az Európai Parlament ratifikált a digitális szolgáltatásokról szóló törvény módosításai (DSA, amely 2023-ban lép hatályba), a mélyhamisítások terjesztésével kapcsolatban. A módosítások két részben foglalkoznak a mélyhamisításokkal, amelyek mindegyike közvetlenül kapcsolódik az online hirdetéshez: a 1709. cikkhez tartozó 30. módosítás, valamint a 63. cikkhez kapcsolódó módosítás.

Az első egy teljesen új cikket javasol 30a, címe Mély hamisítványok, Amely a következőképpen szól:

„Amikor egy nagyon nagy online platform tudomást szerez arról, hogy egy tartalom egy generált vagy manipulált kép-, hang- vagy videotartalom, amely érzékelhetően hasonlít meglévő személyekre, tárgyakra, helyekre vagy egyéb entitásokra vagy eseményekre, és hamisan úgy tűnik, hogy hiteles vagy igaz. (mély hamisítvány), a szolgáltató a tartalmat úgy címkézi meg, hogy a tartalom nem hiteles, és a szolgáltatás igénybevevője számára jól látható legyen.”

A második szöveggel egészíti ki a meglévő 63. cikket, amely maga főként a nagy hirdetési platformok átláthatóságának növelésével foglalkozik. A vonatkozó szöveg így szól:

"Emellett a nagyon nagy online platformoknak minden ismert mély hamis videót, hangot vagy más fájlt fel kell címkézni."

Valójában úgy tűnik, hogy a jogszabályok a „jogos mélyhamisítások” növekvő gyakorlatára készülnek fel, ahol az engedély megvan. megadták valamint a promóciós vagy reklámanyagokban – például az orosz telco Telefonnál – biztosított arccseréhez biztosított jogok engedélyezett felhasználás Bruce Willis személyazonosságát egy közelmúltbeli reklámkampányban.

Habozás a törvényhozástól

Úgy tűnik, hogy a DSA egyelőre nem foglalkozik a kampányolók aggodalmaival a mélyhamisítási technikák használatával kapcsolatban. leggyakrabban használt – pornográf videók újraküldésére. Arra sem tér ki, hogy 2023-tól a mélyhamisítások függőben lévő filmekben és televíziózásban történő használatát XNUMX-tól ugyanúgy le kell tiltani a nézőkről, ahogyan a mélyhamisításokat a reklámokban.

A DSA ratifikációs folyamata most az EU-tagállamokkal folytatott tárgyalások tárgyát képezi, a digitális piacokról szóló törvény tágabb hatályával együtt.DMA).

Az Europol 2020 decembere jelentést A mesterséges intelligencia rosszindulatú felhasználása és visszaélései kijelentette, hogy hiba lenne, ha az EU konkrét jelenlegi mélyhamisítási technológiákkal foglalkozna (mint pl DeepFaceLive), ami ahhoz vezethet, hogy az uniós jog folyamatosan felzárkózik a legújabb keretrendszerhez vagy módszerhez.

A jelentést megállapított:

„Különösen ezeknek a politikáknak technológia-agnosztikusaknak kell lenniük annak érdekében, hogy hosszú távon hatékonyak legyenek, és ne kelljen rendszeresen felülvizsgálni és lecserélni, ahogy a mélyhamisítások létrehozása és visszaélése mögött meghúzódó technológia fejlődik.

"Mindazonáltal az ilyen intézkedéseknek el kell kerülniük a GAN-ok pozitív alkalmazásának akadályozását."

A fenti idézet záró megjegyzése, amelyre vonatkozóan Generatív kontradiktórius hálózatok (GANs) általánosságban jellemzi az európai és észak-amerikai habozást olyan törvények alkalmazása mellett, amelyek meggátolhatják a már korábban is feltörekvő mesterségesintelligencia-kutatási szektort. lemaradva Ázsiáról (akiknek didaktikusabb nemzetei voltak képes felgyorsítani a mélyhamisított jogszabályokat).

Például egy 2018 jelentést Az Egyesült Királyság Mesterséges Intelligenciával foglalkozó Választmánya a Lordok Házában többször is hangsúlyozza annak kockázatát, hogy a félénkség visszatartja a mesterséges intelligencia fejlődését az országban, amit a cím is példáz: AI az Egyesült Királyságban: készen áll, hajlandó és képes?. Tavaly áprilisban Nagy-Britannia is az első ország lett zöld utat ad a bevetésnek önvezető autók autópályákon.

Amerika nem kevésbé lelkes; az Egyesült Államokban a Brookings Institution rendelkezik sürgette az Egyesült Államokban a mesterséges intelligencia tekintetében fokozottabb szabályozás szükségessége, ami a törvényhozókat a gépi tanulási technológiák következményeivel kapcsolatos „kivárás és meglátjuk” álláspontjuk miatt sérelmezte

Amellett, hogy a DSA esztelen megközelítést alkalmaz a mélyhamisításokkal kapcsolatos társadalmi (nem pedig politikai) aggályok kezelésére, az EU a mesterséges intelligencia javasolt szabályozási kerete, 2021 áprilisában jelent meg, azonnali kritika érte a téma saját kikerülése miatt.

Scant Deepfake Regulation az Egyesült Királyságban

További csalódásként a mélyhamisítás elleni kampányolók számára, mint például Helen Mort író, aki kiemelten kampányolt A brit parlament digitális, kulturális, média és sportbizottsága által ma közzétett jelentés az Egyesült Királyság új, 2021-es jogszabályaira vonatkozik, miután a pornográf mélyhamisított videókban nem egybehangzóan ábrázolták. kifogásolja, a brit kormánynak, amiért nem foglalkozott a mélyhamisításokkal Online biztonsági törvénytervezet.

A törvénytervezet jelenlegi jogorvoslati lehetőségét a mélyhamisításokkal szembeni visszaélésekkel szemben „nem egyértelműnek és nem praktikusnak” hivatkozva, a jelentést azt sugallja, hogy a javasolt jogszabály nem foglalkozik a mesterséges intelligencia által támogatott pornográf videó- ​​és képmanipulációs technikák „legális, de káros” státusával:

„Azt javasoljuk, hogy a kormány proaktívan foglalkozzon a technikailag legális tartalomtípusokkal, mint például a gyermekbántalmazási sorozatok alattomos részei, mint például a kenyérmorzsa, valamint a nők és lányok elleni online erőszak típusai, mint például a nők technológia által támogatott „meztelenítése” és a mélyhamis pornográfia. , azáltal, hogy azokat az elsődleges jogszabályokon keresztül vagy a gondossági kötelezettség hatálya alá tartozó káros tartalomtípusokként vonják be.”

Az Egyesült Királyságban jelenleg alkalmazandó jog a „valódi” képek terjesztésére korlátozódik, mint például a bosszúpornó esetei, amikor például egy volt partnere nyilvánosan megoszt egy bizalmas és magánjellegű nyílt anyagot. Ha egy üldöző olyan mélyhamisított anyagot hajt végre és tesz közzé, amely a „célpont” személyazonosságát pornográf tartalomra helyezi, akkor csak akkor indítható eljárás ellene, ha az anyag rá irányításával közvetlenül zaklatja a célpontot, vagy a szerzői joggal kapcsolatos jogszabályok alapján.

Az első esetben az új mélyhamisított tartalom vonzerejének és nézőinek könnyedsége szinte elkerülhetetlenül azt jelenti, hogy az áldozatot az érintett barátok vagy nem kapcsolódó harmadik felek tájékoztatják, nem pedig az, aki hamisította őket, ami lehetővé teszi az ilyen anyagok vírusosságának védelmét. a deepfaker, akinek a munkája még mindig „eléri a célt”.

Az utóbbi esetben a büntetőeljárás csak akkor lehetséges, ha egy harmadik féltől származó, orvos nélküli pornográf videót (amelyre később az áldozat személyazonosságát is rárakják) professzionálisan állítják elő, és az Egyesült Királyság szerzői jogi tartománya törvényesen védi (annak ellenére, hogy egy megfelelő videó szabadon beszerezhető a világ bármely joghatósága). Bármelyik joghatóságból származó „amatőr” videónak nincs egyértelmű szerzői jogi státusza, és a testre szabott videó, amelyet a mélyhamisító kifejezetten azért forgatott, hogy az áldozatot ráterítse, (ironikus módon) maga is szerzői jogi törvények által védett, mindaddig, amíg megfelel más törvényeknek.

A kanyar mögött

2021 decemberében az Egyesült Királyság Jogi Bizottsága javasolt a gyűlöletbeszédre vonatkozó törvények kiterjesztése a nemi alapú ellenségeskedésre, de nem javasolta a mélyhamisítások ebbe a kategóriába való besorolását, annak ellenére, hogy világszerte számos példa van ilyen használatra (különösen Indiában) női politikusok és női aktivisták ellen fegyverzett technológiáról. A nők azok túlnyomórészt az illegális mélyhamisított tartalom célpontja, függetlenül attól, hogy a hamisítók indítékai nyíltan társadalmiak (azaz a megalázó szándék, a platformok lebontása és a hatalom megfosztása), vagy egyszerűen csak nyomasztó (vagyis pornográf) jellegűek.

2021 márciusában az illinoisi székhelyű National Law Review feladatra vette az Egyesült Királyság jogi kereteit mint „jelenleg teljesen alkalmatlan a mélyhamisítások kezelésére”, sőt, még hiányoznak az alapvető jogi mechanizmusok is, amelyek megvédik egy személy hasonlatosságát.

Mélyhamisított törvények az Egyesült Államokban

Ezzel szemben az Egyesült Államok bizonyos mértékig védi polgárainak „nyilvánossághoz való jogát”, bár nem szövetségi szinten (jelenleg ilyen törvények léteznek körülbelül a fele az Egyesült Államok államaiban, rendkívül eltérő jogi mechanizmusokkal).

Bár javult az Egyesült Királyság teljesítménye a mélyhamisítási jogszabályok terén, az Egyesült Államok csak szórványos, államonkénti lefedettséggel büszkélkedhet, és úgy tűnik, eltökélt szándéka, hogy foglalkozzon a technológia problémáival. politikai manipuláció lehetősége mielőtt végül rátérne a magánszemélyekre gyakorolt ​​hatására.

2019-ben Texas államban törvényen kívül létrehozása vagy terjesztése politikai deepfakes, Texas Senate Bill 751 (SB751), mellőzve a hamisított pornográfiával kapcsolatos minden kijelentést. Ugyanebben az évben Virginia állam hozzáadott egy módosítás egy hatályos törvény tekintettel a Mások képeinek jogellenes terjesztése vagy értékesítése, hozzáfűzve a széles körben átfogó kifejezést „hamisan létrehozott video- vagy állókép”.

2020-ban Kalifornia állam törvénybe iktatta California Assembly Bill 602 (AB 602) megtiltja a pornográf mélyhamisítványok előállítását vagy terjesztését. A törvényjavaslatnak nincs megszüntetési záradéka, de három éves elévülési ideje van, és egy külön záradék is kíséri, amely a politikai mélyhamisításokra vonatkozik.

2020 végén New York állam megszűnt szenátus Bill S5959D, amely nemcsak a pornográf mélyhamisítványok létrehozását és/vagy újraközlését tiltja, hanem aktívan védi a felhasználó nyilvánossághoz való jogát egy számítógép által létrehozott hasonlóság mélyhamisítással, CGI-vel vagy bármilyen más módon, még a halál után is (ha a szóban forgó személy New York-i lakos volt a halála idején).

Végül Maryland állam is módosított törvényei a gyermekpornográfiáról, hogy felöleljék és kriminalizálják a mélyhamisítások használatát, de nem foglalkoznak a mélyhamisítások felnőtt célpontokra gyakorolt ​​hatásával.

Várakozás a "DeepfakeGate"-re

A történelem azt mutatja, hogy az új technológiák által okozott károknak meg kell válniuk személyes jogalkotási válaszának felgyorsítása érdekében. A nagyon friss egy tizenéves lány halála Egyiptomban akit állítólag hamisított pornográfiával zsaroltak, a nyugati médiában csak korlátozottan foglalkoztak*, miközben az Egyesült Arab Emirátusban elkövetett 35 millió dollár ellopásáról szóló leleplezések történtek. 2021-ben derült ki, szintén egy „távoli eseményt” jelentenek, amely valószínűleg nem fogja felgyorsítani a szenátus munkáját, vagy nem gyújt tüzet a 45 fennmaradó állam alatt, amelyek még nem léptek életbe a hamisított törvényt.

Ha az Egyesült Államok egységesebb álláspontot képvisel a mélyhamisítási technológiával való visszaélésekkel kapcsolatban, a széles körben elterjedt jogszabályok valószínűleg hatással lesznek a távközlési és adatinfrastruktúra és -tárolás irányítási aspektusára, ami gyors felzárkózási politikák változásához vezet, amelyeket üzleti partnerei kényszerítenek ki világszerte. Az a tény, hogy a GDPR európai elfogadása végül nem „átlépett” az észak-amerikai adatgyűjtési és -megőrzési politikára, nem jelenti azt, hogy az EU ne tudna hasonlóképpen befolyást szerezni a kevésbé megfelelő nemzetek felett, amelyekkel kereskedik – ha valaha is megtenné elkötelezettebb jogalkotási állásfoglalás a mélyhamisított pornográfia létrehozásával, tárolásával és megőrzésével kapcsolatban.

De először a „nullaponton” kell történnie valaminek, az egyik vezető országcsoportban; és még mindig várunk rá: a CSAM kolosszális darknet-hordása a hatóságok részéről; egy nagy rablás, amely hang- és/vagy videóalapú mélyhamisítási technológiákat használ, hogy megtévesszen egy Amerikai a vállalat igazgatója egy nagyon nagy összeg félreirányítására; vagy amerikai megfelelője annak, hogy a mélyhamisításokat egyre nagyobb mértékben használják a nők áldozatává válására a patriarchálisabb országokban (ha valóban az Egyesült Államok kultúrája van felszerelve arra, hogy tükrözze ezeket az eseményeket, ami megkérdőjelezhető). Ezeket nehéz kívánni, és jó dolgokat elkerülni bármilyen más módszer mint homokba dugni a fejét, vagy várni egy „gyújtó” eseményre.

Az egyik központi probléma, amelyet az EU jelenleg azzal küszöböl ki, hogy jogalkotói képességeit olyan reklámcégekre irányítja, amelyek akar okos és jogos mélyhamisításaik népszerűsítése az, hogy a mélyhamisítások megmaradnak algoritmikusan nehéz észrevenni; az arXiv-en havonta megjelenő detektálási módszerek nagy része a vízjelezésen, a blokklánc-alapú ellenőrzésen vagy valamilyen módon a teljes infrastruktúra megváltoztatásán múlik, amelyet jelenleg a szabad videófogyasztáshoz használunk – olyan megoldások, amelyek a videó fogalmának radikális jogi felülvizsgálatát vonják maguk után. videót az „igazság” proxyjaként. A többit rendszeresen megelőzik a népszerű nyílt forráskódú mélyhamisítási adattárak folyamatos fejlődése.

További probléma, hogy a nagy nyugati nemzeteknek bizonyos értelemben teljesen igazuk van, amikor nem kínálnak térdrángató reakciót egy sor új mesterséges intelligencia-technológia egyetlen problémás elemére sem, amelyek közül sok óriási előnyökkel kecsegtet a társadalom és az ipar számára. amelyek közül sokat hátrányosan érinthetne valamilyen módon, ha a képszintézis rendszerek forrófejű tiltása és szabályozása komolyan megkezdődne, válaszul egy jelentős eseményre és az azt követő felháborodásra.

Jó ötlet azonban legalább felgyorsítani azt a lassú és olykor céltalan lépést, amelyet a mélyhamisítások szabályozása felé teszünk, és az esetleges problémákkal a földközépen, saját feltételeink szerint, ahelyett, hogy rákényszerítenénk. a későbbi eseményeket kevésbé megfontolt reakcióvá.

* A feltételezett elkövetőket zsarolással vádolják; nincs egyiptomi törvény a hamisított pornográfiáról.

Első megjelenés: 24. január 2022.