Qeexida qarsoon ee 'Deepfake'

Daraasad cusub oo soo jiidasho leh oo ka timid Jarmalka ayaa naqdisay Sharciga EU AI qeexida ereyga 'deepfake' mid aan caddayn, gaar ahaan marka la eego macnaha wax-is-daba-marinta sawirka dhijitaalka ah. Qorayaashu waxay ku doodayaan in sharciga xooga la saarayo nuxurka u eg dadka ama dhacdooyinka dhabta ah - weli suurtagal ah muuqanaya been abuur ah - waxaa ka maqan caddayn.

Waxay sidoo kale iftiiminayaan in ka-reebitaanka sharciga ee 'tafatirka caadiga ah' (ie, wax ka beddelka AI-gacan ee yaryar ee sawirada) waxay ku guul daraysteen inay tixgeliyaan labadaba saamaynta baahsan ee AI ee codsiyada macaamiisha iyo dabeecadda shakhsi ahaaneed ee heshiisyada farshaxanka ee ka horreeyay imaatinka AI.

Sharci aan sax ahayn oo arrimahan ku saabsan ayaa keenaya laba khatarood oo muhiim ah: 'saameyn qabow,' halkaas oo baaxadda tarjumaadda ballaaran ee sharciga ay xannibayso hal-abuurka iyo qaadashada nidaamyada cusub; iyo 'saamayn ceeb ah', halkaasoo sharciga loo tixgaliyo inuu yahay xad-dhaaf ama aan khusayn.

Si kastaba ha ahaatee, sharciyo aan caddayn ayaa si wax ku ool ah u beddelaya mas'uuliyadda dejinta qeexitaanno sharci oo wax ku ool ah oo ku aaddan go'aannada maxkamadda mustaqbalka - hab taxaddar leh oo khatar-diid ah oo sharci ah.

Farsamooyinka wax-is-daba-marin-ku-salaysan ee AI-ku-salaysan ayaa si gaar ah uga horreeya awoodda sharciga si wax looga qabto, waxay u muuqataa. Tusaale ahaan, hal tusaale oo xusid mudan oo ku saabsan barti sii kordhaya ee fikradda AI-driven 'otomaatigga' ka-baroosinka, warqaddu waxay eegaysaa, waa 'Muqaal Optimizer' Kaamirooyinka Samsung ee u dambeeyay, kuwaas oo bedeli kara sawirada dayaxa la qaaday (a adag Mawduuc), oo leh AI-kaxaysa, sawirka 'la safeeyey':

Bidix sare, tusaale ka warqadda cusub ee sawirka dhabta ah ee isticmaalaha-qaadashada dayaxa, dhanka bidix ee nooca Samsung-kordhinta ah oo si toos ah loogu abuuray Muuqaal Optimizer; Sax, sawirka rasmiga ah ee Samsung ee habka ka dambeeya tan; bidix hoose, tusaaleyaal isticmaale Reddit u/ibreakphotos, oo muujinaya (bidix) sawirka si ula kac ah ee dayaxa iyo (midig), dib u sawirida Samsung ee sawirkan - in kasta oo sawirka isha uu ahaa sawirka kormeeraha, oo aanu ahayn dayaxa dhabta ah. Ilaha (saacda u jeeda dhanka bidix ee sare): https://arxiv.org/pdf/2412.09961; https://www.samsung.com/uk/support/mobile-devices/how-galaxy-cameras-combine-super-resolution-technologies-with-ai-to-produce-high-quality-images-of-the- dayax/; https://reddit.com/r/Android/comments/11nzrb0/samsung_space_zoom_moon_shots_are_fake_and_here/

Dhinaca bidix ee hoose ee sawirka kore, waxaan ku aragnaa laba sawir oo dayaxa ah. Midka bidix waa sawir qaaday isticmaale Reddit Halkan, sawirka si ula kac ah ayaa loo dheehday oo hoos u dhigay isticmaaluhu.

Midigteeda waxaan ku aragnaa sawir la mid ah sawirka la ceebeeyay oo lagu qaaday kamarad Samsung ah oo ay AI ku shaqaynayso ka dib habayntu karti u leedahay. Kamaradu waxay si toos ah u 'kordhisay' shayga 'dayaxa' ee la aqoonsan yahay, inkasta oo aanu ahayn dayaxa dhabta ah.

Warqaddu waxay si qoto dheer u naqdinaysaa Qaadashada ugu Fiican sifada lagu daray Google-ka casriga ah ee dhawaanta – a muranka AI waxay soo saartaa tafatirka qaybaha 'ugu wanaagsan' ee sawir kooxeed, iskaan ka qaadaya ilbiriqsiyo badan oo isku xigxiga sawir qaade si dhoola cadeynta hore ama gadaal loogu shaandheeyo marka loo baahdo - qofna laguma tuso dhexda biliggu.

Warqaddu waxay ku doodaysaa habkan isku-dhafka ah ee noocan oo kale ah ayaa awood u leh inay si khaldan u sheegaan dhacdooyinka:

"[In] goob sawir kooxeed caadiga ah, celceliska daawadayaasha waxay u badan tahay inay weli u tixgelinayaan sawirka ka soo baxa inuu yahay mid sax ah. Dhoola-caddaynta la geliyey waxa ay jirtay dhawr ilbiriqsi gudahood laga bilaabo sawirka hadhay ee la qaaday.

"Dhanka kale, tobanka mar labaad ee qaabka ugu fiican ayaa ku filan isbeddelka niyadda. Waxaa laga yaabaa in qof uu dhoola cadeynta joojiyay halka kooxda inteeda kale ay ku qosliyeen kaftan kharashkooda.

"Natiijo ahaan, waxaan u maleyneynaa in sawirka kooxeed ee noocaas ahi uu noqon karo mid qoto dheer oo been abuur ah."

The warqad cusub waxaa cinwaan looga dhigay Waa maxay been abuur qoto dheer? Khadka mugdiga ah ee u dhexeeya habaynta sharciga ah iyo wax-is-daba-marinta ee hoos timaada Xeerka EU AI, oo ka yimid laba cilmi-baarayaal oo ka tirsan Shaybaarka Sharciga Xisaabinta ee Jaamacadda Tübingen, iyo Jaamacadda Saarland.

Dhagartii hore

Ku-habaynta wakhtiga sawir qaadista aad ayey uga da'weyn tahay heerka macaamiisha AI. Qorayaasha warqadda cusub waxay xuseen jiritaanka farsamooyin aad u da' weyn oo lagu doodi karo inay yihiin 'aan run ahayn', sida isku-darka sawirro badan oo isdaba-joog ah Range Dynamic Range (HDR) sawir, ama a 'Tolan' sawir muuqaal ah.

Runtii, qaar ka mid ah been-abuurka sawireed ee ugu da'da weyn uguna xiisaha badan ayaa dhaqan ahaan ay abuureen caruur-dugsiyeedka oo ka socda gees ka mid ah koox dugsiyeed ilaa gees kale, ka hor marinka gaarka ah. kamarado panoramic kuwaas oo mar loo isticmaali jiray ciyaaraha iyo sawir qaadista kooxda dugsiga - awood u siinaysa ardayga inuu ka soo muuqdo laba jeer isla sawirka:

Jirrabaadda in lagu khiyaaneeyo kamaradaha muuqaalka ah inta lagu jiro sawirrada kooxdu aad ayay u adag tahay in ay iska caabiyaan arday badan, kuwaas oo doonayay in ay halis galiyaan fadhi xun oo ka dhacaya xafiiska madaxa si ay 'isku xidhaan' sawirrada dugsiga. Xigasho: https://petapixel.com/2012/12/13/double-exposure-a-clever-photo-prank-from-half-a-century-ago/

Ilaa aad sawir ka qaadato qaabka RAW, kaas oo asal ahaan ku daadiya dareeraha muraayadaha kamarada fayl aad u weyn iyada oo aan nooc kasta oo fasiraad ah lahayn, waxay u badan tahay in sawiradaada dhijitaalka ah aysan si buuxda sax ahayn. Nidaamyada kamaradu waxay si joogto ah u adeegsadaan algorithms 'hagaajinta' sida sawiridda sawirka iyo dheelitirka cad, asal ahaan - waxayna sidaas yeeleen tan iyo asalka sawirka dhijitaalka ah ee heerka macaamilka.

Qorayaasha warqadda cusub ayaa ku doodaya in xitaa noocyadan duugga ah ee kor u qaadista sawirada dhijitaalka ah aysan matalin 'xaqiiqda', maadaama hababkan oo kale loogu talagalay in lagu sameeyo sawiro aad u faraxsan, oo aan ahayn 'dhab ah'.

Daraasadu waxay soo jeedinaysaa in sharciga EU AI, xitaa wax ka beddelka dambe sida akhrinta 123-27, dhigaya dhammaan wax soo saarka sawir gudaha ah caddayn qaab-dhismeedka aan ku habboonayn macnaha guud ee sawirada la soo saaray maalmahan, taas oo ka soo horjeeda dabeecadda (magaca ujeeddada) ee muuqaalka kamarada amniga ama sawir qaadista. Inta badan sawirada uu ka hadlo sharciga AI waxay u badan tahay inay ka soo jeedaan xaaladaha ay ku jiraan soosaarayaasha iyo goobaha internetka si firfircoon kor loogu qaado tarjumaad sawir hal abuur leh, oo ay ku jiraan isticmaalka AI.

Cilmi-baadhayaashu waxay soo jeedinayaan in sawiradu 'waligood aysan ahayn sawir ujeedo ah oo xaqiiqda ah'. Tixgelinta sida goobta kamaradu ku taal, qoto dheer ee goobta la doortay, iyo xulashooyinka iftiinka, dhamaantood waxay gacan ka geystaan ​​samaynta sawir si qoto dheer u qoto dheer.

Wargeysku wuxuu eegayaa in hawlaha caadiga ah ee 'nadiifinta' - sida ka saarista boodhka dareenka ama xadhkaha korantada ee aan loo baahnayn ee goobta kale ee si fiican u samaysan - waxay ahaayeen kaliya semi-Automation ka hor intaanay kor u qaadin AI: isticmaalayaashu waxay ku qasbanaadeen inay si gacanta ah u doortaan gobol ama bilaabaan nidaam si ay u gaaraan natiijada ay rabaan.

Maanta, hawlgalladan waxaa badanaa kiciya qoraallada isticmaalaha, gaar ahaan qalabka sida Photoshop. Heerka macaamilka, sifooyinka noocan oo kale ah ayaa si iskood ah u koraya iyada oo aan gelinta isticmaalaha – natiijo sida muuqata ay u arkaan soosaarayaasha iyo aaladaha sida 'si cad loo rabo'.

Macnaha la miiray ee 'Deepfake'

Caqabadda udub dhexaad u ah sharciga ku xeeran AI-beddelay iyo sawirka AI-abuuray waa mugdiga ereyga 'deepfake', kaas oo macnihiisa si gaar ah loo kordhiyay labadii sano ee la soo dhaafay.

Asal ahaan shuruudaha ayaa lagu dabaqay kaliya wax soo saarka fiidyowga nidaamyada autoencoder-ku-saleysan sida DeepFaceLab iyo FaceSwap, labaduba waxay ka soo jeedaan koodka qarsoodiga ah ee lagu dhejiyay Reddit dabayaaqadii 2017.

Laga bilaabo 2022, imaatinka Qaababka Faafinta Daahsoon (LDMs) sida Faafidda Deggan iyo qulquli, iyo sidoo kale hab-qoraal-u-muuqaal ah sida Sora, waxa kale oo ay ogolaanaysaa is-beddelka aqoonsiga iyo habaynta, marka la wanaajiyo xallinta, wax-soo-saarka iyo daacadnimada. Hadda waxaa suurtogal ahayd in la abuuro moodallo ku salaysan faafin kuwaas oo muujin kara muusikada iyo siyaasiyiinta. Maadaama ereyga 'qoto dheer' uu horeba u ahaa hanti madax-ururineed oo loogu talagalay soosaarayaasha warbaahinta, waxaa la kordhiyay si loo daboolo nidaamyadan.

Ka dib, labadaba warbaahinta iyo suugaanta cilmi-baarista, ereyga ayaa sidoo kale yimid in lagu daro iska dhigista qoraalka ku salaysan. Halkaa marka ay marayso, macnaha asalka ah ee 'deepfake' waa la wada lumay, iyada oo macnaheeda la fidiyay uu si joogto ah u kobcayay, oo sii kordhaysa la qasi jiray.

Laakin maadaama kelmadu uu ahaa mid aad u hurisa oo xamaasad leh, oo uu hadda ahaa mid siyaasadeed iyo mid warbaahineed oo xooggan, waxa ay noqotay mid aan suurtagal ahayn in la is dhiibo. Waxay soo jiidatay akhristayaasha boggaga internetka, maalgelinta cilmi-baarayaasha, iyo dareenka siyaasiyiinta. Madmadowgan qaamuuska ah ayaa ah diiradda ugu weyn ee cilmi-baarista cusub.

Sida qorayaashu ay dhawraan, qodobka 3(60) ee sharciga EU AI wuxuu qeexayaa afar xaaladood oo qeexaya 'qoto-dheer'.

1: Dayax Dhab ah

Marka hore, nuxurku waa inuu ahaadaa curiyay ama la farsameeyay, ie, ama laga abuuray xoq iyadoo la adeegsanayo AI (jiil) ama laga beddelay xogta jirta (wax-is-daba marin). Waraaqdu waxay iftiimisay dhibka lagu kala soocayo natiijooyinka tafatirka sawirka 'la aqbali karo' iyo been-abuurka qoto-dheer, marka la eego in sawirrada dhijitaalka ah ay yihiin, xaalad kasta, weligood ma metelaan xaqiiqada dhabta ah.

Wargeysku wuxuu ku doodayaa in dayaxa Samsung-ku-abuuray uu yahay mid run ah, maaddaama dayaxu aanay u badnayn inuu beddelo muuqaalka, iyo tan iyo nuxurka AI-abuuray, oo lagu tababaray sawirada dhabta ah ee dayaxa, sidaas darteed waxay u badan tahay inay noqoto mid sax ah.

Si kastaba ha ahaatee, qorayaashu waxay sidoo kale sheegeen in tan iyo nidaamka Samsung lagu muujiyay inuu soo saaro sawirka 'la xoojiyay' ee dayaxa haddii sawirka isha uusan ahayn dayaxa laftiisa, tani waxaa loo tixgelin doonaa 'deepfake'.

Waxa ay ahaan lahayd wax aan macquul ahayn in la sameeyo liis dhamaystiran oo ah kiisaska isticmaalka kala duwan ee noocaan ah ad hoc shaqeynta. Sidaa darteed culayska qeexitaanku wuxuu u muuqdaa mid mar kale u gudbaya maxkamadaha.

2: Qoraal been abuur ah

Marka labaad, nuxurku waa inuu ahaadaa qaab muuqaal, maqal, ama muuqaal ah. Nuxurka qoraalka, iyada oo ay ku xiran yihiin waajibaadyo kale oo daahfurnaan ah, looma tixgeliyo been-abuur qotodheer marka loo eego sharciga AI. Tani si faahfaahsan ugama hadlin daraasadda cusub, inkasta oo ay saameyn muuqata ku yeelan karto waxtarka muuqaalka qoto dheer (hoos eeg).

3:Dhibaatooyinka Adduunka Dhabta Ah

Marka saddexaad, waxa ku jira waa in shabaha dadka jira, walxaha, meelaha, hay'adaha, ama dhacdooyinka. Xaaladdani waxay asaasaysaa xidhiidhka adduunka dhabta ah, taasoo la macno ah in sawir-gacmeedka la been-abuuray, xittaa haddii ay run tahay, aanay u qalmi doonin sidii been-abuur qotodheer. Akhriska 134 ee Xeerka EU AI wuxuu xooga saarayaa dhinaca 'u ekaanshaha' isagoo ku daraya ereyga 'si la mahadiyo'

Qorayaashu, iyagoo tixraacaya shaqada horeKa fiirso in baahida wejiga AI ay soo saartay uu leeyahay qof dhab ah, ama haddii ay u baahan tahay oo keliya si ku filan la mid ah qof dhab ah, si loo qanciyo qeexitaankan.

Tusaale ahaan, sidee baa qofku u go'aamin karaa in taxanaha sawirada sawir-qaadista ee muujinaya siyaasiga Donald Trump uu leeyahay ujeedo is-yeelyeel ah, haddii sawirada (ama qoraallada lifaaqan) aysan si gaar ah u xusin? Aqoonsiga wajiga? Sahaminta isticmaalaha? Qeexitaanka garsooraha ee 'caqliga guud'?

Ku soo noqoshada arrinta 'TextFakes' (kor eeg), ereyadu waxay inta badan noqdaan qayb muhiim ah oo ka mid ah falka muuqaalka qoto dheer. Tusaale ahaan, waxaa suurtagal ah in laga qaado sawir (aan la beddelin) ama muuqaal 'qof a', Iyo ku dheh, qoraal ama qoraal baraha bulshada ah, in sawirku yahay 'qof b' (malaha in labada qof isku shabahaan).

Haddii ay dhacdo, looma baahna AI, natiijaduna waxay noqon kartaa mid wax ku ool ah oo la taaban karo - laakiin habkan tignoolajiyada hoose miyay sidoo kale ka dhigan tahay 'qoto-dheer'?

4: Dib u taabo, dib u habayn

Ugu dambeyntii, waxa ku jira waa in u muuqdaan kuwo run ah ama run u ah qofka. Xaaladdani waxay xooga saaraysaa aragtida ee daawadayaasha aadanaha. Nuxurka kaliya ee loo aqoonsaday inuu matalo qof dhab ah ama shay algorithm ayaa doona ma loo tixgeliyo been abuur qotodheer.

Dhammaan shuruudaha ku xusan 3(60), kani waxa uu si cad u dhigayaa xukunka dambe ee maxkamadda, maadaama aanay ogolayn tafsiir kasta oo farsamo ama farsamo ahaan ah.

Waxaa cad in ay jiraan qaar ka mid ah dhibaatooyinka dabiiciga ah ee lagu gaarayo heshiis la isku raacsan yahay oo ku saabsan qodobbada shakhsi ahaaneed. Qorayaashu waxay u fiirsadaan, tusaale ahaan, in dad kala duwan, iyo noocyo kala duwan oo dad ah (sida carruurta iyo dadka waaweyn), laga yaabo inay si kala duwan u damcaan inay rumeeyaan been-abuur gaar ah.

Qorayaashu waxay kaloo xuseen in awooda sare ee AI ee aaladaha sida Photoshop ay caqabad ku yihiin qeexitaannada dhaqameed ee 'deepfake'. In kasta oo nidaamyadani ay ku jiraan ilaalinta aasaasiga ah ee ka hortagga waxyaabaha la isku haysto ama la mamnuucay, waxay si weyn u balaadhinayaan fikradda 'dib u taabsiin'. Isticmaalayaashu hadda waxay ku dari karaan ama ka saari karaan walxaha si heer sare ah loogu qanci karo, qaab sawir leh, gaaritaanka heer xirfadeed oo dhab ah oo dib u qeexaya xuduudaha sawir-qaadista.

Qorayaashu waxay yiraahdeen:

"Waxaan ku doodeynaa in qeexitaanka hadda ee been-abuurka qoto dheer ee ficilka AI iyo waajibaadka u dhigma aan si ku filan loo cayimin si wax looga qabto caqabadaha ay keenaan been-abuurka qoto dheer. Marka la falanqeeyo meertada nolosha ee sawirka dhijitaalka ah laga bilaabo shidma kamarada ilaa astaamaha tafatirka dhijitaalka ah, waxaanu ogaanay in:

(1.) Been abuur qoto dheer ayaa si xun loogu qeexay sharciga EU AI. Qeexitaanku wuxuu ka tagayaa baaxad aad u badan waxa been abuur qoto dheer yahay.

'(2.) Ma cadda sida tafatirka u shaqeeyo sida "qaadashada ugu fiican" ee Google ayaa loo tixgelin karaa inay tahay ka reeban waajibaadyada daahfurnaanta.

'(3.) Marka laga reebo sawirada sida aadka ah loo tafatiray waxa ay dhalinaysaa su'aalo ku saabsan waxa ka kooban tafatirka la taaban karo ee nuxurka iyo in tafatirkani yahay mid uu fahmi karo qof dabiici ah iyo in kale.'

Ka Reeban

Xeerka EU AI wuxuu ka kooban yahay waxyaabo ka reeban, oo ay qorayaashu ku doodayaan, inay noqon karaan kuwo la ogol yahay. Qodobka 50 (2), waxay yiraahdeen, waxay bixiyaan ka reeban kiisaska marka inta badan sawirka asalka ah aan la beddelin. Qorayaashu waxay xuseen:

Maxaa loo qaddarin karaa nuxurka macnaha qodobka 50(2) ee xaaladaha maqalka dhijitaalka ah, sawirada, iyo fiidyaha? Tusaale ahaan, marka laga hadlayo sawirada, ma waxaan u baahanahay inaan tixgelinno booska-pixel-ka ama bannaanka muuqda ee ay fahmi karaan bini'aadamka? Waxqabad la taaban karo oo ku jira booska pixel-ka waxa laga yaabaa in aanay bedelin aragtida bini'aadamka, dhanka kale, jahawareerka yar yar ee booska pixel-ka ayaa si weyn u bedeli kara aragtida.'

Cilmi-baadhayaashu waxay tusaale u yihiin inay ku daraan qori-gacan sawirka qof farta ku fiiqaya. Marka lagu daro qoriga, mid ayaa isbeddelaya wax yar sida 5% sawirka; si kastaba ha ahaatee, muhiimadda semantiga ee qaybta la beddelay waa mid xusid mudan. Sidaa darteed waxa ay u muuqataa in ka-reebitaankani aanu ku xisaabtamin wax kasta oo 'caqli-wadaaga' ah oo la fahmayo saamaynta tafaasiisha yar ay ku yeelan karto muhiimadda guud ee sawirka.

Qaybta 50(2) waxa kale oo ay ogolaataa ka-reebitaanka 'shaqada caawinta ee tafatirka caadiga'. Mar haddii sharcigu aanu qeexin waxa 'tafatirka caadiga ah' ka dhigan yahay, xittaa sifooyinka hab-socodka ka dambeeya ee aad u daran sida Google's Taken ugu Wanaagsan waxay u ekaan kartaa in la ilaaliyo marka laga reebo, qorayaashu waxay fiirsadaan.

Ugu Dambeyn

Ujeedada la sheegay ee shaqada cusub waa in la dhiirigeliyo daraasado isku dhafan oo ku saabsan xeerar ka mid ah xeerarka qoto-dheer, iyo in ay u noqdaan barta bilawga wadahadalka cusub ee u dhexeeya saynisyahannada kombuyuutarka iyo culimada sharciga.

Si kastaba ha ahaatee, warqadda lafteedu waxay u gudubtaa tautology dhowr dhibcood: waxay si joogta ah u isticmaashaa ereyga 'deepfake' sida haddii macnihiisa uu yahay mid iska cad, iyada oo ujeedadu tahay sharciga EU AI ee ku guuldareysiga in uu qeexo waxa dhab ahaantii ka dhigan been abuur.

Markii ugu horreysay ee la daabacay Isniinta, Diseembar 16, 2024