Istraživači koriste AI kako bi istražili kako se refleksije razlikuju od izvornih slika

Istraživači sa Sveučilišta Cornell nedavno su upotrijebili sustave strojnog učenja kako bi istražili kako se refleksije slika razlikuju od originalnih slika. Kako javlja ScienceDaily, algoritmi koje je izradio tim istraživača otkrili su da postoje izdajnički znakovi, razlike u odnosu na izvornu sliku, da je slika okrenuta ili reflektirana.

Izvanredni profesor računarstva na Cornell Techu, Noah Snavely, bio je viši autor studije. Prema Snavelu, istraživački projekt je započeo kada je istraživače zaintrigiralo kako su slike bile različite na očite i suptilne načine kada su se reflektirale. Snavely je objasnio da se čak i stvari koje se na prvi pogled čine vrlo simetrične obično mogu razlikovati kao odraz kada se proučavaju. Zaintrigiran sam otkrićima do kojih možete doći s novim načinima skupljanja informacija”, rekao je Snavely, prenosi ScienceDaily.

Istraživači su se usredotočili na slike ljudi, koristeći ih za treniranje svojih algoritama. To je učinjeno jer lica ne izgledaju očito asimetrična. Kada se obučavao na podacima koji su razlikovali okrenute slike od izvornih slika, AI je navodno postigao točnost između 60% do 90% za različite vrste slika.

Mnogi od vizualnih obilježja okrenute slike koje je AI naučio prilično su suptilni i ljudima ih je teško razaznati kada gledaju okrenute slike. Kako bi bolje protumačili značajke koje je AI koristio za razlikovanje okrenutih i originalnih slika, istraživači su izradili toplinsku kartu. Toplinska karta pokazala je dijelove slike na koje se AI fokusirao. Prema istraživačima, jedan od najčešćih tragova koje je umjetna inteligencija koristila za razlikovanje okrenutih slika bio je tekst. To nije bilo iznenađujuće i istraživači su uklonili slike koje sadrže tekst iz svojih podataka o treningu kako bi dobili bolju ideju o suptilnijim razlikama između okrenutih i originalnih slika.

Nakon što su slike koje sadrže tekst izbačene iz skupa za obuku, istraživači su otkrili da se AI klasifikator usredotočio na značajke slika poput pozivatelja u majicama, mobitela, ručnih satova i lica. Neke od ovih značajki imaju očite, pouzdane uzorke koje AI može izbrusiti, poput činjenice da ljudi često nose mobitele u desnoj ruci i da su gumbi na ovratnicima košulja često na lijevoj. Međutim, crte lica obično su vrlo simetrične, a razlike su male i vrlo ih je teško uočiti ljudskom promatraču.

Istraživači su izradili još jednu toplinsku kartu koja je istaknula područja lica na koja se AI fokusirala. AI je često koristio oči, kosu i bradu ljudi kako bi otkrio okrenute slike. Iz razloga koji nisu jasni, ljudi često gledaju malo ulijevo kada ih fotografiraju. Što se tiče zašto su kosa i brada pokazatelji izokrenutih slika, istraživači nisu sigurni, ali teoretiziraju da se rukohvat osobe može otkriti po načinu na koji se brije ili češlja. Iako ti pokazatelji mogu biti nepouzdani, kombiniranjem više pokazatelja istraživači mogu postići veću pouzdanost i točnost.

Bit će potrebno provesti više istraživanja u tom smjeru, ali ako su nalazi dosljedni i pouzdani, to bi moglo pomoći istraživačima da pronađu učinkovitije načine treniranja algoritama strojnog učenja. AI računalnog vida često se trenira pomoću odraza slika, jer je to učinkovit i brz način povećanja količine dostupnih podataka za obuku. Moguće je da bi analiza načina na koji se reflektirane slike razlikuju mogla pomoći istraživačima strojnog učenja da steknu bolje razumijevanje pristranosti prisutnih u modelima strojnog učenja koje bi mogle uzrokovati njihovu netočnu klasifikaciju slika.

Kao što je bio Snavely citirao ScienceDaily:

“Ovo dovodi do otvorenog pitanja za zajednicu računalnog vida, a to je, kada je u redu napraviti ovo preokretanje da biste povećali svoj skup podataka, a kada nije u redu? Nadam se da će ovo potaknuti ljude da više razmišljaju o ovim pitanjima i počnu razvijati alate za razumijevanje na koji način utječe na algoritam.”