Rolul IA în curarea memoriei, identității și moștenirii

Omenirea face acum mai multe fotografii la fiecare două minute decât au fost capturate în secolul al XIX-lea. Miliarde sunt create zilnic. Pentru mulți indivizi, un singur smartphone conține 10.000, 20.000, uneori 50.000 de imagini, iar acest număr continuă să crească. Pentru o mașină, acesta este un set de imagini de o scară extraordinară. Pentru un om, este ceva cu totul altceva.

Este un record al noilor sosiri și al zilelor de naștere importante, al vizitelor la spital și al vacanțelor, al nunților și al înmormântărilor. Conține ultima fotografie a unui bunic, prima imagine a unui copil nou-născut, instantaneul blurat făcut în momentele de dinainte de un accident. Aceste imagini nu sunt doar fișiere care trebuie clasificate, ci fragmente ale identității personale.

Pentru noi, cei care construim IA care lucrează direct cu bibliotecile de fotografii ale oamenilor, această scară creează o provocare deosebită. Nu mai construim unelte care gestionează biblioteci media. Proiectăm sisteme care influențează modul în care oamenii revizitează și își amintesc viețile. Și această schimbare, combinată cu scara de date fără precedent, cere un model de încredere fundamental diferit.

Conținutul sensibil face parte din viața obișnuită

Tehnologia de viziune computerizată este adesea utilizată pentru a detecta fețe, zâmbete, monumente și activități. Când aplicăm aceste tehnici asupra bibliotecilor personale de fotografii, ele pot grupa fotografii asemănătoare, sugera momente importante și genera “amintiri” pentru a le revedea și reflecta asupra lor.

Bibliotecile personale de fotografii devin din ce în ce mai asemănătoare unor jurnale. Mulți dintre noi ajungem instinctiv la telefoanele noastre pentru a captura momente de viață de zi cu zi, știind că vor fi stocate – chiar dacă nu ne vom întoarce la ele niciodată. În acest sens, bibliotecile noastre de fotografii devin înregistrări nefiltrate ale vieții, conținând momente care sunt plăcute, dureroase sau banale.

La o scară mică, organizarea automată a fotografiilor pare să fie ceva simplu și util. Dar bibliotecile personale conțin adesea zeci de mii de imagini. În practică, sistemele de acest fel trebuie să ia mii de decizii mici în numele utilizatorului: care fețe să prioriteze, care fotografii reprezintă cel mai bine un an și care momente merită să fie readuse la suprafață. La această scară, chiar și o rată de eroare mică devine semnificativă din punct de vedere emoțional. O rată de eroare de 1% la o bibliotecă de 20.000 de fotografii ar putea duce la sute de imagini care sunt afișate într-un context greșit sau interpretate greșit.

Un lucru pe care îl înveți repede atunci când lucrezi cu biblioteci reale de fotografii este cât de des apar momente sensibile lângă cele obișnuite. Spitale, înmormântări, momente de suferință – alături de alegeri de produse care favorizează reținerea. Dar la fel de important este recunoașterea limitelor interpretării automate.

Înțelegerea perfectă a sensului pe care o imagine îl are pentru un anumit individ este rareori posibilă. Rolul IA nu este de a determina sensul în numele cuiva, ci de a ajuta la aducerea la suprafață a momentelor pe care oamenii ar putea dori să le revede și să reflecteze asupra lor în moduri care li se par potrivite. Într-o lume în care instrumentele digitale formează din ce în ce mai mult modul în care ne organizăm viețile, albumele de fotografii rămân profund personale.

Unde are loc procesarea contează

Există și o întrebare structurală despre cum și unde sunt procesate imaginile. Sistemele IA bazate pe cloud agregă și analizează cantități uriașe de date la distanță – un model care a permis avansuri extraordinare în ceea ce privește capacitățile.

Când ne ocupăm de biblioteci private de fotografii, însă, sensibilitatea emoțională este mult mai mare. Imaginile cu copii, momente intime de familie și chiar experiențe de sfârșit de viață sunt printre cele mai personale înregistrări pe care le posedă oamenii. Oricine construiește tehnologie care interacționează cu acest tip de date realizează rapid că deciziile arhitecturale nu sunt pur tehnice. Trimiterea de imagini către servere remote pentru analiză poate părea intruzivă, chiar și atunci când există garanții puternice.

Progresele în hardware-ul mobil fac ca procesarea bibliotecilor mari de fotografii direct pe dispozitiv să devină din ce în ce mai fezabilă. Acest lucru permite o înțelegere sofisticată a imaginilor fără a exporta întreaga colecție în cloud. În acest context, arhitectura tehnică devine o reflectare a valorilor. Decizia despre unde are loc procesarea poate influența direct cât de mult control au indivizii asupra propriilor amintiri.

Etica memoriei automate

Când IA selectează fotografii, influențează modul în care oamenii își amintesc viețile. Un sistem care selectează “cea mai bună imagine a anului” decide implicit care momente sunt cele mai importante. O funcție care evidențiază anumite fețe mai frecvent poate modela subtil modul în care relațiile sunt prioritizate vizual.

Spre deosebire de erorile din optimizarea publicității sau previziunile logistice, greșelile în curarea amintirilor sunt personale. O reapariție nepotrivită a unei imagini poate reînvia durerea în mod neașteptat. O relație importantă poate fi subreprezentată doar pentru că un algoritm a eșuat în a recunoaște importanța sa. În timp, aceste selecții automate pot influența modul în care oamenii își nară viețile.

Acest lucru ridică întrebări dificile. Ar trebui un algoritm să decidă care fotografii reprezintă cel mai bine pe cineva care a murit? Ar trebui să suprime imagini pe care le consideră tulburătoare sau să lase această alegere în întregime utilizatorului? Cum ar trebui să se comporte atunci când nu poate determina cu certitudine dacă o scenă este celebratorie sau solemnă?

Proiectarea etică în acest spațiu depinde de smerenie. Sistemele trebuie să fie transparente atunci când IA face selecții și să facă ușor revizuirea, editarea și anularea alegerilor automate. Pragurile de încredere pentru afișarea conținutului potențial sensibil trebuie setate cu ocazie deosebită.

Încrederea ca o cerință umană

Dezbaterea publică despre etica IA se axează adesea pe informații false, prejudecăți sau antrenarea modelelor la scară largă. Aceste conversații sunt, desigur, necesare și importante. Dar dincolo de titluri, există o altă dimensiune, mai puțin vizibilă, a eticii IA care se desfășoară în casele familiilor de zi cu zi.

Doar un număr mic de echipe construiesc în prezent sisteme IA care curatează biblioteci personale de fotografii la scară globală. Noi luăm decizii care influențează modul în care milioane de istorii personale sunt organizate și amintite.

Când cineva deschide biblioteca sa de fotografii, el interacționează cu propria sa poveste. Dacă sistemele IA gestionează această poveste cu îngrijorare, impactul poate fi intens personal. O notificare nepotrivită sau un montaj automat insensibil poate redeschide răni care au necesitat ani pentru a se vindeca.

Lucrul în acest domeniu face ca această responsabilitate să se simtă neobișnuit de tangibilă. Proiectarea IA pentru fotografia personală cere, prin urmare, o mentalitate diferită – mai ales pe măsură ce scara capturii de fotografii continuă să crească. Sensibilitatea emoțională nu poate fi adăugată după implementare, iar confidențialitatea nu poate fi tratată ca o setare de fundal. Aceste considerații trebuie să modeleze sistemul de la început.

Pe măsură ce capacitățile IA continuă să se extindă, tentația va fi de a automatiza mai multe aspecte ale vieții noastre digitale. În domeniul fotografiilor personale, însă, progresul trebuie măsurat diferit. Mai degrabă decât eficiența sau optimizarea, succesul constă în construirea sistemelor care recunosc greutatea emoțională pe care o poartă imaginile pe care le ating.

Fotografiile noastre documentează cine suntem și cine am fost. Orice IA încredințată cu ele trebuie să recunoască că operează în unul dintre cele mai umane spații pe care tehnologia le poate pătrunde.