Rolul inteligenței artificiale în curarea memoriei, identității și moștenirii

Omenirea face acum mai multe fotografii la fiecare două minute decât au fost capturate în întregul secol al XIX-lea. Miliarde de fotografii sunt create zilnic. Pentru mulți indivizi, un singur smartphone conține 10.000, 20.000, uneori 50.000 de imagini, iar acest număr continuă să crească. Pentru o mașină, aceasta este o bază de date de imagini de o scară extraordinară. Pentru un om, este ceva cu totul diferit.

Aceasta este o înregistrare a noilor sosiri și a zilelor de naștere importante, a vizitelor la spital și a vacanțelor, a nunților și a înmormântărilor. Conține ultima fotografie a unui bunic, prima imagine a unui copil nou-născut, instantaneul încețoșat făcut în momentele de dinainte de un accident. Aceste imagini nu sunt doar fișiere care trebuie clasificate, ci fragmente ale identității personale.

Pentru cei dintre noi care construim inteligență artificială care lucrează direct cu bibliotecile de fotografii ale oamenilor, această scară creează o provocare foarte particulară. Nu mai construim instrumente care gestionează biblioteci de media. Proiectăm sisteme care influențează modul în care oamenii revizitează și își amintesc viețile. Și această schimbare, combinată cu o scară de date fără precedent, cere un model de încredere fundamental diferit.

Conținutul sensibil parte din viața obișnuită

Tehnologia viziune computerizată este adesea utilizată pentru a detecta fețe, zâmbete, monumente și activități. Când aplicăm aceste tehnici bibliotecilor personale de fotografii, ele pot grupa fotografii asemănătoare, sugera momente importante și genera “amintiri” pentru a le revizita și reflecta asupra lor.

Bibliotecile personale de fotografii devin din ce în ce mai asemănătoare unor jurnale. Mulți dintre noi ajungem instinctiv la telefoanele noastre pentru a captura momente de zi cu zi, știind că vor fi stocate – chiar dacă nu ne mai întoarcem la ele. În acest sens, bibliotecile noastre de fotografii devin înregistrări nefiltrate ale vieții, care conțin momente care sunt plăcute, dureroase sau banale.

La o scară mică, organizarea automată a fotografiilor pare să fie ușoară și utilă. Dar bibliotecile personale conțin acum adesea zeci de mii de imagini. În practică, sistemele de acest fel trebuie să ia mii de decizii mici în numele utilizatorului: care fețe să prioritizeze, care fotografii reprezintă cel mai bine un an și care momente merită să fie readuse în atenție. La această scară, chiar și o rată de eroare mică devine semnificativă din punct de vedere emoțional. O rată de eroare de 1% la o bibliotecă de 20.000 de fotografii ar putea duce la sute de imagini care sunt prezentate în context greșit sau interpretate greșit.

Una dintre lucrurile pe care le înveți repede atunci când lucrezi cu biblioteci reale de fotografii este cât de des apar momente sensibile lângă momente de zi cu zi. Spitale, înmormântări, momente de suferință – lângă alegeri de produse care favorizează reținerea. Dar la fel de important este recunoașterea limitelor interpretării automate.

Înțelegerea perfectă a sensului pe care o imagine îl are pentru un anumit individ este rareori posibilă. Rolul inteligenței artificiale nu este de a determina sensul în numele cuiva, ci de a ajuta la readucerea în atenție a momentelor pe care oamenii ar putea dori să le reviziteze și să reflecteze asupra lor în moduri care li se par potrivite. Într-o lume în care instrumentele digitale modelează din ce în ce mai mult modul în care ne organizăm viețile, albumele de fotografii rămân profund personale.

Locul în care are loc procesarea contează

Există și o întrebare structurală despre modul și locul în care sunt procesate imaginile. Sistemele de inteligență artificială bazate pe cloud agregă și analizează cantități uriașe de date la distanță – un model care a permis progrese extraordinare în capacitate.

Când ne ocupăm de biblioteci private de fotografii, însă, sensibilitatea emoțională este mult mai mare. Imaginile copiilor, momente intime de familie și chiar experiențe de sfârșit de viață sunt printre cele mai personale înregistrări pe care le posedă oamenii. Oricine construiește tehnologie care interacționează cu acest tip de date realizează rapid că deciziile arhitecturale nu sunt pur tehnice. Trimiterea de imagini către servere remote pentru analiză poate părea intruzivă, chiar și atunci când există garanții puternice.

Progresele în domeniul hardware-ului mobil fac ca procesarea directă a bibliotecilor mari de fotografii pe dispozitiv să devină din ce în ce mai fezabilă. Acest lucru permite o înțelegere sofisticată a imaginilor fără a exporta întreaga colecție în cloud. În acest context, arhitectura tehnică devine o reflectare a valorilor. Decizia cu privire la locul în care are loc procesarea poate influența direct cât de mult control au indivizii asupra propriilor amintiri.

Etica memoriei automate

Când inteligența artificială selectează fotografii, ea influențează modul în care oamenii își amintesc viețile. Un sistem care selectează “cele mai bune fotografii ale anului” decide implicit care momente sunt cele mai importante. O funcție care evidențiază anumite fețe mai frecvent poate modela subtil modul în care relațiile sunt prioritizate vizual.

În contrast cu erorile din optimizarea publicității sau previziunile logistice, greșelile în curarea memoriei sunt personale. O reapariție nepotrivită a unei imagini poate readuce la viață durerea în mod neașteptat. O relație semnificativă poate fi subreprezentată doar pentru că un algoritm a eșuat să recunoască importanța sa. În timp, aceste selecții automate pot influența modul în care oamenii își nară viețile.

Aceasta ridică întrebări dificile. Ar trebui un algoritm să decidă care fotografii reprezintă cel mai bine pe cineva care a decedat? Ar trebui să supprime imagini pe care le consideră dureroase sau să lase această alegere în întregime utilizatorului? Cum ar trebui să se comporte atunci când nu poate determina cu certitudine dacă o scenă este festivă sau solemnă?

Proiectarea etică în acest spațiu depinde de smerenie. Sistemele trebuie să fie transparente cu privire la momentele în care inteligența artificială face selecții și să facă ușor revizuirea, editarea și anularea alegerilor automate. Pragurile de încredere pentru readucerea în atenție a conținutului potențial sensibil trebuie stabilite cu ocazie deosebită.

Încrederea ca o cerință umană

Dezbaterea publică despre etica inteligenței artificiale se axează adesea pe informații false, pe prejudecăți sau pe formarea de modele la scară largă. Aceste conversații sunt, desigur, necesare și importante. Dar dincolo de titluri, există o altă dimensiune, mai puțin vizibilă, a eticii inteligenței artificiale care se desfășoară în casele familiilor de zi cu zi.

Doar un număr mic de echipe construiesc în prezent sisteme de inteligență artificială care curăță biblioteci personale de fotografii la scară globală. Luăm decizii care influențează modul în care milioane de istorii personale sunt organizate și amintite.

Când cineva deschide biblioteca sa de fotografii, el interacționează cu propria sa poveste. Dacă sistemele de inteligență artificială tratează această poveste cu neglijență, impactul poate fi intens personal. O notificare nepotrivită sau un montaj automat insensibil poate redeschide răni care au necesitat ani pentru a se vindeca.

Lucrul în acest spațiu face ca această responsabilitate să pară neobișnuit de concretă. Proiectarea inteligenței artificiale pentru fotografia personală cere, prin urmare, o mentalitate diferită – mai ales pe măsură ce scara capturii de fotografii continuă să crească. Sensibilitatea emoțională nu poate fi adăugată după implementare, iar confidențialitatea nu poate fi tratată ca o setare de fundal. Aceste considerații trebuie să modeleze sistemul de la început.

Pe măsură ce capacitățile de inteligență artificială continuă să se extindă, tentația va fi de a automatiza mai multe aspecte ale vieților noastre digitale. În domeniul fotografiilor personale, însă, progresul ar trebui să fie măsurat diferit. Mai degrabă decât eficiența sau optimizarea, succesul constă în construirea de sisteme care recunosc greutatea emoțională a imaginilor pe care le ating.

Fotografiile noastre documentează cine suntem și cine am fost. Orice inteligență artificială încredințată cu ele trebuie să recunoască că operează într-unul dintre cele mai umane spații pe care tehnologia le poate pătrunde.