AI’s rolle i kuratering af hukommelse, identitet og arv

Menneskeheden tager nu mere billeder hver to minutter end der blev taget i hele 1800-tallet. Milliarder bliver skabt dagligt. For mange individer indeholder en enkelt smartphone 10.000, 20.000, nogle gange 50.000 billeder, og det tal fortsætter med at vokse. For en maskine er dette et billedsæt af ekstraordinær skala. For et menneske er det noget helt andet.

Det er en optagelse af nye ankomster og fødselsdage, hospitalsbesøg og ferier, bryllupper og begravelsesceremonier. Det indeholder det sidste billede af en bedsteforælder, det første billede af et nyfødt barn, det uklare snapshot taget øjeblikke før en ulykke. Disse billeder er ikke blot filer, der skal klassificeres, men fragmenter af personlig identitet.

For os, der bygger AI, der arbejder direkte med folks fotobiblioteker, skaber denne skala en meget specifik udfordring. Vi bygger ikke længere værktøjer, der administrerer mediebiblioteker. Vi designer systemer, der påvirker, hvordan folk genser og husker deres liv. Og den ændring, kombineret med en hidtil uset dataskala, kræver en fundamentalt anderledes tillidsmodel.

Følsomt indhold er en del af det almindelige liv

Computer vision teknologi bruges ofte til at detektere ansigter, smil, vartegn og aktiviteter. Når vi anvender disse tekniker på personlige fotobiblioteker, kan de gruppere lignende billeder, foreslå højdepunkter og generere ‘erindringer’ til at gensere og reflektere over.

Personlige fotobiblioteker bliver mere og mere dagbogs-lignende. Mange af os griber instinktivt efter vores telefoner for at fange hverdagsmomenter, selv om vi aldrig vender tilbage til dem. I den forstand bliver vores fotobiblioteker ufiltrorede optagelser af livet, som det udvikler sig, og indeholder øjeblikke, der er glade, smertefulde eller banale.

På en lille skala føles automatiseret foto-organisation gennemførlig og hjælpsom. Men personlige biblioteker indeholder ofte nu titusinder af billeder. I praksis må systemer som disse træffe tusinder af små beslutninger på brugernes vegne: hvilke ansigter at prioritere, hvilke billeder bedst repræsenterer et år, og hvilke øjeblikke fortjener at blive genseret. På den skala bliver selv en lille fejlrate følelsesmæssigt betydningsfuld. En fejlrate på 1% over et bibliotek på 20.000 billeder kunne resultere i hundredvis af billeder, der bliver vist i forkert kontekst eller misfortolket helt.

En ting, man lærer hurtigt, når man arbejder med rigtige fotobiblioteker, er, hvor ofte følsomme øjeblikke optræder sammen med hverdagsøjeblikke. Hospitaler, begravelsesceremonier, øjeblikke af desperation – sammen med produktvalg, der favoriserer tilbageholdenhed. Men lige så vigtigt er det at erkende grænserne for automatiseret fortolkning.

At forstå fuldstændigt, hvilken betydning et billede har for en bestemt person, er sjældent muligt. AI’s rolle er ikke at bestemme betydning på noenones vegne, men at hjælpe med at fremme øjeblikke, som folk måske vil gensere og reflektere over på en måde, der føles passende for dem. I en verden, hvor digitale værktøjer i stigende grad former, hvordan vi organiserer vores liv, forbliver fotobiblioteker dybt personlige.

Hvor behandling sker, betyder noget

Der er også en strukturel spørgsmål om, hvordan og hvor billeder behandles. Cloud-baserede AI-systemer samler og analyserer enorme mængder af data fjernt – en model, der har muliggjort ekstraordinære fremskridt i kapacitet.

Når vi har med private fotobiblioteker at gøre, er den følelsesmæssige følsomhed langt større. Billeder af børn, intime familiemomenter og endda erfaringer ved livets slutning er blandt de mest personlige optagelser, folk besidder. Enhver, der bygger teknologi, der interagerer med denne type data, erkender hurtigt, at arkitektur-beslutningerne ikke kun er tekniske. At sende billeder til fjerntliggende servere til analyse kan føles intrusivt, selv når der er stærke sikkerhedsforanstaltninger.

Fremgang i mobil hardware gør det mere og mere muligt at behandle store fotobiblioteker direkte på enheden. Dette tillader avanceret billedforståelse uden at eksportere hele samlinger til skyen. I denne kontekst bliver teknisk arkitektur en refleksion af værdier. Beslutningen om, hvor behandling sker, kan direkte påvirke, hvor meget kontrol individer har over deres egne erindringer.

Etikken i automatiseret hukommelse

Når AI kuraterer billeder, påvirker det, hvordan folk husker deres liv. Et system, der vælger “årets bedste” billeder, beslutter implicit, hvilke øjeblikke der betyder mest. En funktion, der fremhæver bestemte ansigter mere hyppigt, kan subtilt forme, hvordan relationer visuelt prioriteres.

I modsætning til fejl i reklameoptimering eller logistikforudsigelse er fejl i hukommelseskuratering personlige. En dårligt timet gensyn af et billede kan uventet genoplive sorg. En betydningsfuld relation kan være underrepræsenteret, blot fordi en algoritme ikke kunne genkende dets betydning. Over tid kan disse automatiske valg stille og roligt påvirke, hvordan folk fortæller deres egne liv.

Dette rejser svære spørgsmål. Skal en algoritme afgøre, hvilke billeder bedst repræsenterer en person, der er død? Skal den undertrykke billeder, den betragter som smertefulde, eller overlade det fuldstændigt til brugeren? Hvordan skal den opføre sig, når den ikke kan fastslå, om en scene er fejrerlig eller alvorlig?

Etisk design i dette område afhænger af ydmyghed. Systemer skal være transparente om, når AI træffer valg, og gøre det let at gennemse, redigere og omgå automatiske valg. Tillidsniveauer for at fremme potentelt følsomt indhold skal fastsættes med særlig forsigtighed.

Tillid som et menneskeligt krav

Offentlige debatter om AI-etik fokuserer ofte på misinformation, bias eller storstile modeltræning. Disse diskussioner er naturligvis nødvendige og vigtige. Men ud over overskrifterne er der en anden, mindre synlig dimension af AI-etik, der udspiller sig i familiehjem hver dag.

Kun et lille antal hold bygger i øjeblikket AI-systemer, der kuraterer personlige fotobiblioteker i global skala. Vi træffer beslutninger, der påvirker, hvordan millioner af personlige historier organiseres og huskes.

Når nogen åbner deres fotobibliotek, interagerer de med deres egen historie. Hvis AI-systemer behandler den historie uforsigtigt, kan det have en intens personlig indvirkning. En dårligt timet notifikation eller en insensitiv automatisk montage kan genåbne sår, der har taget år at hele.

At arbejde i dette område gør denne ansvar følelsesmæssigt meget nærværende. At designe AI til personfotografering kræver derfor en anden mindset – især da skalaen af fotografering fortsætter med at vokse. Følelsesmæssig følsomhed kan ikke boltes på efter udrulning, og privatliv kan ikke behandles som en baggrundssætning. Disse overvejelser skal forme systemet fra begyndelsen.

Da AI-kapaciteterne fortsætter med at udvide sig, vil fristelsen være at automatisere mere af vores digitale liv. I området personlige billeder skal dog fremgang måles anderledes. I stedet for effektivitet eller optimering ligger succes i at bygge systemer, der erkender den følelsesmæssige vægt, der bæres af de billeder, de berører.

Vore billeder dokumenterer, hvem vi er og hvem vi har været. Enhver AI, der betrodes med dem, må erkende, at den opererer i et af de mest menneskelige rum, teknologi kan indtræde i.