AI’s rolle i kuratering af hukommelse, identitet og arv

Menneskeheden tager nu flere billeder hver to minutter end der blev fanget i hele 1800-tallet. Milliarder bliver skabt dagligt. For mange individer indeholder en enkelt smartphone 10.000, 20.000, nogle gange 50.000 billeder, og dette tal vokser kun. For en maskine er dette et billedsæt af ekstraordinær skala. For et menneske er det noget helt andet.

Det er en optagelse af nye ankomster og fødselsdage, hospitalbesøg og ferier, bryllupper og begravelse. Det indeholder det sidste billede af en bedsteforælder, det første billede af et nyfødt barn, det uklare snapshot taget øjeblikke før en ulykke. Disse billeder er ikke blot filer, der skal klassificeres, men fragmenter af personlig identitet.

For os, der bygger AI, der arbejder direkte med menneskers fotobiblioteker, skaber denne skala en meget specifik udfordring. Vi bygger ikke længere værktøjer, der administrerer mediebiblioteker. Vi designer systemer, der påvirker, hvordan mennesker genser og husker deres liv. Og denne ændring, kombineret med en uden precedent dataskala, kræver en fundamentalt anderledes tillidsmodel.

Følsomt indhold er en del af det almindelige liv

Computer vision teknologi bruges ofte til at detektere ansigter, smil, vartegn og aktiviteter. Når vi anvender disse tekniker til personlige fotobiblioteker, kan de gruppere lignende billeder, foreslå højdepunkter og generere ‘erindringer’ til at gensere og reflektere over.

Personlige fotobiblioteker bliver mere og mere dagbogs-lignende. Mange af os griber instinktivt efter vores telefoner for at fange hverdagsmomenter, selv om vi aldrig vender tilbage til dem. I den forstand bliver vores fotobiblioteker ufiltrorede optagelser af livet, som det udvikler sig, og indeholder øjeblikke, der er glade, smertefulde eller dagligdags.

På en lille skala føles automatiseret fotoorganisation let og hjælpsom. Men personlige biblioteker indeholder ofte nu titusinder af billeder. I praksis må systemer som disse træffe tusinder af små beslutninger på en brugers vegne: hvilke ansigter der skal prioriteres, hvilke billeder bedst repræsenterer et år, og hvilke øjeblikke fortjener at blive genseret. På den skala bliver selv en lille fejlrate følelsesmæssigt betydningsfuld. En fejlrate på 1% over et bibliotek på 20.000 billeder kunne resultere i hundredvis af billeder, der bliver vist i forkert kontekst eller misfortolket helt.

En ting, man lærer hurtigt, når man arbejder med rigtige fotobiblioteker, er, hvor ofte følsomme øjeblikke optræder sammen med hverdagsøjeblikke. Hospitaler, begravelse, øjeblikke af desperation – sammen med produktvalg, der favoriserer tilbageholdenhed. Men lige så vigtigt er det at anerkende grænserne for automatiseret fortolkning.

At forstå fuldstændigt, hvilken betydning et billede har for en bestemt person, er sjældent muligt. AI’s rolle er ikke at bestemme betydning på en persons vegne, men at hjælpe med at fremme øjeblikke, som mennesker måske ønsker at gensere og reflektere over på en måde, der føles passende for dem. I en verden, hvor digitale værktøjer i stigende grad former, hvordan vi organiserer vores liv, forbliver fotobiblioteker dybt personlige.

Hvor behandling sker, har betydning

Der er også en strukturel spørgsmål om, hvordan og hvor billeder behandles. Cloud-baserede AI-systemer samler og analyserer enorme mængder af data fjernt – en model, der har muliggjort ekstraordinære fremskridt i kapacitet.

Når det handler om private fotobiblioteker, er den følelsesmæssige følsomhed langt større. Billeder af børn, intime familiemøder og endda erfaringer ved livets slutning er blandt de mest personlige optagelser, mennesker besidder. Enhver, der bygger teknologi, der interagerer med denne type data, erkender hurtigt, at arkitekturbeslutningerne ikke kun er tekniske. At sende billeder til fjerntliggende servere til analyse kan føles intrusivt, selv når der er stærke sikkerhedsforanstaltninger.

Fremgang i mobilhardware gør det mere og mere muligt at behandle store fotobiblioteker direkte på enheden. Dette tillader avanceret billedforståelse uden at eksportere hele samlinger til cloud. I denne kontekst bliver teknisk arkitektur en refleksion af værdier. Beslutningen om, hvor behandling sker, kan direkte påvirke, hvor meget kontrol individer beholder over deres egne erindringer.

Etikken i automatiseret hukommelse

Når AI kuraterer billeder, påvirker det, hvordan mennesker husker deres liv. Et system, der vælger “årets bedste” billeder, beslutter implicit, hvilke øjeblikke der betyder mest. En funktion, der fremhæver bestemte ansigter mere hyppigt, kan subtilt forme, hvordan relationer visuelt prioriteres.

I modsætning til fejl i reklameoptimering eller logistikforudsigelse er fejl i hukommelseskuratering personlige. En dårligt timet gensering af et billede kan uventet genoplive sorg. En betydningsfuld relation kan være underrepræsenteret, blot fordi en algoritme ikke kunne genkende dets betydning. Over tid kan disse automatiserede valg stille og roligt påvirke, hvordan mennesker fortæller deres eget liv.

Dette rejser svære spørgsmål. Skal en algoritme beslutte, hvilke billeder bedst repræsenterer en person, der er død? Skal den undertrykke billeder, den betragter som foruroligende, eller overlade dette valg helt til brugeren? Hvordan skal den opføre sig, når den ikke kan fastslå, om en scene er fejrer eller alvorlig?

Etisk design i dette område afhænger af ydmyghed. Systemer skal være gennemsigtige om, når AI træffer valg, og gøre det let at gennemse, redigere og omgå automatiserede valg. Tillidsniveauer for at fremme potentielt følsomt indhold skal sættes med særlig forsigtighed.

Tillid som et menneskeligt krav

Offentlige debatter om AI-etik fokuserer ofte på misinformation, bias eller storstilelsesmodeltræning. Disse samtaler er naturligvis nødvendige og vigtige. Men ud over overskrifterne er der en anden, mindre synlig dimension af AI-etik, der spiller sig af i familiehjem hver dag.

Kun et lille antal hold bygger i øjeblikket AI-systemer, der kuraterer personlige fotobiblioteker i global skala. Vi træffer beslutninger, der påvirker, hvordan millioner af personlige historier organiseres og huskes.

Når nogen åbner deres fotobibliotek, engagerer de sig med deres egen historie. Hvis AI-systemer behandler denne historie omhyggeligt, kan virkningen være intens personlig. En dårligt timet meddelelse eller en ufølsom automatisk montage kan genåbne sår, der har taget år at hele.

At arbejde i dette område gør denne ansvar følelsesmæssigt nærværende. At designe AI til personlig fotografering kræver derfor en anden mindset – især da skalaen af fotografering fortsætter med at vokse. Følelsesmæssig følsomhed kan ikke boltes på efter udrulning, og privatliv kan ikke behandles som en baggrundssætning. Disse overvejelser må forme systemet fra begyndelsen.

Da AI-kapaciteterne fortsætter med at udvide sig, vil fristelsen være at automatisere mere af vores digitale liv. I området personlige billeder skal fremgang dog måles på en anden måde. I stedet for effektivitet eller optimering ligger succes i at bygge systemer, der erkender den følelsesmæssige vægt, der bæres af de billeder, de berører.

Vores billeder dokumenterer, hvem vi er og hvem vi har været. Enhver AI, der er betroet disse billeder, må erkende, at den opererer i et af de mest menneskelige rum, teknologi kan indtræde i.