Role AI při kurátorství paměti, identity a odkazu

Lidská společnost nyní pořídí více fotografií za dvě minuty, než bylo pořízeno za整个 19. století. Každý den jsou vytvořeny miliardy fotografií. Pro mnoho jedinců obsahuje jeden smartphone 10 000, 20 000, někdy 50 000 obrázků, a toto číslo neustále roste. Pro stroj je to obrazový datový soubor mimořádného rozsahu. Pro člověka je to něco úplně jiného.

Jedná se o záznam nového příjezdu a narozenin, hospitalizací a svátků, svateb a pohřbů. Obsahuje poslední fotografii prarodiče, první obraz nového dítěte, rozmazanou fotografii pořízenou okamžiky před nehodou. Tyto obrázky nejsou pouze soubory, které je třeba klasifikovat, ale fragmenty osobní identity.

Pro ty z nás, kteří staví AI, která přímo spolupracuje s lidmi na jejich fotografiích, vytváří tento rozsah velmi specifickou výzvu. Už nefungujeme jako nástroje pro správu médií. Navrhujeme systémy, které ovlivňují, jak lidé vzpomínají a prožívají své životy. A tato změna, kombinovaná s nebývalým rozsahem dat, vyžaduje фундаментálně odlišný model důvěry.

Citlivý obsah je součástí běžného života

Computer vision technologie je často používána k detekci obličejů, úsměvů, památek a aktivit. Když aplikujeme tyto techniky na osobní fotografičky, mohou seskupit podobné fotografie, navrhnout výřezy a generovat „paměti“, které lze procházet a na které lze vzpomínat.

Osobní fotografičky se stávají stále více deníkovými. Mnozí z nás instinktivně sahají po svých telefonech, aby zachytili každodenní momenty, vědomi si, že budou uloženy – i když se k nim nikdy nevrátíme. V tomto smyslu se naše fotografičky stávají nefiltrovanými záznamy života, jak se vyvíjí, obsahujícími okamžiky, které jsou radostné, bolestivé nebo všední.

V malém měřítku se automatizovaná organizace fotografií zdá být přímou a užitečnou. Ale osobní knihovny nyní často obsahují desítky tisíc obrázků. V praxi musí systémy, jako jsou tyto, učinit tisíce malých rozhodnutí za uživatele: které obličeje upřednostnit, které fotografie nejlépe reprezentují rok, a které okamžiky zasluhují opětovné prohlížení. V tomto rozsahu se i malá chybovost stává emocionálně významnou. Chybovost 1 % v knihovně 20 000 fotografií by mohla vést k tomu, že stovky obrázků budou zobrazeny v nesprávném kontextu nebo úplně nesprávně interpretovány.

Jedna věc, kterou se rychle naučíte, když pracujete s opravdovými fotografiemi, je to, jak často se objevují citlivé okamžiky vedle všedních. Nemocnice, pohřby, okamžiky tísně – vedle produktů, které upřednostňují zdrženlivost. Ale stejně důležité je uznání limitů automatické interpretace.

Dokonalé pochopení významu, který má obraz pro konkrétního jedince, je zřídka možné. Role AI není určit význam jménem někoho jiného, ale pomoci objevit okamžiky, které lidé mohou chtít procházet a vzpomínat na způsobem, který se jim zdá vhodný. Ve světě, kde digitální nástroje stále více formují, jak organizujeme své životy, zůstávají fotografické alba hluboce osobní.

Místo zpracování má význam

Existuje také strukturální otázka, jak a kde se zpracovávají obrázky. Cloud-based AI systémy agregují a analyzují obrovské množství dat vzdáleně – model, který umožnil nebývalý pokrok v možnostech.

Při zpracování soukromých fotografií je však emocionální citlivost mnohem větší. Obrázky dětí, intimních rodinných okamžiků a dokonce i zkušeností ze konce života jsou mezi nejvíce osobními záznamy, které lidé vlastní. Kdokoli, kdo buduje technologii, která interaguje s tímto typem dat, si rychle uvědomí, že architektonická rozhodnutí nejsou čistě technická. Odesílání obrázků na vzdálené servery pro analýzu může být vnímáno jako invazivní, i když existují silná bezpečnostní opatření.

Pokroky v mobilním hardwaru činí stále více možné zpracovávat velké fotografičky přímo na zařízení. To umožňuje sofistikované pochopení obrázků bez exportu celých sbírek do cloudu. V tomto kontextu se technická architektura stává odrazem hodnot. Rozhodnutí o tom, kde se zpracování provádí, může přímo ovlivnit, jak velkou kontrolu nad vlastními vzpomínkami si jedinci uchovají.

Etika automatizované paměti

Když AI kurátorsky vybírá fotografie, ovlivňuje, jak lidé vzpomínají na své životy. Systém, který vybírá „nejlepší fotografie roku“, implicitně rozhoduje, které okamžiky jsou nejdůležitější. Funkce, která zdůrazňuje určitá obličeje častěji, může jemně formovat, jak jsou vizuálně upřednostňovány vztahy.

Na rozdíl od chyb v optimalizaci reklamy nebo logistickém předpovídání jsou chyby v kurátorství paměti osobní. Špatně načasované opětovné zobrazení obrázku může neočekávaně obnovit smutek. Významný vztah by mohl být podreprezentován prostě因为 algoritmus selhal rozpoznat jeho důležitost. V průběhu času mohou tyto automatizované výběry tiše ovlivňovat, jak lidé vyprávějí o svých vlastních životech.

To vyvolává obtížné otázky. Měl by algoritmus rozhodnout, které fotografie nejlépe reprezentují někoho, kdo zemřel? Měl by potlačit obrázky, které považuje za stresující, nebo nechat tuto volbu zcela na uživateli? Jak by se měl chovat, když nemůže s jistotou určit, zda je scéna oslavná nebo smutná?

Etická konstrukce v tomto prostoru závisí na skromnosti. Systémy by měly být transparentní, když AI činí výběry, a měly by umožnit snadné prohlížení, editaci a přepsání automatizovaných voleb. Práh pro surface citlivého obsahu by měl být stanoven s velkou opatrností.

Důvěra jako lidská potřeba

Veřejné debaty o etice AI se často soustředí na dezinformace, předpojatost nebo rozsáhlé školení modelů. Tyto diskuse jsou samozřejmě nezbytné a důležité. Ale za hlavami je další, méně viditelný rozměr etiky AI, který se odehrává v rodinných domech každý den.

Pouze malé množství týmů目前 staví AI systémy, které kurátorsky vybírají osobní fotografičky v globálním měřítku. Činíme rozhodnutí, která ovlivňují, jak jsou organizovány a vzpomínány miliony osobních historií.

Když někdo otevře svou fotografičku, interaguje se svou vlastní příběh. Pokud AI systémy zpracovávají tento příběh nedbale, může mít dopad intenzivně osobní. Špatně načasovaná notifikace nebo necitlivá automatická montáž mohou opět otevřít rány, které se uzdravily za roky.

Práce v tomto prostoru činí tuto zodpovědnost neobvykle hmatatelnou. Navrhování AI pro osobní fotografie proto vyžaduje odlišný přístup – zejména když rozsah pořizování fotografií pokračuje v růstu. Emocionální citlivost nemůže být přidána až po nasazení, a ochrana soukromí nemůže být považována za pozadí. Tyto úvahy musí formovat systém od samého začátku.

Jakmile se schopnosti AI budou dále rozšiřovat, bude lákavé automatizovat více našich digitálních životů. V oblasti osobních fotografií by však pokrok měl být měřen jinak. Místo efektivity nebo optimalizace spočívá úspěch v budování systémů, které rozpoznávají emocionální váhu, kterou nesou obrázky, které se jich dotýkají.

Naše fotografie dokumentují, kým jsme a kým jsme byli. Jakékoli AI, které jsou jim svěřeny, musí uznat, že fungují v jednom z nejvíce lidských prostorů, do kterých může technologie vstoupit.