Rola AI w kuracji pamięci, tożsamości i spuścizny

Ludzkość robi teraz więcej zdjęć co dwie minuty niż zostało sfotografowanych w całym XIX wieku. Każdego dnia powstają miliardy nowych zdjęć. Dla wielu osób pojedynczy smartfon zawiera 10 000, 20 000, czasem nawet 50 000 zdjęć, a ta liczba nieustannie rośnie. Dla maszyny jest to zbiór danych o niezwykłej skali. Dla człowieka jest to coś zupełnie innego.

Jest to zapis nowych przyjść i urodzin, wizyt w szpitalu i świąt, wesel i pogrzebów. Zawiera ostatnie zdjęcie dziadka, pierwsze zdjęcie noworodka, rozmyte zdjęcie wykonane chwilę przed wypadkiem. Te zdjęcia nie są po prostu plikami do sklasyfikowania, ale fragmentami osobistej tożsamości.

Dla nas, którzy budujemy AI, która współpracuje bezpośrednio z bibliotekami zdjęć ludzi, ta skala stwarza bardzo szczególny wyzwanie. Nie budujemy już narzędzi do zarządzania bibliotekami mediów. Projektujemy systemy, które wpływają na to, jak ludzie wspominają i przypominają sobie swoje życie. I ta zmiana, w połączeniu z niezwykłą skalą danych, wymaga fundamentalnie innego modelu zaufania.

Treści wrażliwe są częścią zwyczajnego życia

Technologia computer vision jest często używana do wykrywania twarzy, uśmiechów, punktów orientacyjnych i działań. Gdy stosujemy te techniki do osobistych bibliotek zdjęć, mogą one grupować podobne zdjęcia, sugerować najważniejsze chwile i generować „wspomnienia” do przypomnienia i refleksji.

Osobiste biblioteki zdjęć stają się coraz bardziej podobne do dzienników. Wiele z nas instynktownie sięga po telefon, aby uchwycić codzienne chwile, wiedząc, że będą one przechowywane – nawet jeśli nigdy do nich nie wrócimy. W tym sensie nasze biblioteki zdjęć stają się niefiltrowanym zapisem życia, jak się ono rozwija, zawierając chwile radosne, bolesne lub zwyczajne.

W małej skali, automatyczna organizacja zdjęć wydaje się prosta i pomocna. Ale osobiste biblioteki często zawierają teraz dziesiątki tysięcy zdjęć. W praktyce systemy takie muszą podejmować tysiące małych decyzji w imieniu użytkownika: które twarze powinny być priorytetowe, które zdjęcia najlepiej reprezentują rok, a które chwile zasługują na ponowne pojawienie się. W tej skali nawet niewielki wskaźnik błędów staje się emocjonalnie istotny. Wskaźnik błędów na poziomie 1% w bibliotece 20 000 zdjęć może skutkować setkami zdjęć wyświetlanych w niewłaściwym kontekście lub całkowicie błędnie interpretowanych.

Jedną rzeczą, którą szybko się uczymy, pracując z prawdziwymi bibliotekami zdjęć, jest to, jak często pojawiają się wrażliwe momenty obok zwyczajnych. Szpitale, pogrzeby, momenty dystryasu – obok wyborów produktów, które faworyzują powściągliwość. Ale równie ważne jest rozpoznanie granic automatycznej interpretacji.

Doskonałe zrozumienie znaczenia, jakie zdjęcie ma dla konkretnego jednostki, jest rzadko możliwe. Rola AI nie polega na określaniu znaczenia w imieniu kogoś, ale na pomocy w wyświetlaniu chwil, które ludzie mogą chcieć przypomnieć i rozważyć w sposób, który im się podoba. W świecie, w którym cyfrowe narzędzia coraz bardziej kształtują, jak organizujemy nasze życie, albumy zdjęć pozostają głęboko osobiste.

Gdzie przetwarzanie się odbywa, ma znaczenie

Istnieje również strukturalne pytanie o to, jak i gdzie są przetwarzane zdjęcia. Chmura oparte systemy AI agregują i analizują ogromne ilości danych na odległość – model, który umożliwił nadzwyczajne postępy w możliwościach.

Jednak przy pracy z prywatnymi bibliotekami zdjęć wrażliwość emocjonalna jest znacznie większa. Zdjęcia dzieci, intymnych chwil rodzinnych, a nawet doświadczeń związanych z końcem życia są wśród najbardziej osobistych zapisów, jakie ludzie posiadają. Każdy, kto buduje technologię, która wchodzi w interakcje z tym rodzajem danych, szybko zdaje sobie sprawę, że decyzje architektoniczne nie są czysto techniczne. Wysłanie zdjęć na odległe serwery do analizy może wydawać się inwazyjne, nawet gdy istnieją silne zabezpieczenia.

Postępy w sprzęcie mobilnym sprawiają, że coraz bardziej jest możliwe przetwarzanie dużych bibliotek zdjęć bezpośrednio na urządzeniu. To pozwala na zaawansowane zrozumienie obrazu bez eksportowania całych kolekcji do chmury. W tym kontekście architektura techniczna staje się odbiciem wartości. Decyzja o tym, gdzie przetwarzanie się odbywa, może bezpośrednio wpłynąć na to, jaką kontrolę poszczególne osoby zachowują nad własnymi wspomnieniami.

Etyka automatycznej pamięci

Gdy AI kuruje zdjęcia, wpływa na to, jak ludzie wspominają swoje życie. System, który wybiera „najlepsze zdjęcia roku”, implicite decyduje, które chwile są najważniejsze. Funkcja, która podkreśla pewne twarze częściej, może subtelnie kształtować, jak relacje są wizualnie priorytetowe.

W przeciwieństwie do błędów w optymalizacji reklam lub prognozowaniu logistyki, błędy w kuracji pamięci są osobiste. Niefortunne ponowne pojawienie się zdjęcia może niespodziewanie wznowić żal. Istotna relacja może być niedoreprezentowana tylko dlatego, że algorytm nie rozpoznał jej znaczenia. Z czasem te automatyczne wybory mogą cicho wpływać na to, jak ludzie opowiadają o swoim własnym życiu.

To podnosi trudne pytania. Czy algorytm powinien decydować, które zdjęcia najlepiej reprezentują kogoś, kto odszedł? Czy powinien tłumić zdjęcia, które uważa za niepokojące, czy pozostawić tę decyzję całkowicie użytkownikowi? Jak powinien się zachować, gdy nie może z całą pewnością określić, czy scena jest celebracyjna czy poważna?

Etyczny projekt w tym zakresie zależy od pokory. Systemy powinny być przejrzyste, gdy AI podejmuje wybory, i umożliwiać łatwe przeglądanie, edytowanie i anulowanie automatycznych wyborów. Progi ufności dla pojawiających się potencjalnie wrażliwych treści powinny być ustawione z szczególną ostrożnością.

Zaufanie jako wymóg ludzki

Publiczne debaty na temat etyki AI często koncentrują się na dezinformacji, uprzedzeniach lub szkoleniu dużych modeli. Te rozmowy są oczywiście konieczne i ważne. Ale poza nagłówkami istnieje inna, mniej widoczna wymiar etyki AI, która odbywa się w domach rodzinnych każdego dnia.

Tylko niewielka liczba zespołów obecnie buduje systemy AI, które kurują osobiste biblioteki zdjęć w skali globalnej. Podejmujemy decyzje, które wpływają na to, jak miliony osobistych historii są organizowane i wspominane.

Gdy ktoś otwiera swoją bibliotekę zdjęć, wchodzi w interakcję ze swoją własną historią. Jeśli systemy AI radzą sobie z tą historią niedbale, wpływ może być intensywnie osobisty. Niefortunne powiadomienie lub niewrażliwa automatyczna montaż może ponownie otworzyć rany, które zajęły lata, aby się zagoić.

Praca w tym zakresie sprawia, że ta odpowiedzialność wydaje się niezwykle namacalna. Projektowanie AI dla osobistej fotografii wymaga więc innego nastawienia – zwłaszcza gdy skala fotografowania nieustannie rośnie. Wrażliwość emocjonalna nie może być dodana po wdrożeniu, a prywatność nie może być traktowana jako tło. Te rozważania muszą kształtować system od samego początku.

Gdy możliwości AI nadal się rozwijają, pokusą będzie zautomatyzowanie większej części naszego cyfrowego życia. W dziedzinie osobistych zdjęć jednak postęp powinien być mierzony inaczej. Zamiast wydajności lub optymalizacji, sukces leży w budowaniu systemów, które rozpoznają emocjonalny ciężar, jaki niosą ze sobą zdjęcia, którymi się zajmują.

Nasze zdjęcia dokumentują, kim jesteśmy i kim byliśmy. Każde AI, które jest im powierzone, musi rozpoznać, że działa w jednym z najbardziej ludzkich przestrzeni, jakie technologia może wejść.