Роль штучного інтелекту у кураторстві пам’яті, ідентичності та спадщини

Людство тепер робить більше фотографій кожні дві хвилини, ніж було зроблено за весь 19 століття. Більйони створюються щодня. Для багатьох осіб один смартфон містить 10 000, 20 000, іноді 50 000 зображень, і ця кількість продовжує зростати. Для машини це набір зображень надзвичайної масштабності. Для людини це щось зовсім інше.

Це запис про нові приїзди та ювілейні дні народження, відвідування лікарні та відпустки, весілля та похорони. Воно містить останнє фото діда, перше зображення новонародженого дитини, розмитий знімок, зроблений миттєвісно перед аварією. Ці зображення не просто файли, які потрібно класифікувати, а фрагменти особистої ідентичності.

Для тих з нас, хто будує штучний інтелект, який працює безпосередньо з фотоколекціями людей, така масштабність створює особливий виклик. Ми вже не будуємо інструменти для управління медіа-архівами. Ми проєктуємо системи, які впливають на те, як люди згадують і пам’ятають свою життя. І цей зсув, у поєднанні з безпрецедентною масштабністю даних, вимагає фундаментально іншої моделі довіри.

Чутливі дані є частиною повсякденного життя

Технологія комп’ютерного зору часто використовується для виявлення облич, посмішок, орієнтирів і дій. Коли ми застосовуємо ці методи до особистих фотоколекцій, вони можуть згрупувати подібні фотографії, пропонувати найкращі моменти та генерувати «спогади», щоб переглянути та порадіти з ними.

Особисті фотоколекції стають дедалі більше схожими на щоденники. Багато з нас інстинктивно тягнуться до телефону, щоб захопити повсякденні моменти, знаючи, що вони будуть збережені – навіть якщо ми ніколи не повернемося до них. У цьому сенсі наші фотоколекції стають необробленими записами життя, як воно розгортається, містячи моменти, які є радісними, болісними або буденними.

На малій масштабі, автоматична організація фотографій здається простою та корисною. Але особисті бібліотеки тепер часто містять десятки тисяч зображень. На практиці системи такого типу повинні приймати тисячі малих рішень від імені користувача: які обличчя мають пріоритет, які фотографії найкраще представляють рік, і які моменти заслуговують на те, щоб бути знову відкритими. На такій масштабі навіть маленька похибка стає емоційно значимою. Похибка класифікації в 1% у бібліотеці з 20 000 фотографій могла б призвести до того, що сотні зображень будуть показані у неправильному контексті або зовсім неправильно інтерпретовані.

Одна річ, яку ви швидко вчитеся, коли працюєте з реальними фотоколекціями, полягає в тому, як часто чутливі моменти з’являються поряд з буденними. Лікарні, похорони, моменти відчаю – поряд з вибором продукції, який надає перевагу стриманості. Але не менше важливим є визнання обмежень автоматичної інтерпретації.

Ідеально зрозуміти значення, яке має зображення для конкретної особи, рідко можливо. Роль штучного інтелекту полягає не в тому, щоб визначати значення від імені когось, а в тому, щоб допомогти показати моменти, які люди можуть бажати переглянути та порадіти з ними в спосіб, який здається їм відповідним. У світі, де цифрові інструменти дедалі більше формують нашу життя, фотアルバми залишаються глибоко особистими.

Де відбувається обробка

Є також структурне питання про те, як і де обробляються зображення. Хмарні системи штучного інтелекту агрегують і аналізують величезні кількості даних на відстані – модель, яка дозволила зробити надзвичайні досягнення у можливостях.

Однак, коли справа стосується приватних фотоколекцій, емоційна чутливість значно вища. Зображення дітей, інтимних сімейних моментів і навіть досвіду кінця життя є серед найособистіших записів, які люди володіють. Хто будує технологію, яка взаємодіє з цими даними, швидко розуміє, що архітектурні рішення не є чисто технічними. Надсилання зображень на віддалені сервери для аналізу може відчуватися як вторгнення, навіть якщо існують сильні заходи безпеки.

Прогрес у мобільному обладнанні робить дедалі більш можливим обробку великих фотоколекцій безпосередньо на пристрої. Це дозволяє досягти складного розуміння зображень без експортування цілих колекцій у хмару. У цьому контексті технічна архітектура стає відображенням цінностей. Рішення про те, де відбувається обробка, може безпосередньо впливати на те, скільки контролю люди зберігають над своїми власними спогадами.

Етика автоматичної пам’яті

Коли штучний інтелект кураторує фотографії, він впливає на те, як люди пам’ятають своє життя. Система, яка вибирає «найкращі зображення року», неявно визначає, які моменти найважливіші. Функція, яка виділяє певні обличчя більш часто, може тонко формувати, як візуально пріоритезуються відносини.

На відміну від помилок в оптимізації реклами або прогнозуванні логістики, помилки в кураторстві спогадів є особистими. Погано тимчасово показане зображення може несподівано відродити горе. Значимі відносини можуть бути недооцінені просто через те, що алгоритм не визнав їхньої важливості. З часом ці автоматичні вибори можуть тихо впливати на те, як люди розповідають про своє життя.

Це піднімає складні питання. Чи повинен алгоритм визначати, які фотографії найкраще представляють людину, яка померла? Чи повинен він придушувати зображення, які він вважає дистресивними, або залишити цей вибір повністю користувачеві? Як він повинен поводитися, коли не може впевнено визначити, чи сцена є святковою чи сумною?

Етичне проєктування в цьому просторі залежить від скромності. Системи повинні бути прозорими щодо того, коли штучний інтелект приймає вибори, і зробити його легко переглянути, редагувати та перевершити автоматичні вибори. Пороги впевненості для показу потенційно чутливого контенту повинні бути встановлені з особливою обережністю.

Довіра як людська вимога

Публічні дискусії про етику штучного інтелекту часто зосереджуються на дезінформації, упередженості або великомасштабній підготовці моделей. Ці розмови, звичайно, необхідні та важливі. Але за межами заголовків, існує інша, менш помітна вимір етики штучного інтелекту, яка розігрується в сімейних будинках щодня.

Тільки невелика кількість команд зараз будує системи штучного інтелекту, які кураторують особисті фотоколекції у глобальному масштабі. Ми приймаємо рішення, які впливають на те, як мільйони особистих історій організовані та запам’ятовуються.

Коли хтось відкриває свою фотоколекцію, він взаємодіє зі своєю власною історією. Якщо системи штучного інтелекту обробляють цю історію бездумно, вплив може бути інтенсивно особистим. Погано тимчасово сповіщення або нечутливий автоматичний монтаж можуть знову відкрити рани, які зайняли роки, щоб загоїти.

Праця в цьому просторі робить цю відповідальність особливо відчутною. Проєктування штучного інтелекту для особистої фотографії тому вимагає іншого способу мислення – особливо оскільки масштаб фотозйомки продовжує зростати. Емоційна чутливість не може бути прикріплена після розгортання, і приватність не може бути behand як фонове встановлення. Ці розгляди повинні формувати систему з самого початку.

Як можливості штучного інтелекту продовжують розширюватися, спокуса полягатиме в тому, щоб автоматизувати більше нашого цифрового життя. Однак у сфері особистих фотографій прогрес повинен вимірюватися інакше. Натомість ефективності або оптимізації, успіх полягає в створенні систем, які визнають емоційний вагу, який несуть зображення, які вони торкаються.

Наші фотографії документують, хто ми є і хто ми були. Будь-який штучний інтелект, якому довіряють їх, повинен визнати, що він діє в одному з найбільш людських просторів, які може входити технологія.