Роль штучного інтелекту у кураторстві пам’яті, ідентичності та спадщини

Людство тепер робить більше фотографій кожні дві хвилини, ніж було зроблено за весь 19 століття. Більйони створюються щодня. Для багатьох людей один смартфон містить 10 000, 20 000, іноді 50 000 зображень, і ця кількість продовжує зростати. Для машини це набір зображень надзвичайної масштабності. Для людини це щось зовсім інше.

Це запис нових прибутків і днів народження, відвідувань лікарні і свят, весіль і похоронів. Воно містить останнє фото діда, перше зображення новонародженого дитини, розмите фото, зроблене миттєвості до аварії. Ці зображення не просто файли, які потрібно класифікувати, а фрагменти особистої ідентичності.

Для тих з нас, хто будує штучний інтелект, який працює безпосередньо з фотоколекціями людей, ця масштабність створює дуже особливий виклик. Ми вже не будуємо інструменти для управління медіа-архівами. Ми проектуємо системи, які впливають на те, як люди згадують і переглядають свою життя. І ця зміна, у поєднанні з безпрецедентною масштабністю даних, вимагає фундаментально іншої моделі довіри.

Чутливі дані є частиною повсякденного життя

Технологія комп’ютерного зору часто використовується для виявлення облич, посмішок, орієнтирів і діяльності. Коли ми застосовуємо ці методи до особистих фотоколекцій, вони можуть згрупувати подібні фотографії, пропонувати найкращі моменти та генерувати «спогади», щоб переглянути та порадіти з ними.

Особисті фотоколекції стають все більш подібними до щоденників. Багато з нас інстинктивно тягнуться до телефонів, щоб захопити повсякденні моменти, знаючи, що вони будуть збережені – навіть якщо ми ніколи не повернемося до них. У цьому сенсі наші фотоколекції стають необробленими записами життя, як воно розгортається, містять моменти, які є радісними, болісними або буденними.

У малому масштабі автоматизована організація фотографій здається простою і корисною. Але особисті бібліотеки тепер часто містять десятки тисяч зображень. На практиці такі системи повинні приймати тисячі малих рішень від імені користувача: які обличчя потрібно пріоритезувати, які фотографії найкраще представляють рік, і які моменти заслуговують на те, щоб бути знову відкритими. У такому масштабі навіть мала похибка стає емоційно значимою. Похибка класифікації в 1% по відношенню до бібліотеки з 20 000 фотографій може призвести до того, що сотні зображень будуть відкриті в неправильному контексті або неправильно інтерпретовані.

Одна річ, яку ви швидко вчитеся, коли працюєте з реальними фотоколекціями, полягає в тому, як часто чутливі моменти з’являються поряд з повсякденними. Лікарні, похорони, моменти відчаю – поряд з вибором продуктів, які віддають перевагу стриманості. Але не менш важливо визнати обмеження автоматичної інтерпретації.

Ідеальне розуміння значення зображення для конкретної людини рідко коли можливе. Роль штучного інтелекту полягає не в тому, щоб визначити значення від імені когось, а в тому, щоб допомогти відкрити моменти, які люди можуть захотіти переглянути та порадіти з ними в спосіб, який здається їм придатним. У світі, де цифрові інструменти все частіше формують наше життя, фотоколекції залишаються глибоко особистими.

Де відбувається обробка, має значення

Є також структурне питання про те, як і де обробляються зображення. Хмарні системи штучного інтелекту агрегують і аналізують величезні кількості даних дистанційно – модель, яка дозволила зробити надзвичайні досягнення в можливостях.

При роботі з приватними фотоколекціями, однак, емоційна чутливість значно більша. Зображення дітей, інтимних сімейних моментів і навіть досвіду кінця життя належать до найбільш особистих записів, які мають люди. Хто б не будував технології, яка взаємодіє з цими даними, швидко розуміє, що архітектурні рішення не є чисто технічними. Надсилання зображень на віддалені сервери для аналізу може здаватися інвазивним, навіть якщо існують сильні заходи безпеки.

Прогрес у мобільному обладнанні робить все більш можливим обробляти великі фотоколекції безпосередньо на пристрої. Це дозволяє досягти складного розуміння зображень без вивантаження цілих колекцій у хмару. У цьому контексті технічна архітектура стає відображенням цінностей. Рішення про те, де відбувається обробка, може безпосередньо впливати на те, скільки контролю люди зберігають над своїми власними спогадами.

Етика автоматичної пам’яті

Коли штучний інтелект кураторує фотографії, він впливає на те, як люди згадують своє життя. Система, яка вибирає «найкращі зображення року», неявно визначає, які моменти найважливіші. Функція, яка підкреслює певні обличчя частіше, може тонко формувати візуальне пріоритезування відносин.

На відміну від помилок в оптимізації реклами або прогнозуванні логістики, помилки в кураторстві пам’яті є особистими. Погано тимчасово відкриття зображення може несподівано відродити горе. Істотна відносина може бути недопредставлена просто через те, що алгоритм не визнав її важливості. З часом ці автоматичні вибори можуть тихо впливати на те, як люди оповідають про своє власне життя.

Це піднімає складні питання. Чи повинен алгоритм визначати, які фотографії найкраще представляють людину, яка померла? Чи повинен він придушувати зображення, які він вважає дистресивними, або залишити цей вибір повністю користувачеві? Як він повинен поводитися, коли не може впевнено визначити, чи сцена святкова чи сумна?

Етичне проектування в цьому просторі залежить від скромності. Системи повинні бути прозорими щодо того, коли штучний інтелект приймає рішення, і зробити його легко переглянути, редагувати та скасувати автоматичні вибори. Пороги впевненості для відкриття потенційно чутливого контенту повинні встановлюватися з особливою обережністю.

Довіра як людська вимога

Публічні дискусії про етику штучного інтелекту часто зосереджуються на дезінформації, упередженості або великомасштабній підготовці моделей. Ці розмови, звичайно, необхідні і важливі. Але за межами заголовків є інший, менш видимий вимір етики штучного інтелекту, який відбувається в сімейних будинках щодня.

Тільки невелика кількість команд зараз будує системи штучного інтелекту, які кураторують особисті фотоколекції у глобальному масштабі. Ми приймаємо рішення, які впливають на те, як мільйони особистих історій організовані та згадуються.

Коли хтось відкриває свою фотоколекцію, він взаємодіє зі своєю власною історією. Якщо системи штучного інтелекту обробляють цю історію недбало, вплив може бути інтенсивно особистим. Погано тимчасово сповіщення або нечутливий автоматичний монтаж можуть знову відкрити рани, які зайняли роки, щоб зажити.

Робота в цьому просторі робить цю відповідальність особливо відчутною. Проектування штучного інтелекту для особистої фотографії тому вимагає іншого способу мислення – особливо оскільки масштаб фотозйомки продовжує зростати. Емоційна чутливість не може бути прикріплена після розгортання, а приватність не може бути behand як фонове встановлення. Ці розгляди повинні формувати систему з самого початку.

Якщо можливості штучного інтелекту продовжують розширюватися, спокуса буде автоматизувати більше нашого цифрового життя. У сфері особистих фотографій, однак, прогрес повинен вимірюватися інакше. Натомість ефективності або оптимізації успіх полягає в будівництві систем, які визнають емоційний вагу, яку несуть зображення, які вони торкаються.

Наші фотографії документують, хто ми є і хто ми були. Будь-який штучний інтелект, якому довіряється обробка їх, повинен визнати, що він діє в одному з найбільш людських просторів, які технологія може зайняти.