AI의 역할: 기억, 정체성, 유산의 큐레이션

인간은 이제 2분마다 19세기에 촬영한 사진의 수보다 더 많은 사진을 찍습니다. 매일 수십억 개의 사진이 생성됩니다. 많은 개인의 스마트폰에는 1만 개, 2만 개, 때로는 5만 개의 사진이 저장되어 있으며, 이 숫자는 계속 증가하고 있습니다. 기계에게 이것은 규모가 엄청난 이미지 데이터셋입니다. 하지만 인간에게 이것은 다른 것입니다.

새로운 출生的 기록, 생일, 병원 방문, 휴가, 결혼식, 장례식의 기록입니다. 이것은 단순한 파일이 아니라 개인의 정체성의 조각입니다.

사진 라이브러리에 직접적으로 작동하는 AI를 구축하는 우리에게 이것은 매우 특정한 도전을 제기합니다. 우리는 더 이상 미디어 라이브러리를 관리하는 도구를 구축하지 않습니다. 우리는 사람들이 자신의 삶을 다시 방문하고 기억하는 방식을影响하는 시스템을 설계하고 있습니다. 그리고 그 변화는 데이터의 규모와 함께 근본적으로 다른 신뢰 모델을 요구합니다.

민감한 콘텐츠는 일상 생활의 일부입니다

컴퓨터 비전 기술은 종종 얼굴, 미소, 랜드마크 및 활동을 감지하는 데 사용됩니다. 개인 사진 라이브러리에 이러한 기술을 적용하면 유사한 사진을 클러스터링하고, 하이라이트를 제안하고, 반추하고 반추할 수 있는 ‘기억’을 생성할 수 있습니다.

개인 사진 라이브러리는 점점 더 일기와 같은 것이 됩니다. 우리는 매일매일의 순간을 캡처하기 위해 본능적으로 휴대전화를 사용하며, 그것이 저장될 것이라는 것을 알고 있습니다. 그렇다면 우리의 사진 라이브러리는 삶이 전개되는대로 필터링되지 않은 기록이 됩니다. 기쁨, 고통, 일상적인 순간이 모두 포함됩니다.

작은 규모에서 자동 사진 정리는 간단하고 도움이 됩니다. 하지만 개인 라이브러리는 이제 종종 수만 개의 이미지를 포함합니다. 실제로 이러한 시스템은 사용자의 대신에 수천 개의 작은 결정들을 해야 합니다. 어느 얼굴을 우선시할지, 어느 사진이 한 해를 가장 잘 대표하는지, 어느 순간이 다시浮上되어야 하는지 결정해야 합니다. 이러한 규모에서조차 작은 오류율도 감정적으로 의미가 있습니다. 2만 개의 사진 라이브러리에서 1%의 오류율은 수백 개의 이미지가 잘못된 컨텍스트에서浮上되거나 완전히 잘못 해석될 수 있습니다.

실제 사진 라이브러리를 작업할 때 빠르게 배울 수 있는 것은 민감한 순간이 일상적인 순간과 함께 나타날 수 있다는 것입니다. 병원, 장례식, 고통의 순간 – 이러한 모든 순간은 제품 선택과 함께 나타날 수 있습니다. 하지만 자동 해석의 한계를 인식하는 것이 중요합니다.

특정 개인에게 이미지의 의미를 완벽하게 이해하는 것은 거의 불가능합니다. AI의 역할은 누군가의 대신에 의미를 결정하는 것이 아니라, 사람들이 다시 방문하고 반추할 수 있는 순간을 표면화하는 것입니다. 디지털 도구가 우리의 삶을 조직하는 방식을 형성하는 세계에서 사진 앨범은 여전히 매우 개인적입니다.

처리되는 곳이 중요합니다

이미지 처리되는 곳에 대한 구조적인 질문도 있습니다. 클라우드 기반의 AI 시스템은 원격으로大量의 데이터를 집계하고 분석합니다. 이것은 능력의 비할 데 없는 발전을 가능하게 했습니다.

개인 사진 라이브러리를 다룰 때 감정적인 민감도는 훨씬 더 큽니다. 아이들, 친밀한 가족 순간, 생의 끝 순간의 이미지는 사람들이 소유하는 가장 개인적인 기록입니다. 이러한 종류의 데이터와 상호작용하는 기술을 구축하는 사람은 기술적인 결정이 순수하게 기술적인 것이 아니라는 것을 빠르게 인식합니다. 이미지 분석을 위해 이미지들을 원격 서버로 보내는 것은 강력한 안전장치가 존재하더라도도 침입적인 것으로 느껴질 수 있습니다.

모바일 하드웨어의 발전은 이미지를 처리하는 데 점점 더 많은 계산 능력을 제공하고 있습니다. 이것은 클라우드에 이미지를 내보내지 않고도 사진 라이브러리를 직접 처리할 수 있게 합니다. 이러한 contexto에서 기술적인 아키텍처는 가치의 반영입니다. 처리되는 곳에 대한 결정은 개인이 자신의 기억에 대한 통제력을 직접적으로 영향받을 수 있습니다.

자동화된 기억의 윤리

AI가 사진을 큐레이션할 때, 그것은 사람들이 자신의 삶을 기억하는 방식을 영향합니다. ‘해의 최고’ 이미지를 선택하는 시스템은 암시적으로 어느 순간이 가장 중요하다는 것을 결정합니다. 특정 얼굴을 더 자주 강조하는 기능은 시각적으로 관계를 우선순위로 지정하는 방식을 미묘하게 형성할 수 있습니다.

광고 최적화 또는 물류 예측의 오류와는 달리, 기억 큐레이션의 오류는 개인적입니다. 잘못된 타이밍의 이미지 재표면화는 예상치 못한 고통을 다시 일으킬 수 있습니다. 중요한 관계가 알고리즘이 중요성을 인식하지 못했기 때문에 미표현될 수 있습니다. 이러한 자동 선택은 시간이 지남에 따라 사람들이 자신의 삶을 어떻게 이야기하는지 조용히 영향받을 수 있습니다.

이것은 어려운 질문을 제기합니다. 알고리즘이 누군가가 사망한 후에 사진을 대표하는지 결정해야 합니까? 그것은 사용자가 결정하도록 모든 것을 남겨두어야 합니까? 그것은 자신감 있게 장면이 축제인지 슬픈지 결정할 수 없는 경우 어떻게 행동해야 합니까?

이 영역의 윤리적인 설계는 겸손에 의존합니다. 시스템은 AI가 선택을 할 때 투명해야 하며, 사용자가 자동 선택을 검토, 편집 및 재정의하기 쉽게 해야 합니다. 민감한 콘텐츠를 표면화하는 데 대한 자신감 임계값은 특히 주의 깊게 설정해야 합니다.

신뢰는 인간의 요구입니다

AI 윤리의 공공 논의는 종종 잘못된 정보, 편향 또는 대규모 모델 훈련에 초점을 맞춥니다. 이러한 대화는 필수적이며 중요합니다. 하지만 헤드라인을 넘어서, 일상적으로 가족의 집에서 발생하는 또 다른 차원의 AI 윤리가 있습니다.

현재 개인 사진 라이브러리를 대규모로 큐레이션하는 AI 시스템을 구축하는 팀은 소수입니다. 우리는 수백만 개의 개인적인 역사들이 조직되고 기억되는 방식을 영향하는 결정들을 하고 있습니다.

누군가가 자신의 사진 라이브러리를 열면, 그들은 자신의 이야기에 참여합니다. AI 시스템이 그 이야기를 조심스럽게 다루지 않으면, 영향은 매우 개인적일 수 있습니다. 잘못된 타이밍의 알림 또는 부적절한 자동 몬타주는 수년간 치유된 상처를 다시 열 수 있습니다.

이 영역에서 작업하는 것은 그 책임을 느끼게 합니다. 개인 사진에 대한 AI를 설계하는 것은 다른 마음가짐이 필요합니다. 특히 사진 캡처의 규모가 계속 증가하는 경우에 그렇습니다. 감정적인 민감도는 배포 후에 볼트온할 수 없습니다. 그리고 개인 정보는 배경 설정으로 취급될 수 없습니다. 이러한 고려는 시스템을 설계하는 초기부터 형성해야 합니다.

AI의 능력이 계속 확장함에 따라, 더 많은 디지털 삶을 자동화하는 유혹이 있을 것입니다. 그러나 개인 사진의 영역에서는 진행은 달리 측정되어야 합니다. 효율성 또는 최적화가 아니라, 이미지에 담긴 감정적인 무게를 인식하는 시스템을 구축하는 것이 성공입니다.

우리의 사진은 우리가 누구인지, 우리가 누구였는지에 대한 기록입니다. 우리에게 그것을 위탁하는 AI는 기술이 들어갈 수 있는 가장 인간적인 공간 중 하나에서 작동하는 것을 인식해야 합니다.