AIの記憶、アイデンティティ、遺産のキュレーションにおける役割

人間は現在、2分間で19世紀全体よりも多くの写真を撮っています。毎日、数十億の写真が作成されています。多くの個人の場合、1台のスマートフォンには10,000、20,000、時には50,000の画像が含まれており、その数は増え続けています。機械にとって、これは規模の大きい画像データセットです。人間にとって、それはまったく別のものです。

これは、新しい到着とマイルストーンの誕生日、病院訪問と休暇、結婚式と葬儀の記録です。最後の祖父母の写真、初めての赤ちゃんの画像、事故の瞬間前に撮られたぼけたスナップショットが含まれています。これらの画像は、単に分類されるファイルではありません。個人のアイデンティティの断片です。

私たちが写真ライブラリと直接作業するAIを構築している人にとって、この規模は特定の課題を生み出します。私たちは、メディアライブラリを管理するツールを構築しているのではなく、人々が自分の生活を振り返り、思い出す方法に影響を与えるシステムを設計しています。データの規模の急増とともに、このシフトは、根本的に異なる信頼モデルを要求します。

日常生活の一部であるデリケートなコンテンツ

コンピュータビジョン技術は、顔、笑顔、ランドマーク、活動を検出するためにしばしば使用されます。これらのテクニックを個人写真ライブラリに適用すると、似たような写真をクラスタ化したり、ハイライトを示したり、振り返り、反省する「思い出」を生成したりできます。

個人写真ライブラリは、だんだん日記のようなものになってきています。私たちは、日常的な瞬間を捉えるために直感的にスマートフォンに手を伸ばします。そうすることで、それらは戻ることなく保存されることを知っています。そうすると、写真ライブラリは、喜び、痛み、または日常的な瞬間を含む、人生が展開されるように、フィルタリングされていない記録になります。

小規模では、自動写真整理は、簡単で役立つと感じられます。しかし、個人ライブラリには現在、時々10万枚を超える画像が含まれています。実践では、これらのシステムは、ユーザーの代理で何千もの小さな決定を下す必要があります。どの顔を優先するか、どの写真が1年を最もよく表すか、どの瞬間が再浮上するに値するかなどです。その規模では、わずか1%の誤分類率でも、数百枚の画像が間違ったコンテキストで表面化したり、完全に誤解されたりする可能性があります。

実際の写真ライブラリで働くことで学ぶことができるのは、デリケートな瞬間が日常的なものと一緒に現れる頻度です。病院、葬儀、苦痛の瞬間 – そして、抑制を好む製品の選択。ただし、自動解釈の限界を認識することも同様に重要です。

特定の個人にとっての画像の意味を完全に理解することは、まれにしかできません。AIの役割は、誰かの代わりに意味を決定することではなく、人々が振り返り、反省したいと思っている瞬間を、適切な方法で表面化するのを支援することです。デジタルツールが私たちの生活を整理する方法を形作る世界では、写真アルバムは依然として非常に個人的です。

処理が行われる場所

画像が処理される方法と場所について、構造的な疑問があります。クラウドベースのAIシステムは、遠隔地で大量のデータを集約および分析します – これは、機能の驚くべき進歩を可能にしました。

しかし、プライベート写真ライブラリの場合、感情的なデリケートさははるかに大きいです。子供の画像、親密な家族の瞬間、そして終末期の経験は、人々が持つ最も個人的な記録です。この種のデータとやり取りするテクノロジーを構築する人は、すぐに気づきます。アーキテクチャの決定は、純粋に技術的なものではありません。強力なセーフガードが存在する場合でも、画像をリモートサーバーに分析のために送信することは、侵入的なものに感じられます。

モバイルハードウェアの進歩により、デバイス自体で大規模な写真ライブラリを処理することが、ますます実行可能になってきました。これにより、画像の理解をクラウドにエクスポートせずに実現できます。このコンテキストでは、技術アーキテクチャは価値観の反映になります。処理が行われる場所についての決定は、個人が自分の記憶をどれだけコントロールできるかを直接影響します。

自動記憶の倫理

AIが写真をキュレーションするとき、それは人々が自分の生活をどのように思い出すかを影響します。「今年のベスト」画像を選択するシステムは、どの瞬間が最も重要かを暗黙的に決定します。特定の顔をより頻繁に強調する機能は、視覚的に優先される関係を微妙に形作る可能性があります。

広告の最適化や物流の予測におけるエラーとは異なり、記憶のキュレーションにおけるエラーは個人的です。タイミングの悪い画像の再表面化は、予期せず悲しみを呼び起こす可能性があります。重要な関係は、アルゴリズムがその重要性を認識できなかったため、表現されない可能性があります。時間の経過とともに、これらの自動選択は、人々が自分の生活を語る方法を静かに影響します。

これにより、難しい質問が生じます。アルゴリズムは、故人を最もよく表す写真を決定するべきでしょうか。アルゴリズムは、苦痛と判断される画像を抑制するべきでしょうか、それともその選択を完全にユーザーに任せるべきでしょうか。アルゴリズムは、シーンが祝賀的か厳粛かを自信を持って判断できない場合にどう振る舞うべきでしょうか。

この空間での倫理的な設計は、謙虚さに依存しています。システムは、AIが選択を行っていることを透明性を持って示し、自動選択を確認、編集、またはオーバーライドすることを容易にすべきです。デリケートなコンテンツを表面化するための信頼しきい値は、特に慎重に設定する必要があります。

信頼は人間の要件

AI倫理についての一般的な議論は、AI倫理、誤情報、偏見、または大規模なモデルトレーニングについて焦点を当てています。これらの会話は、必要であり、重要です。しかし、見出しの外側に、もう1つの、より目立たない、AI倫理の次元があり、毎日、家庭で展開しています。

現在、世界規模で個人写真ライブラリをキュレーションするAIシステムを構築しているチームはわずかです。私たちは、数百万人の個人的な歴史が整理され、思い出される方法に影響を与える決定を下しています。

誰かが写真ライブラリを開くとき、彼らは自分の物語と関わっています。AIシステムがその物語を無神経に扱うと、影響は非常に個人的になります。タイミングの悪い通知や感傷的な自動モンタージュは、数年かけて癒えた傷を再び開く可能性があります。

この空間で働くことは、その責任を特別に感覚的に感じさせます。したがって、個人写真撮影用のAIを設計するには、異なる心構えが必要です。特に、写真撮影の規模が増え続ける場合です。感情的な感受性は、展開後に追加されるものではありません。プライバシーは、背景設定として扱われるものではありません。これらの考慮は、システムの最初から形作る必要があります。

AIの機能が拡大し続けるにつれて、デジタル生活のより多くの部分を自動化する誘惑に駆り立てられるでしょう。しかし、個人写真の領域では、進歩は異なる方法で測定されるべきです。効率や最適化ではなく、感情的な重みを認識するシステムを構築することに成功が存在します。画像に触れる。

私たちの写真は、私たちが誰であるか、誰でしたかを記録しています。私たちに任せられたAIは、それが人間の空間に入る技術の1つであることを認識する必要があります。