AIが記憶、アイデンティティ、遺産をキュレーションする役割

現在、人間は2分間に19世紀全体で撮られた写真よりも多くの写真を撮っています。毎日、数十億枚の写真が作成されています。多くの個人が、1つのスマートフォンに1万枚、2万枚、ときには5万枚の写真を保有しており、その数は増え続けています。機械にとって、これは規模の大きい画像データセットです。人間にとって、それは別のものです。

それは、新しい命の到来や誕生日、病院での訪問や休暇、結婚式や葬儀などの記録です。最後の祖父母の写真、初めての子供の写真、事故の直前に撮られたぼけた写真などが含まれています。これらの画像は、単に分類されるファイルではなく、個人のアイデンティティの断片です。

私たちが写真ライブラリと直接関わるAIを構築している人にとって、この規模は特有の課題を生み出します。私たちは、メディアライブラリを管理するツールを構築しているのではなく、人々が自分の生活を思い出して振り返る方法に影響を与えるシステムを設計しています。この変化は、前代未聞のデータ規模とともに、根本的に異なる信頼モデルを要求します。

デリケートなコンテンツは日常生活の一部です

コンピュータビジョン技術は、顔、笑顔、ランドマーク、活動を検出するために使用されることがよくあります。これらの技術を個人用写真ライブラリに適用すると、類似の写真をクラスタ化したり、ハイライトを示したり、振り返って反省する「思い出」を生成したりできます。

個人用写真ライブラリは、日記のようなものになりつつあります。多くの人々が、毎日の瞬間を捉えるために直感的にスマートフォンを使用し、それらが保存されることを知っています。つまり、写真ライブラリは、喜び、痛み、または日常的な瞬間を含む、人生が展開されるように記録されるものになります。

小規模では、自動写真整理は、簡単で役立つように感じられます。しかし、個人ライブラリには、現在、数十千枚の画像が含まれていることがよくあります。実際、こうしたシステムは、ユーザーの代理で数千の小さな決定を下す必要があります。優先する顔、1年を代表する写真、再浮上するべき瞬間などです。この規模では、わずかなエラー率でも感情的に意味のあるものになります。2万枚のライブラリで1％の誤分類率は、数百枚の画像が間違った文脈で提示されたり、完全に誤解されたりすることになります。

実際の写真ライブラリで働くときにすぐに学ぶのは、デリケートな瞬間が日常的なものとともに現れる頻度です。病院、葬儀、苦痛の瞬間などですが、重要なのは、自動解釈の限界を認識することです。

特定の個人が持つ画像の意味を完全に理解することは、まれにしか可能ではありません。AIの役割は、誰かが代わりに意味を決定することではなく、人々が振り返って反省したいと思っている瞬間をサーフェスするのを支援することです。デジタルツールが私たちの生活を整理する方法を形作る世界では、写真アルバムは依然として非常に個人的なものです。

処理が行われる場所は重要です

画像がどのように、どこで処理されるかという構造的な疑問もあります。クラウドベースのAIシステムは、リモートで大量のデータを集め分析する – これは、機能の驚くべき進歩を可能にしました。

しかし、プライベート写真ライブラリを扱う場合、感情的な感受性ははるかに高まります。子供の写真、親密な家族の瞬間、さらには終末期の経験などが含まれる、これらの記録は、人々が持つ最も個人的な記録です。このようなデータと関わるテクノロジーを構築する誰でも、技術的なアーキテクチャ上の決定は純粋に技術的なものではないことをすぐに認識します。画像をリモートサーバーに送信して分析することは、厳格な安全対策が存在する場合でも、侵入的な行為のように感じられます。

モバイルハードウェアの進歩により、デバイス上で大規模な写真ライブラリを直接処理することがますます実行可能になっています。これにより、クラウドにコレクションをエクスポートせずに、洗練された画像理解が可能になります。この文脈では、技術アーキテクチャは価値観の反映となります。処理が行われる場所についての決定は、個人が自分の記憶をどれだけコントロールできるかを直接影響します。

自動記憶の倫理

AIが写真をキュレーションするとき、それは人々が自分の生活を思い出す方法に影響を与えます。「年間ベスト」画像を選択するシステムは、どの瞬間が最も重要かを暗黙的に決定します。特定の顔をより頻繁にハイライトする機能は、視覚的に優先される関係を微妙に形作る可能性があります。

広告の最適化やロジスティクスの予測におけるエラーとは異なり、記憶キュレーションにおけるエラーは個人的なものです。タイミングの悪い画像の再浮上は、予想外に悲しみを呼び起こす可能性があります。重要な関係が、アルゴリズムがその重要性を認識できなかったために、軽視される可能性があります。時間の経過とともに、これらの自動選択は、人々が自分の生活を語る方法を静かに影響します。

難しい質問が生じます。アルゴリズムは、亡くなった人の最も適切な写真を選択するべきでしょうか。アルゴリズムは、ユーザーに代わって、苦痛を与える可能性のある画像を抑制するべきでしょうか、それともその選択を完全にユーザーに任せるべきでしょうか。アルゴリズムは、シーンが祝賀的なものか、または厳粛なものかを自信を持って判断できない場合に、どのように振る舞うべきでしょうか。

この分野での倫理的なデザインは、謙虚さに依存しています。システムは、AIが選択を行っていることを透明性を持って示し、ユーザーが自動選択を確認、編集、またはオーバーライドできるようにする必要があります。潜在的にデリケートなコンテンツをサーフェスするための信頼しきい値は、特に慎重に設定する必要があります。

信頼は人間の要件です

AI倫理に関する公共の議論は、誤情報、偏見、または大規模なモデルトレーニングに焦点を当てています。これらの議論は、必要なものであり、重要です。しかし、見えにくい別の次元のAI倫理が、毎日家庭で行われています。

現在、世界規模で個人用写真ライブラリをキュレーションするAIシステムを構築しているチームはわずかです。私たちは、数百万人の個人的な歴史が整理され、思い出される方法に影響を与える決定を下しています。

誰かが写真ライブラリを開くとき、彼らは自分の物語と関わることになります。AIシステムがその物語を無神経に扱うと、その影響は非常に個人的なものになります。タイミングの悪い通知や、無感覚な自動モンタージュは、数年かけて癒えた傷を再び開く可能性があります。

この分野で働くことは、その責任を特別に感じさせます。したがって、個人用写真撮影用のAIを設計するには、特別な心構えが必要です。特に、写真撮影の規模が拡大し続ける場合、感情的な感受性は後から付け加えることができません。プライバシーは、背景設定として扱うことができません。これらの考慮は、システムの構築から始まる必要があります。

AIの能力が拡大するにつれて、デジタル生活の多くを自動化する誘惑に駆り立てられるでしょう。ただし、個人の写真の世界では、進歩は異なる方法で測定されるべきです。効率や最適化ではなく、画像が運ぶ感情的な重みを認識するシステムを構築することに成功があります。

私たちの写真は、私たちが誰であるか、そして私たちが誰であったかを記録しています。私たちにこれらの写真を預けるAIは、技術が入ることができる最も人間的な空間の1つに働いていることを認識する必要があります。