デザインによる責任 – 人間優先のAIの必要性

人工知能は、私たちの日常生活を形作るデジタルエクスペリエンスを変革しています。パーソナライズされた製品の推薦や予測医療、自動運転やアミューズメントパークの待ち時間の最適化など、AIはこれらのエクスペリエンスをより安価、効率的、そして楽しいものにします。少なくとも、それが約束されていることです。

しかし、時折、「AIの失敗」と呼ばれるヘッドラインに出会います。ユーザーが誤解された、沮された、または単に理解されなかったときのことです。信頼が崩壊すると、AIの真の意味と効果を実現する潜在力も崩壊します。

公衆の信頼は薄れつつあります。なぜでしょうか？大多数のシステムは人間の経験を念頭に置いて設計されていないからです。 скорость、拡張性、利益性を優先して設計されています。これは、AI投資を強化しているすべての企業にとって重大な懸念事項となるべきです。

信頼を築くには、企業は一時停止し、より深い質問を問う必要があります：なぜこのシステムを構築していますか？それを構築する必要があるのでしょうか？簡単に言えば、AIを人間のニーズに応えるように設計していますか？それとも、人間が機械の論理に適応するように強制していますか？

AIとの信頼のギャップ

AIは、技術的な環境で孤立して開発されることが多く、成功は精度や速度で測られることがありますが、社会的影響や使いやすさでは測られません。信頼の重要な構成要素である倫理的思考は、自動的にAI開発パイプラインに組み込まれないことがあります。この断絶により、理論的には革新的なシステムが生まれますが、実践では短所が生じます。

エア・カナダのチャットボットを考え出してみましょう。チャットボットは、遺族割引ポリシーについて顧客に自信を持って誤情報を提供しました。会社は、チャットボットが言ったことについて責任を負わないと主張しました。あるいは、メタのAIチャットボットを考え出してみましょう。チャットボットは、検索結果で事実的に誤った発言をしました。これらの例は、技術的な欠陥以上のものを示しています。人間の経験、安全性のガードレール、現実世界のコンテキストを考慮してAIアプリケーションを設計するという、体系的な失敗を暴露しています。

公衆はこれに気づいています。 ピュー・リサーチ・センターによると、59%のアメリカ人と55%のAI専門家は、米国企業がAIを責任を持って開発することについて、ほとんど信頼していません。これは、無視できない信頼のギャップです。

人間中心のデザインは贅沢ではない

デザインはAIのウィンドウドレッシングではありません。AIの動作と、エンドユーザーによる認識の基盤です。人間中心のデザインは、設計対象となる人の理解から始まります：彼らの目標、フラストレーション、価値観、実際の生活。
デザインプロセスでは、次のような特定の質問をして、技術が人間のニーズに応えるようにすることが重要です：

• 誰のために設計していますか？
• 彼らの目標、価値観、課題は何ですか？
• 彼らは感情的にも機能的にもどのようにシステムと交流しますか？
• 製品は信頼できるでしょうか？それが約束したことを実行しますか？
• すべての種類の人々に対して、 包摂性とアクセシビリティを促進していますか？

これらの質問は抽象的なものではありません。実際の世界でのAIのパフォーマンスを直接形作ります。ヘルスケア、セキュリティ、教育などの高リスクの状況では、システムが包摂的で公平であるか、混乱を招き、有害であるかを決定することができます。

より良いデザインとは

デザイナーは、プロトタイピング、テスト、イテレーションのプロセスを通じて、人間のニーズと機械の能力を結び付けます。これにより、製品が使用者にとって意味のあるものになります。AIがどのようにコミュニケーションをとり、どのような決定を自動化し、ユーザーにどれだけのコントロールを提供するかを疑問視することが含まれます。

アミューズメントパークを例に考えてみましょう。 AIは今夏導入される予定 で、待ち時間を短縮し、エクスペリエンスをパーソナライズし、人混みを管理します。有望なユースケースです。しかし、成功は単にスループットだけではありません。うまく設計されたシステムは、効率性だけでなく、人間の経験を優先します。つまり、透明なメッセージ、直感的なインターフェース、明確なオプトイン、ユニークなニーズを持つユーザー（スマートフォンを持たない家族やアクセシビリティが必要なゲストなど）へのフォールバックオプションが必要です。

ここにある機会は、ロジスティクスビジネス運用を最適化することだけではありません。人間の経験を高め、フリクションを減らし、魔法のような、機械的なものではなく、共有された経験を作り出すことです。それがデザインの機会です。

人間の要素をテストする

人間中心のAIデザインでは、テストは非常に重要です。潜在的なエンドユーザーをプロセスに早く、頻繁に参加させることが理想的です。目的は、潜在的な盲点を特定することです。ユーザーがシステムを理解したり信頼したりできない場合、システムは失敗しています。バックエンドがどれほど印象的なものであってもです。

テストはまた、アクセシビリティを保証します。AIドリブンのエクスペリエンスでは、しばしば見落とされる側面です。チャットボットは技術的に機能しているかもしれませんが、神経発達症のユーザーや非ネイティブスピーカーに役立たない場合、本当に機能しているわけではありません。包摂的なデザインは、周辺部のみに利益をもたらすのではなく、誰にとっても製品を強化します。

責任はデザインから始まる

ポリシーは境界を設定し、最悪の結果を防ぐのに役立ちます。したがって、EU AI法やAIビル・オブ・ライツの青写真などのフレームワークは、重要なステップです。しかし、コンプライアンスは床です。デザインが天井に到達する方法です。

企業は、人間の尊厳、自主性、監督をサポートするAIシステムを構築するために、チェックリストを超えて行く必要があります。つまり、人間の判断を完全に自動化するという誘惑に抵抗し、代わりに人間の判断を強化するツールを設計する必要があります。責任あるAIは、人間のコントロールを消去しません。実際、人間のコントロールを増強します。

この作業は技術的なものだけではありません。デザイナー、エンジニア、ポリシーエキスパート、倫理学者などの多分野にわたるチームが、最初の日から一緒に働く必要があります。つまり、人々のためにではなく、人々と一緒に設計する必要があります。

AIを形作るデザイナーの役割

デザイナーは、AIの軌道を形作る上で、独自の役割を果たします。デザイナーは、機械の構造化された論理と人間の生活の複雑さの両方を流暢に話すことができる翻訳者です。デザイナーは、データだけでは捉えられない、摩擦点、感情的信号、社会的影響を認識するように訓練されています。

人間のニーズに応える技術を保証する特定の質問と同様に、デザイナーは、訓練データにすっきり収まらない質問を主張する必要があります。たとえば：

• これは誰かにとってどのような感覚を与えるでしょうか？
• ユーザーはコントロールしていますか？
• 何かが間違ったときに何が起こりますか？

デザインは、AIパイプラインの最後に「見た目を良くする」ために導入されることがよくあります。しかし、デザインの真の力は戦略的です。問題が最初にどのように定義されるかを形作るべきです。インターフェースの見た目だけではありません。

人間優先、機械優先ではない

AIは技術的な課題だけではありません。デザインの課題です。AIに取り組むには、人間の価値観を最初から中心に据える必要があります。

人間中心のAIは贅沢ではありません。必要なものです。信頼できる、信頼性の高い、偏見のない、監査可能な、コンプライアントなシステムを作成します。さらに、エンドユーザーに利益をもたらし、人間の生産性と潜在性を高める製品を構築します。

私たちはツールを持っています。私たちは責任を持っています。技術が人々に奉仕する未来を設計する責任があります。人々が技術に奉仕するのではなく、その逆です。那個の未来はデザインから始まります。