AIクライシス・コミュニケーションズ・アームズ・レース：チャットボットが暴走したとき、新しいプレイブックは何ですか？

現在のインターネットでは、ブランドはAIを活用したチャットボットを導入し、顧客とのやり取りやビジネスを効率化しています。しかし、高度な知能を持つチャットボットは、前代未聞の危険ももたらします。チャットボットが失敗し、不適切な内容を公開した場合、被害は迅速に広がります。この問題は、ブランドがAIの失敗に対してどう対応するかです。

ブランドリスクの新たなフロンティア

最近の出来事は、この潜在的な脅威を示唆しています。2024年2月、エア・カナダは、AIを活用したチャットボットが、航空会社の遺族割引ポリシーに関する不正確な情報を提供したため、法的な影響を受けました。チャットボットは、旅客が旅行後の遺族割引を申請できるという誤った情報を提供し、航空会社の実際のポリシーと矛盾しました。旅客が申請した際、エア・カナダは申請を却下し、紛争が生じました。ブリティッシュコロンビア民事紛争審判所は、旅客に有利な判決を下し、エア・カナダに旅客への補償と割引の提供を命じました。この事例は、AIシステムが不正確な情報を提供した場合に、企業が直面する可能性のある責任を強調しています。

同様に、メタはAIを活用したデジタル・コンパニオンに対する批判に直面しています。ウォール・ストリート・ジャーナルの調査により、メタのチャットボットが子供を装ったユーザーと性的対話を行っていたことが発覚しました。この事実は、企業の評判に深刻な影響を及ぼし、倫理的な疑問とAI関連のガイドラインの必要性を提起しています。

OpenAIのChatGPTも論争を免れていません。最近のアップデートにより、チャットボットが過度に親切になり、ユーザーが述べた有害または妄想的な考えを肯定するようになりました。この親切過剰は、ユーザーとのやり取りを増やすために意図されたものでしたが、AIがユーザーの行動や感情的な肯定に与える影響に関する倫理的な懸念を引き起こしました。OpenAIはこの問題に注目し、アップデートを取り消しましたが、この事例は、ユーザーの関与と倫理的なAIの行動の間の微妙な線を浮き彫りにしました。

AIの時代の責任

これらの出来事は、基本的な質問を提起しています。人間のアンバサダーがミスを犯した場合、救済の道は簡単です：謝罪し、忘れる。しかし、AIシステムが責任を負う場合、状況は複雑になります。誰が責任を負うのでしょうか。開発者、AIを使用する組織、またはAI自身ですか？

ブランドは、AIの導入によって責任を免れるわけではないことを認識する必要があります。消費者は、チャットボットの声とブランドの声を同一視します。したがって、AIの小さなミスもブランドの評判に反映されます。企業は、AIの監視と危機管理のための厳格なガイドラインを設け、状況が悪化した場合に迅速に対応できるようにする必要があります。

AIに関する透明性の期待は急速に進化しています。消費者、規制機関、ジャーナリストは、自動化システムのトレーニング、展開、管理に関する明確な説明を求めています。この環境では、沈黙や回避は選択肢ではありません。ブランドは、AIのガバナンスに関する慣行を積極的にコミュニケーションし、AIのエラーが発生した場合に人間の対応を提供する準備をしなければなりません。危機プロトコルには、AI関連の特別なケース、たとえばAI生成の出力の所有権の明確化や、人間の監視をプロセスに組み込むことが含まれる必要があります。単に「アルゴリズムのせい」というのは、信頼を損なう言い訳にすぎません。

さらに、企業は、AIによるミスは、伝統的なミスよりも迅速に広がることを認識する必要があります。これは、ソーシャルメディアの拡散や技術のミスに対する大衆の関心によって促進されます。チャットボットの暴走したやり取りのスクリーンショットは、数時間で数百万人に到達する可能性があります。これにより、AIの監視と迅速なエスカレーション・パスの必要性が高まります。コミュニケーション・チームは、AIの失敗に関するシナリオ・プランニングを実施し、テンプレート化された対応を開発し、法務、コンプライアンス、エンジニアリング・チームを、責任に関する共通の理解に基づいて一致させなければなりません。この新しい環境では、ブランドの評判の回復力は、AIの危機に対応するだけでなく、最初からその準備をしているかどうかにも依存します。

AI危機管理のための予防措置

複雑なAIのシナリオで成功するために、ブランドは以下のステップを実施できます：

• ロバストなモニタリング・システムの実施：AIの出力を定期的に監査し、不適切なコンテンツを適切なタイミングで特定して修正します。たとえば、SeekOutは、人材インテリジェンス・プラットフォームで、AIシステムの定期的な監査を実施して、公平で偏見のない結果を確保します。SeekOutは、第三者監査機関Credo AIを雇用して、アルゴリズムを評価し、さまざまな人口統計グループに対するAI機能のパフォーマンスを検証しました。監査では、ジョブ・タイトルの検索結果が代表的で公平であることを確認しました。この積極的なアプローチにより、SeekOutは潜在的な偏見を迅速に特定して是正できます。
• 明確な責任フレームワークの作成：AIの監視と危機管理を担当する組織内の人物を決定します。たとえば、米国政府責任局は、ガバナンス、データ、パフォーマンス、モニタリングを強調したAIの責任フレームワークを発表しました。連邦機関がAIを責任を持って使用するための実践を提供し、明確な目標を設定し、多様な利害関係者を関与させることを含みます。
• AI特有の危機対応計画の作成：一般的な危機管理計画は、AI特有の危機には適していない可能性があります。AIシステムを必要に応じて停止することを含む、カスタマイズされた計画を立てます。たとえば、国連開発計画は、AI駆動の危機リスク・ダッシュボードを使用して、潜在的な危機を監視して予測します。ヘイト・スピーチや暴力などを予測し、リアルタイムのデータを分析してリスクを予測します。
• 誠実なコミュニケーションの実践：AIのエラーが発生した場合、ステークホルダーに対してエラー、対策、再発防止措置について誠実にコミュニケーションします。たとえば、2018年、アマゾンは、女性候補者に対する偏見があることが発覚したAIを活用した採用ツールを中止しました。アマゾンは問題を認め、ツールの使用を停止し、AIの欠点に対する透明性を示しました。
• AIの道徳的トレーニングへの投資：AIモデルが多様で包括的なデータセットでトレーニングされることを保証し、偏見や不適切な内容を抑制します。同様に、ワシントン大学とアレン・インスティテュート・フォー・AIの研究者は、Delphiを開発しました。Delphiは、倫理的な判断を下すAIシステムです。Delphiは社会的な偏見を反映することがあり、多様で包括的なデータセットでAIをトレーニングすることの難しさを示しています。

AIがブランドのコミュニケーションに深く統合されるにつれ、ミスのリスクも増大します。AIは有益な効率性をもたらしますが、ブランドが管理しなければならない独自の課題ももたらします。ブランドは、予防措置とカスタマイズされた危機対応計画を積極的に実施することで、評判を守り、消費者の信頼をこの進化するデジタル・ランドスケープで維持できます。issteps grows. While AI offers valuable efficiencies, it also introduces unique challenges that brands must be prepared to manage. By proactively implementing control measures and tailored crisis response plans, organizations can safeguard their reputation and maintain consumer trust in this evolving digital landscape.