ヴィクター・チョーは、EmovidのCEOです。彼は、AIがより本物で、感情的に知的なコミュニケーションをサポートする方法を探っています。製品イノベーションとデジタルリーダーシップの背景を持ち、彼は、人間の感覚を失うことなく、人々がより効果的につながるのに役立つツールを構築することに焦点を当てています。
メタの内部ガイドラインがリークされ、メタのAIチャットボットが子供とフラートすることを許可していることが明らかになったとき、多くの人はそれをスキャンダルとして扱い、話を終えた。しかし、調査が現在のAI倫理の状況について私たちに教えてくれることをより深く考えてみる価値がある。メタのような企業がそのようなポリシーを容認している場合、どのようなものがこれらのプラットフォームで黙って許可されているのであろうか。また、それはあなたのデータに関係しているものなのか。ビジネスリーダーは、AIツールをどのように使えるか、どのくらいの速度で、どのくらいのコストで使えるかで評価することが多い。しかし、特にAIツールがテーブルステークスになるにつれて、もっと難しい質問をしなければならない。あなたのチームがAIツールを使い始めたときに、あなたはどのような条件に同意するのか。モデルプロバイダーとエージェントビルダーはあなたのデータをどう扱っているのか。何かが間違ったとき、誰が責任を負うのか。ほとんどの組織は、新しいテクノロジーからどれだけの金額を搾取できるかということに集中しすぎて、もっと重要な質問を考える時間を持っていない。実際にあなたのデータはどうなっているのかほとんどの人は、チャットボットと共有するものを大幅に過大評価するか、まったく気にしない。実際は、大規模言語モデルは、ある意味で、公開された後に凍結される。つまり、あなたの会話はシステムのメモリに即座に接続されず、別々に保存される。朝にChatGPTに話したことは、午後に誰か別の人に話すモデルに影響を与えない。しかし、それはあなたのデータが使われていないことを意味しない。使われている。ただし、その経路はより複雑である。会話ログは別々に保存され、多くのAI研究所は明示的に、次のモデルバージョンのトレーニングに使用するためにそれらを使用する権利を留保している。それはサービス条件に記載されている。今日の顧客サポートの問い合わせや戦略のブレーンストーミングが、時間の経過とともに、明日数百万人が使用するモデルに影響を与える可能性がある。機密データへのリスクは、ポリシーを超える。2025年、Scale AIは偶発的に、メタ、Google 、xAIなどのクライアントからの機密プロジェクト資料の数千ページを公開した。別の11月の脆弱性により、OpenAIのベンダーが攻撃を受け、ハッカーが顧客データ、名前、メールアドレス、システムの詳細を奪った。明確に言うと、これは五重の警戒事態ではないが、リスクもないわけではない。エンタープライズグレードのシステムには、データの再利用に関する契約上のガイドレールがある。消費者向けツールにはほとんどない。如果あなたのデータが機密性が高く、NDAで保護したい場合は、消費者向けチャットボットに渡して、他の場所で使用されないと想定すべきではない。数字は、ほとんどの組織がまだこれを吸収していないことを示唆している。ほぼ8人に7人が企業情報をAIツールに貼り付けているが、そのうち5人以上が個人アカウントを使用してそうしている。2025年のワークフォース調査によると、5人に1人がすでに影のAI使用に関連するセキュリティ漏洩を報告しており、わずか37%の組織がそれを検出または管理するためのポリシーを設けている。IBMの2025年のデータ漏洩コストレポートによると。一度理解してしまえば、この種のデータリスクは回避するのが難しくない。消費者向けツールとエンタープライズツールを区別し、契約書を知っておけば、ほとんどのリスクを回避できるだろう。AIを介したコミュニケーションがビジネスに失敗する場所あなたのデータがどうなるかは、1つの側面である。他の側面、そして多くのビジネスにとってはより重大な側面は、これらのシステムがあなたの最も重要なコミュニケーションの質と説明責任にどのような影響を与えるかである。ビジネスを動かす会話について考えてみよう。長年のクライアントを維持するためのミーティング、トーンと信頼が取引言語よりも重要なセールス交渉、または年間の目標に向けた進捗状況についての四半期の理事会プレゼンテーション。AIは、これらの相互作用の取引的な要素、たとえばミーティングノートの取り、優先順位の割り当て、行動項目の強調を、かなりうまく処理できる。しかし、下にあるすべてのものに苦労する。具体的な失敗モードは名前をつける価値がある。AIはコンテキストを圧縮する。要約し、滑らかにし、標準化することで、ニュアンスを取り除くことができる。また、大規模言語モデルが生成するコンテンツは、検証するのが難しい。AI生成の電子メールや会話のサマリーを送信した人には、受け取ったものがあなたの意図したものを反映しているか、AIによってフィルタリングまたは再構成されていないかを確認する方法がない。これは、AIがビジネスコミュニケーションにまったく役割がないことを意味しない。明らかに役割がある。しかし、効率性の向上がリスクを正当化しない会話のカテゴリがある。多くの組織は、これらのユースケースを十分に区別していない。自分で行うべき時を知るしたがって、質問は次のようになる。最も機密性の高いコミュニケーションの場合、AIをループに含めるべきかどうか。私の正直な答えは、少なくとも、発言したこと、どのように発言したこと、メッセージが配信されたかを責任を持って説明できる人がいない限り、はい、含めるべきではない。人間のコミュニケーションを検証することは、古いやり方を好むことではなく、単に一部の会話には人間が背後に立って説明責任を負う必要があることを認識することである。リーダーは、自分の研究をしなければならない。ベンダーのデータポリシーは、契約終了時に会話ログがどうなるかについて何を述べているのか。これらは、ITチームが裏で処理するべき質問ではない。購入に関する質問であり、現在よりもプロセスの初期段階で考慮されるべきものである。子供とフラートすることを許可されたボットは、それを独自に決定しなかった。誰かがそれを承認した。すべてのAIシステムは、作成して展開した人の判断を反映しており、常に外から明らかではない。AIツールやシステムが採用に追いつくまで、ビジネスリーダーが取れる最も防御的な立場は、AIを介してルーティングする会話としない会話を区別することである。効率性のためのAIの議論は説得力がある。自分の名前で出るものを所有するための議論も同様である。
すべての企業には、テクノロジーとリスクを管理する責任者がいます。チーフ・インフォメーション・オフィサーはテクノロジー・スタックを運用しています。チーフ・コンプライアンス・オフィサーは規制に従っていることを確認しています。しかし、人工知能が決定に大きく関与するようになると、別の質問が難しくなります。誰が信頼を責任を持っていますか?その質問は抽象的なものではありません。生成的な人工知能はすでにメールを書き、ポリシーを起草し、顧客の質問に答え、採用や財務上の選択を形作っています。従業員や顧客は、どのメッセージが本物で、誰がメッセージを書いたのか、または決定が人間によるものかアルゴリズムによるものかを判断することができません。その不確実性はただ鬱陶しくなるだけでなく、組織そのものへの信頼を損なっています。そのギャップを埋めるために、一部の企業は新しい役職を試みています。チーフ・トラスト・オフィサーの役割は広範囲にわたります。倫理を守ること、データの使用を監督すること、利害関係者の信頼を保護することなどです。しかし、役職名だけでは問題を解決できません。信頼は組織図に名前を追加することで構築されるのではなく、企業が選択を明確に説明することによって構築されます。信頼の侵食私がCEOと人工知能について話をするとき、気分はいつも同じです。興奮と疲労が混合しています。誰もが潜在性を見ていますが、実際のビジネス価値は測定するのが難しいです。しかし、より大きなリスクは、投資の無駄遣いではありません。信頼の侵食です。企業がボット、テンプレート、自動返信に頼るにつれて、コミュニケーションは信頼性のシグナルを失います。メッセージは情報を伝えるかもしれませんが、そのシグナルがなければ、空虚に感じます。時間の経過とともに、その空虚感はリーダーシップ、決定、組織そのものへの信頼を弱めます。そのため、意図が重要です。信頼は、企業がトランザクション型の人工知能（請求書の更新、パスワードのリセット、スケジュールの通知など）と関係型の人工知能（戦略の発表、定期的なチームの更新、部門間のコミュニケーション、またはクライアントとの関係構築のやり取りなど）の明確な境界線を引くときに生き残ります。前者はリスクなく自動化できますが、後者は人間の声が必要です。その境界線がなければ、組織は信頼を構築する瞬間を自動化するリスクがあります。その結果、人工知能の採用が持続可能になる基盤が失われます。「チーフ・トラスト・オフィサー」では、実際にはその責任はどのように見えますか？企業が「チーフ・トラスト・オフィサー」という役職名を採用するかどうかは別として、その機能自体は避けられません。誰かが人工知能を理解可能、説明可能、信頼できるものにするというタスクを所有する必要があります。その責任は、倫理のチェックリストやコンプライアンスの報告書を超えています。人工知能の決定を、影響を受けるすべての利害関係者に対して平易な言語で説明することを意味します。董事会はリスクを評価する必要があり、従業員は新しいツールを採用する必要があり、顧客は自動化システムとやり取りする必要があり、規制当局は明確性を要求しています。その翻訳がなければ、人工知能はブラックボックスになります。あるいは、人々は決定がなぜなったのかを理解することができます。その橋がないと、コミュニケーションが劣化します。人工知能の出力は効率的ですが、非個人的になり、人々はその出力の真正性について疑問を持ち始めます。信頼の機能は、関係的な瞬間（戦略の発表や顧客サポートのやり取りなど）が人間だけが提供できるプレゼンス、共感、信頼性を保持することを保証します。ツールが人間のプレゼンスを保存するように構築されると、つながりを深めます。信頼の測定多くの企業では、信頼は抽象的な価値として扱われます。使命声明に言及されるものの、めったに測定されません。人工知能の時代では、それはもう十分ではありません。信頼は象徴から実践へと移行しなければなりません。第一歩は、トランザクション型の人工知能と関係型の人工知能の境界線を定義することです。自動化が適切な場所についての明確なポリシーは、従業員と顧客に、企業が選択について意図的にしていることを信号します。その明確さがなければ、効率は人間のプレゼンスと共感が依存する瞬間まで溢れてしまいます。第二歩は、信頼を直接測定することです。つまり、最も重要な人々に質問することです。《従業員は、リーダーシップが人工知能を責任を持って使用することを信頼していますか？顧客は、企業が約束を守ることを信頼していますか？》これらの答えを時間の経過とともに追跡すると、リーダーシップには、人工知能戦略が信頼を構築しているか、侵食しているかを判断するための最も明確な絵が現れます。つまり、信頼はもう曖昧または仮定のままではいけません。信頼は定義され、テストされ、他の戦略的優先事項と同じ厳密さで測定されなければなりません。企業が明確な境界線と直接のフィードバックを通じてこの規律に取り組むと、人工知能が市場を再構築するにつれて、信頼を構築する立場に立ちます。誰が信頼を所有するか境界線を定義し、信頼を測定することが最初のステップである場合、次のステップは責任を割り当てることです。企業内で誰かがこれらの原則を明確にし、抽象的なものに止まらないようにする必要があります。チーフ・トラスト・オフィサー、チーフ・AI・オフィサー、または人事またはコミュニケーションの部門内にいるかは重要ではありません。役割が明示的に認識されているという事実が重要です。所有権がなければ、信頼は誰かの責任でもないまま、ギャップに落ちるリスクがあります。所有権は一つの役所で止まってはいけません。信頼は、ビジネス全体の日常の選択に浸透しなければなりません。チームが新しいツールを採用する方法、リーダーシップが戦略を伝える方法、顧客がサポートされる方法、従業員が声を聞かれる方法などです。指定されたリーダーは枠組みを設定できますが、組織全体がそれを体現しなければなりません。単純に言えば、信頼は単一の役割で始まるかもしれませんが、運用の原則として共有されるまで成功しません。信頼は人工知能の基盤人工知能は、ほとんどの企業が規制や完全に理解するよりも速く進化し続けるでしょう。そのペースは、信頼を「ソフトな価値」ではなく、戦略的能力として見るように促します。リーダーシップは設計し、測定し、保護しなければなりません。質問は、誰が役職名を持ち、信頼の機能が日常業務にどの程度埋め込まれているかです。成功する企業は、最新のツールを追うのではなく、明確な境界線を設定し、選択を平易な言語で説明し、最も重要な場所で人間のプレゼンスを保存する企業です。そのことが、人工知能の採用を疑問の源から信頼の源に変えることです。その意味で、信頼は人工知能を使用可能にする基盤です。企業が信頼をこのように扱うと、技術の進歩にただ従うのではなく、それをリードすることになります。
