AIの時代、企業が必要とするのはチーフ・トラスト・オフィサー

すべての企業には、テクノロジーとリスクを管理する責任者がいます。チーフ・インフォメーション・オフィサーはテクノロジー・スタックを運用しています。チーフ・コンプライアンス・オフィサーは規制に従っていることを確認しています。しかし、人工知能が決定に大きく関与するようになると、別の質問が難しくなります。誰が信頼を責任を持っていますか?

その質問は抽象的なものではありません。生成的な人工知能はすでにメールを書き、ポリシーを起草し、顧客の質問に答え、採用や財務上の選択を形作っています。従業員や顧客は、どのメッセージが本物で、誰がメッセージを書いたのか、または決定が人間によるものかアルゴリズムによるものかを判断することができません。その不確実性はただ鬱陶しくなるだけでなく、組織そのものへの信頼を損なっています。

そのギャップを埋めるために、一部の企業は新しい役職を試みています。チーフ・トラスト・オフィサーの役割は広範囲にわたります。倫理を守ること、データの使用を監督すること、利害関係者の信頼を保護することなどです。しかし、役職名だけでは問題を解決できません。信頼は組織図に名前を追加することで構築されるのではなく、企業が選択を明確に説明することによって構築されます。

信頼の侵食

私がCEOと人工知能について話をするとき、気分はいつも同じです。興奮と疲労が混合しています。誰もが潜在性を見ていますが、実際のビジネス価値は測定するのが難しいです。しかし、より大きなリスクは、投資の無駄遣いではありません。信頼の侵食です。

企業がボット、テンプレート、自動返信に頼るにつれて、コミュニケーションは信頼性のシグナルを失います。メッセージは情報を伝えるかもしれませんが、そのシグナルがなければ、空虚に感じます。時間の経過とともに、その空虚感はリーダーシップ、決定、組織そのものへの信頼を弱めます。

そのため、意図が重要です。信頼は、企業がトランザクション型の人工知能（請求書の更新、パスワードのリセット、スケジュールの通知など）と関係型の人工知能（戦略の発表、定期的なチームの更新、部門間のコミュニケーション、またはクライアントとの関係構築のやり取りなど）の明確な境界線を引くときに生き残ります。前者はリスクなく自動化できますが、後者は人間の声が必要です。その境界線がなければ、組織は信頼を構築する瞬間を自動化するリスクがあります。その結果、人工知能の採用が持続可能になる基盤が失われます。

「チーフ・トラスト・オフィサー」

では、実際にはその責任はどのように見えますか？企業が「チーフ・トラスト・オフィサー」という役職名を採用するかどうかは別として、その機能自体は避けられません。誰かが人工知能を理解可能、説明可能、信頼できるものにするというタスクを所有する必要があります。

その責任は、倫理のチェックリストやコンプライアンスの報告書を超えています。人工知能の決定を、影響を受けるすべての利害関係者に対して平易な言語で説明することを意味します。董事会はリスクを評価する必要があり、従業員は新しいツールを採用する必要があり、顧客は自動化システムとやり取りする必要があり、規制当局は明確性を要求しています。その翻訳がなければ、人工知能はブラックボックスになります。あるいは、人々は決定がなぜなったのかを理解することができます。

その橋がないと、コミュニケーションが劣化します。人工知能の出力は効率的ですが、非個人的になり、人々はその出力の真正性について疑問を持ち始めます。信頼の機能は、関係的な瞬間（戦略の発表や顧客サポートのやり取りなど）が人間だけが提供できるプレゼンス、共感、信頼性を保持することを保証します。ツールが人間のプレゼンスを保存するように構築されると、つながりを深めます。

信頼の測定

多くの企業では、信頼は抽象的な価値として扱われます。使命声明に言及されるものの、めったに測定されません。人工知能の時代では、それはもう十分ではありません。信頼は象徴から実践へと移行しなければなりません。

第一歩は、トランザクション型の人工知能と関係型の人工知能の境界線を定義することです。自動化が適切な場所についての明確なポリシーは、従業員と顧客に、企業が選択について意図的にしていることを信号します。その明確さがなければ、効率は人間のプレゼンスと共感が依存する瞬間まで溢れてしまいます。

第二歩は、信頼を直接測定することです。つまり、最も重要な人々に質問することです。《従業員は、リーダーシップが人工知能を責任を持って使用することを信頼していますか？顧客は、企業が約束を守ることを信頼していますか？》これらの答えを時間の経過とともに追跡すると、リーダーシップには、人工知能戦略が信頼を構築しているか、侵食しているかを判断するための最も明確な絵が現れます。

つまり、信頼はもう曖昧または仮定のままではいけません。信頼は定義され、テストされ、他の戦略的優先事項と同じ厳密さで測定されなければなりません。企業が明確な境界線と直接のフィードバックを通じてこの規律に取り組むと、人工知能が市場を再構築するにつれて、信頼を構築する立場に立ちます。

誰が信頼を所有するか

境界線を定義し、信頼を測定することが最初のステップである場合、次のステップは責任を割り当てることです。企業内で誰かがこれらの原則を明確にし、抽象的なものに止まらないようにする必要があります。チーフ・トラスト・オフィサー、チーフ・AI・オフィサー、または人事またはコミュニケーションの部門内にいるかは重要ではありません。役割が明示的に認識されているという事実が重要です。所有権がなければ、信頼は誰かの責任でもないまま、ギャップに落ちるリスクがあります。

所有権は一つの役所で止まってはいけません。信頼は、ビジネス全体の日常の選択に浸透しなければなりません。チームが新しいツールを採用する方法、リーダーシップが戦略を伝える方法、顧客がサポートされる方法、従業員が声を聞かれる方法などです。指定されたリーダーは枠組みを設定できますが、組織全体がそれを体現しなければなりません。単純に言えば、信頼は単一の役割で始まるかもしれませんが、運用の原則として共有されるまで成功しません。

信頼は人工知能の基盤

人工知能は、ほとんどの企業が規制や完全に理解するよりも速く進化し続けるでしょう。そのペースは、信頼を「ソフトな価値」ではなく、戦略的能力として見るように促します。リーダーシップは設計し、測定し、保護しなければなりません。質問は、誰が役職名を持ち、信頼の機能が日常業務にどの程度埋め込まれているかです。

成功する企業は、最新のツールを追うのではなく、明確な境界線を設定し、選択を平易な言語で説明し、最も重要な場所で人間のプレゼンスを保存する企業です。そのことが、人工知能の採用を疑問の源から信頼の源に変えることです。その意味で、信頼は人工知能を使用可能にする基盤です。企業が信頼をこのように扱うと、技術の進歩にただ従うのではなく、それをリードすることになります。