ボットが子どもに恋愛的な言葉をかけてよいなら、あなたのデータにはほかに何が許されているのか？

メタの内部ガイドラインがリークされ、メタのAIチャットボットが子どもに恋愛的な言葉をかけることを許可していることが明らかになったとき、大半の人はそれをスキャンダルとして扱い、話を終えた。しかし、調査が現在のAI倫理の状況について私たちに教えてくれることをより深く考えてみる価値がある。メタのような企業がその規模でそのような方針を容認しているなら、どのようなものがこれらのプラットフォームで黙って許可されているのであろうか。そして、そのうちどれほどがあなたのデータに関わるのだろうか。

ビジネスリーダーは、AIツールに何ができるか、どのくらいの速度で、どのくらいのコストで使えるかで評価することが多い。しかし、特にAIツールの利用が事業の前提条件になるにつれて、もっと難しい質問をしなければならない。あなたのチームがAIツールを使い始めたときに、あなたはどのような条件に同意するのか。モデルプロバイダーとエージェントビルダーはあなたのデータをどう扱っているのか。何かが間違ったとき、誰が責任を負うのか。

ほとんどの組織は、新しいテクノロジーからどれだけ多くの利益を引き出せるかということに集中しすぎて、もっと重要な質問を考える時間を持っていない。

実際にあなたのデータはどうなっているのか

ほとんどの人は、チャットボットに何かを共有するリスクを大幅に過大評価するか、まったく気にしない。実際は、大規模言語モデルは、ある意味で、学習を終えて一般公開された時点で凍結される。つまり、あなたの会話はシステムのメモリに即座に接続されず、別々に保存される。朝にChatGPTに話したことは、午後にモデルが別の人へ返す回答に、直ちに影響するわけではない。

しかし、それはあなたのデータが使われていないことを意味しない。使われている。ただし、その経路はより複雑である。

会話ログは別々に保存され、多くのAI研究所は明示的に、次のバージョンの学習にログを利用する権利を留保している。それはサービス条件に記載されている。今日の顧客サポートの問い合わせや戦略のブレーンストーミングが、時間の経過とともに、明日数百万人が使用するモデルに影響を与える可能性がある。

機密データへのリスクは、ポリシーを超える。2025年、Scale AIは偶発的に、メタ、Google 、xAIなどのクライアントからの機密プロジェクト資料の数千ページを公開した。別の11月の情報侵害により、OpenAIのベンダーが攻撃を受け、ハッカーが顧客データ、名前、メールアドレス、システムの詳細を奪った。

明確に言うと、これは最重大級の緊急事態ではないが、リスクもないわけではない。エンタープライズグレードのシステムには、データの再利用に関する契約上のガイドレールがある。消費者向けツールにはほとんどない。もしデータの機密性が高く、NDAで保護したい場合は、消費者向けチャットボットに渡して、他の場所で使用されないと想定すべきではない。

数字は、ほとんどの組織がまだこの問題を理解していないことを示唆している。2025年の従業員調査によると、従業員の10人中8人近くが企業情報をAIツールに貼り付けているが、そのうち5人中4人を超える人が個人アカウントを使っている。組織の5分の1はすでに、管理外でのAI利用に関連する情報侵害を報告しており、それを検知または管理する方針を定めている組織は37%にすぎない。IBMの2025年のデータ漏洩コストレポートによる。

一度理解してしまえば、この種のデータリスクは回避するのが難しくない。消費者向けツールとエンタープライズツールを区別し、契約書を知っておけば、ほとんどのリスクを回避できるだろう。

AIを介したコミュニケーションが企業の期待に応えられない場面

あなたのデータがどうなるかは、1つの側面である。他の側面、そして多くのビジネスにとってはより重大な側面は、これらのシステムがあなたの最も重要なコミュニケーションの質と説明責任にどのような影響を与えるかである。

ビジネスを動かす会話について考えてみよう。長年のクライアントを維持するためのミーティング、口調と信頼が取引条件の文言以上に重要ともいえるセールス交渉、または年間の目標に向けた進捗状況についての四半期の取締役会へのプレゼンテーション。AIは、こうしたやり取りの実務的な部分、たとえば会議の記録、優先順位の割り当て、行動項目の強調を、かなりうまく処理できる。しかし、その背後にあるすべてのものには苦戦する。

具体的な失敗モードは名前をつける価値がある。AIはコンテキストを圧縮する。要約し、滑らかにし、標準化することで、ニュアンスを取り除くことができる。また、大規模言語モデルが生成するコンテンツは、検証するのが難しい。あなたがAI生成のメールや要約された会議メモを送った相手には、受け取ったものがあなたの意図したものを反映しているか、AIによってフィルタリングまたは再構成されていないかを確認する方法がない。

これは、AIがビジネスコミュニケーションにまったく役割がないことを意味しない。明らかに役割がある。しかし、効率性の向上がリスクを正当化しない会話のカテゴリがある。多くの組織は、これらのユースケースを十分に区別していない。

自分で行うべき時を知る

したがって、質問は次のようになる。最も機密性の高いコミュニケーションの場合、AIをループに含めるべきかどうか。

私の率直な答えは「いいえ」だ。少なくとも、何がどのように語られ、メッセージが届いたかについて責任を負える人がいない限り、含めるべきではない。人間のコミュニケーションを検証することは、古いやり方を好むことではなく、単に一部の会話には人間が背後に立って説明責任を負う必要があることを認識することである。

リーダーは事前に調べる必要がある。ベンダーのデータ方針は再利用について何と定めているのか。契約が終了したら、チームの会話ログはどうなるのか。これらは、ITチームが裏で処理するべき質問ではない。購入に関する質問であり、現在よりもプロセスの初期段階で考慮されるべきものである。

子どもに恋愛的な言葉をかけることを許可されたボットは、それを独自に決定しなかった。誰かがそれを承認した。すべてのAIシステムは、作成して展開した人の判断を反映しており、常に外から明らかではない。

AIツールやシステムを監査するための手段が、それらの普及に追いつくまでは、ビジネスリーダーが取れる最も正当化しやすい立場は、AIを介してよいと考える会話と、そうでない会話の境界を引くことである。効率性のためのAIの議論は説得力がある。自分の名前で発信されるものに責任を持つべきだという主張も、同じくらい説得力がある。