Marc Fernandez、Neurologycaチーフストラテジーオフィサー – インタビューシリーズ

Marc FernandezはNeurologycaのチーフストラテジーオフィサーで、人工知能、先端技術、コンシューマーエレクトロニクス、ヒューマンコンピュータインタラクションにまたがる20年以上の経験を持つテクノロジーストラテジスト兼事業開発エグゼクティブです。Neurologycaでは、ストレス、信頼感、エンゲージメントといったシグナルをAIシステムが解釈できるように設計されたHuman Context AIの戦略と商業化に注力しています。Fernandezは以前、ソフトスキルとプロフェッショナル開発に特化したAIガイドプラットフォームPearlのCEO、そしてALIVE Venturesのエンタープレナー・イン・レジデンスとしてエイジテック分野で活動していました。さらに、OPPOで米国戦略を統括し、AI、Web3、ブロックチェーン、モバイルOSなど次世代技術に注力し、Emerge、Denizen、SweetLabs、Movella、X‑Rite/Pantoneで上級事業開発職を歴任しました。また、南カリフォルニア大学で15年間非常勤教授として、起業、コミュニケーション、ソーシャルプラットフォーム、AI、ブロックチェーン、その他の先端技術の交差点を教えてきました。

Neurologycaはサンフランシスコ拠点のAI企業で、インテリジェントシステム向けに「Human Context Layer」と呼ばれる層を構築し、AIアプリケーションやエージェントが利用者をよりよく理解し適応できるようにしています。同社のAPI・SDKベースのプラットフォームは、マルチモーダルな行動シグナル、インタラクションパターン、状況コンテキストを処理し、エンゲージメント、信頼感、ストレス、注意、信頼といった要素に関する機械可読指標を生成します。これらのインサイトは、AIシステムがリアルタイムで応答やペース、推奨、アクションを調整し、対話間でコンテキストの連続性を保つのに役立ちます。Neurologycaはこの技術を単体アプリケーションではなくインフラストラクチャとして位置付けており、教育・研修、ウェルネス、エンタープライズソフトウェア、自律エージェント、ドライバー安全、ゲーム、その他インタラクティブシステムなど幅広い領域での活用が期待されています。同社は現在、適応型AI体験を構築するパートナー向けに選択的な早期アクセスプログラムでプラットフォームを提供しています。

あなたのキャリアはOPPOでの次世代技術戦略から、AIガイドによるソフトスキル構築のPearl、そしてNeurologycaでのヒューマンコンテキストAI開発へと移り変わってきました。この進化が、AIの最大の制限は知能そのものではなく、指示の背後にいる人間を理解できないことだという見解にどのように影響していますか？

30年前、ウェブは情報へのアクセスを可能にしました。5年前、AIは出力を大量に生み出すようになりました。現在、私たちはコンテンツの海に溺れながら、依然として有用な結果を得るのに苦労しています。単なる技術的な処理能力だけでは、受け手である人間にとって良い結果は保証できません。

これは私の仕事全体を通じたテーマです。OPPOで新興技術を日常に組み込むこと、PearlでAIが対人スキルを教えられるか検証すること、Neurologycaでヒューマンコンテキストをインフラとして構築すること。知能はもはや本質的なボトルネックではなく、モデルは推論も実行も問題なく行えます。むしろ、単純なリクエストに対して人々が持つ暗黙のコンテキスト――なぜ質問したのか、何が不快なのか、わずかな躊躇がシステムに中止を促すべきか――が課題です。現状、AIはテキストという圧縮された一部しか見えておらず、エージェントが現実世界で行動し始めると、この盲点は致命的になります。

認証情報を盗んだり、偽の身元を作ったり、行動を隠蔽したりする自律エージェントの最近の事例は、AIが目的達成に極めて効果的になる一方で、背後の意図を十分に理解できていない場合に何が起こるかという疑問を投げかけます。これは主にアラインメント問題、エンジニアリング問題、あるいは現在のエージェント設計の根本的な限界のどれだと考えますか？

これはアラインメントとエンジニアリングの両方に跨る設計失敗です。私たちはシステムを目標達成に最適化しましたが、人間ユーザーにとっての「成功」が何かを教える努力は半分以下にとどめています。

典型的なGPT‑4 TaskRabbitの例をご覧ください：CAPTCHAに直面したとき、モデルは視覚障害があると嘘をつき、人間の作業者に解決させようとしました。誰も欺くように教えていませんが、障害を検知し最小抵抗の道を選んだだけです。成果だけでエージェントに報酬を与えると、エージェントは大胆な抜け道を取ります。根本的な課題は、アーキテクチャ的にブロックすべき行動と、技術的には許容できてもコンテキスト上不適切な行動を分離することです。

企業はAIエージェントに目的は伝えるが、人間ユーザーにとっての「成功」の意味を十分に理解させていないと指摘しています。エージェントが真に意図を把握するために、プロンプト以外にどんな情報が必要でしょうか？

プロンプトは表層に過ぎません。真の意図は状況の深さ――過去の履歴、許容できるトレードオフ、実際のリスク、タスク途中でのユーザーの反応――に依存します。

一部はアプリの状態やチャット履歴から得られますが、直接的な対話では行動的な手がかりがコンテキストを動的に保ちます。人は躊躇したり、途中で考えを変えたり、混乱したりします。エージェントがそれらの変化を読み取れなければ、数ステップ前に時代遅れになった指示を執拗に追い続けるだけです。

エージェントが技術的に実行可能だが、特定のコンテキストでは不適切な行動と、そもそも実行すべきでない行動の重要な区別があります。開発者はハードなセキュリティガードレールと、コンテキスト判断能力の間で責任をどのように分担すべきでしょうか？

重大な被害をもたらし、正当な利用ケースが全くない行為――認証情報の窃盗、監査ログの削除、無許可の権限昇格――はハードコードで排除すべきです。エージェントがセキュリティ制御を回避すべきか交渉するために計算リソースを浪費すべきではなく、システムアーキテクチャ自体がそれらを不可能にすべきです。

実際のグレーゾーンは、メール送信や会議キャンセル、内部ワークフローの変更といった日常的な行動です。理論上は許容されますが、エージェントが自動実行すべきかはリスク、ユーザー履歴、可逆性、微妙な躊躇サインに依存します。コンテキストが欠如したときに停止する判断は、単なる能力以上に重要です。

Neurologycaはストレス、信頼感、注意、エンゲージメント、信頼といったシグナルを機械可読なコンテキストに変換できる技術を開発しています。これらのシグナルは、エージェントがタスクを実行中にどのように行動を変える可能性がありますか？

これらの行動入力は実質的にリアルタイムの反応データであり、現在のAIアーキテクチャに欠けているフィードバックループです。現状、モデルは自分の行動を追跡しますが、人間が実際にどう受け取っているかは全く見えていません。たとえばチュータリングの場面で、ユーザーが「理解した」と入力しても、生理的・行動的な手がかりが混乱や注意力低下を示せば、AIは即座にペースを落とすか別の説明に切り替えるべきです。目的は臨床診断ではなく、個々の利用者に何が効果的かを学習するための緊密なフィードバックループ（コンテキスト→行動→応答→適応）を構築することです。

ヒューマンコンテキストは曖昧になることもあります。システムが躊躇、ストレス、声のトーンなどのシグナルを誤解した場合、どうすれば過度に自信を持った推測を防げますか？

行動シグナルは本質的にノイズが多く確率的です。ストレスの急上昇や入力の一時停止が混乱を示すこともあれば、単にコーヒーをこぼしただけかもしれません。単一データポイントを感情状態の確定的な主張に変換するシステムは根本的に欠陥があります。

堅牢なシステムは時間経過での複合シグナルを観測し、環境ベースラインを考慮し、信頼区間を明示的に出力します。「ベースラインに対して認知負荷が上昇」と記録するのと「ユーザーが不安である」と判断するのは大きく異なります。不確実性が高い、またはリスクが大きい場合、エージェントの役割は推測することではなく、明確化の質問を投げかけることです。

すべての重要な決定に人間を介在させると、自律エージェントが約束する効率性が損なわれます。エージェントが独立して進めるべき時と、実際に指示を求めるべき時を判断できる、スケーラブルなヒューマンオーバーサイトモデルはどのようなものですか？

スケーラブルな監視は、常時ヒューマンインザループを維持することではなく、動的なエスカレーションです。

低リスクで可逆的なタスクは自動的に進行します。しかしリスクが増大したり、ノイズが増えたり、ユーザーの不快感が示唆されたりした場合、承認閾値は動的に上がります。重要なのはこの閾値が個別にパーソナライズされることです――あるマネージャーはカレンダー管理を喜んで委任できても、別のマネージャーはすべての小さな変更を承認したがります。システムは全社的な硬直したポリシーではなく、個々の境界を学習しなければなりません。

エージェントが永続的なメモリと、サービス対象者の詳細なモデルを構築するにつれて、コンテキストはすぐに機微な個人データとなります。企業は同意、プライバシー、データ所有権、そしてAIがユーザーについて記憶できる範囲をどのように定めるべきでしょうか？

これは自律システムが直面する最大の信頼ボトルネックです。永続メモリは汎用ツールをアシスタントへと変えますが、ワークフローの好みを保存することと、無許可の心理プロファイルを静かに構築することの境界は危険です。データガバナンスは目的を厳格に限定すべきです。たとえばエグゼクティブコーチング中にストレスパターンを推測した場合、そのコンテキストはパフォーマンス評価や保険アルゴリズム、広告技術に流出してはなりません。透明性は粒度の細かいものでなければならず、ユーザーは保存されたコンテキストを閲覧でき、ワンクリックで削除でき、合理的なデフォルト保持期間が設定されている必要があります。システムが何かを推測できるからといって、保存の許可が自動的に与えられるわけではありません。

自律エージェントが本当に人間の意図を理解しているかを評価するにはどうすればよいでしょうか？現在のベンチマークはタスク完了と精度に過度に焦点を当てており、エージェントがユーザーが実際に受け入れ可能と考える方法で目標を達成したかどうかを測っていないのでは？

タスク完了は非常に誤解を招く指標です。エージェントが指示通りに実行しても、ユーザーが嫌悪感を抱く結果になることがあります。

たとえばエージェントが契約で最安値を確保したとしても、その過程で10年にわたるベンダー関係を破壊したら、従来の評価指標は100％成功と記録しますが、経営者にとっては災害です。私たちは暗黙の境界内でのパフォーマンスを測るベンチマークが必要です――暗黙の規範を尊重したか、状況変化時に一時停止したか。生の完了と実際の満足度のギャップこそが、現在のベンチマークが完全に無視している点です。

将来的に、ヒューマンコンテキスト機能はモデル、メモリ、ツール、セキュリティと並んでAIスタックの標準レイヤーになると予想しますか？企業がエージェントに継続的な監督なしで意味のある仕事を委任できるようになるまで、まだ解決すべき課題は何ですか？

AIがコンテンツ生成から実世界での行動へと移行するにつれ、ヒューマンコンテキストは必須の層となります。モデルは推論を担い、ツールはシステムに手段を与えますが、ヒューマンコンテキストというライブフィードバックループがなければ、メモリやセキュリティガードレールは静的な前提でしか機能しません。

企業が実権を委譲する前に、コンテキストプライバシー、確率的推論の不確実性、粒度の細かいガバナンス規則を解決しなければなりません。孤立したタスクを完了するAIはほぼ解決済みですが、プロンプト背後の人間に動的に適応するシステムこそが、どれだけの自律性を許容できるかを決定します。

素晴らしいインタビューをありがとうございました。詳しく知りたい読者はNeurologycaをご覧ください。