Guillermo Delgado, Global AI Leader at Nisum

AIが私たちを速くするが賢くはしないことと、それに対処するためのリーダーの役割

多くの人にとって、AIは幅広いビジネス上の課題に対する解決策を提供します。AIはコードの共同作成者となり、ワークフローの自動化を改善し、分析のアシスタントとなることができます。しかし、組織が速くなるにつれて、思考する時間は減ります。したがって、AIがもたらす実際のリスクは、職の代替ではなく、知識の侵食です。既に研究によってこれが証明されています。SBSスイスビジネススクールは、AIへの依存の増加が批判的思考能力の低下と関連していることを発見しました。この侵食は深刻な結果をもたらします。チームがモデル出力に頼るにつれて、人間の判断が貴重なスキルが劣化し、推論力の低下、仮定の挑戦の欠如、モデル管理の低下はAIの効率性ではなく、ビジネスの脆弱性を増大させます。AIの能力の誤解組織は、より速い出力をAIの成功的な導入の証拠として祝っています。しかし、速度は誤解を招く指標です。多くのチームがAIの能力と呼ぶものは、実際にはプロンプトの流暢さと間違えられがちです。しかし、労働者は与えられた答えを信頼できる必要があります。出力が正しそうに聞こえる場合、多くの人々はそれが正しいと仮定します。モデル検証は忘れ去られ、仮定はチェックされません。労働者は推論が必要だった結論に対してAIに頼るようになります。2025年の研究はこのパターンを支持しています。AIツールの頻繁な使用と批判的思考能力の間には「認知的外部化によって媒介される負の相関関係」があることが発見されました。さらに、AIインターフェースに最も慣れている若い参加者は、批判的思考スコアが低かったです。この点は、The Economic Timesの調査でも裏付けられています。基本的なAIの熟達度はプロンプトのマスターから来るのではなく、機械出力の解釈、挑戦、文脈化する人間のスキルから来るものであり、AIの熟達度は批判的思考、分析的推論、創造的問題解決、感情的知性から来るものであると述べられています。これらのスキルがなければ、ユーザーはAIコンテンツの消費者となり、積極的な意思決定者ではなくなります。心配するべきは、認知的外部化が神経レベルで観察されていることです。The Economic Timesは、MITメディアラボの研究を報道し、ChatGPTを頻繁に使用する参加者は、記憶力の低下、スコアの低下、AIの支援なしで試みた際の脳活動の低下を見せたことを発見しました。研究者たちは「この便利さは認知的コストを伴う」と述べています。学生たちはAIを使用して「全てのレベル：神経、言語、スコア」で悪い成績を示しました。これらの結果は、AIのショートカットがどのようなものを損なっているかを明らかにします。AIは、専門家が毎日頼る認知スキルを弱めます： 分析的推論 仮説のテスト デバッグの直感 ドメインの直感 最近の研究は、AIの人間レベルでの見過ごされた欠点をようやく照らしつけている。そして、これは高リスクの決定、たとえばリスク、予測、リソースの割り当てにおいて、より大きな問題となっています。これらすべては、文脈の理解を必要とします。モデル設計の背後にある論理を理解していない人々は、決定がより不確実になるでしょう。人間のスキルが弱いと企業レベルのリスクが生じる理由新しい能力格差がガバナンスを弱めるAIの導入が広がるにつれて、多くの組織で格差が生じています。一方には、質問し、挑戦し、解釈し、精緻化することができる検査員がいます。他方には、結果を受け入れて次に進むオペレーターがいます。この分裂は、多くのリーダーが認識しているよりも重要です。ガバナンスは、モデル出力だけではなく、モデルが仮定するものを質問し、挑戦するチームに依存しています。システムがどのように機能するかを理解する人が少ないと、モデルドリフトやデータ品質の変化の初期の兆候は見逃されがちです。チームがAI出力を疑問なく受け入れると、軽微なエラーが下流に進み、迅速に蓄積します。過度の依存は単一の故障点となります。これにより、組織が判断を理解よりも速くアウトソーシングする場合に何が起こるかという疑問が生じます。このガバナンスのギャップはまた、イノベーションを妨げます。AIを質問することができないチームは、プロンプトを改良したり、新しい洞察が新しいものであることを認識したりすることができません。イノベーションは、専門家の少ないプールの周りに集中し、組織の適応能力を遅らせます。イノベーションは人間の好奇心の低下とともに停滞するAIは多くのタスクを加速し、自動化できますが、明らかな答えを超えて質問し、挑戦する人間の直感を代替することはできません。しかし、この本来人間にある直感は劣化しています。これは、エージェンシーの衰退として知られています。人間が機械に思考を外部化する4段階の進展: 実験：好奇心と便利さから、人々は小さなタスクをAIに委託し始めます。これは強力で効率的です。 統合：AIは日常のタスクの一部となります。人々は基礎的なスキルを持っていますが、支援とともに仕事をすることに多少の不安を感じます。 依存：AIは複雑な決定を下し始めます。ユーザーは自満になり、認知能力は無意識のうちに萎縮します。 依存：別名、選択的盲目です。人々はAIなしでは効果的に機能できなくなりますが、自分自身の自主性を信じ続けています。 この進展は重要です。AIは、知識の欠如を認識し、新しい問題に対する新しい解決策を考える能力を侵食します。これらの高次のスキルは、継続的な練習を必要とします。しかし、AIの便利さはこれらのスキルを怠ることを容易にします。組織は、効率的ではありますが、創造性に欠けるようになります。研究開発は、人間の好奇心と懐疑心に依存しますが、これらはAI出力が疑問視されないとともに低下します。この好奇心とエージェンシーの喪失は、戦略的リスクです。暗黙の知識の喪失は組織を脆弱にする健全で機能的なチームでは、専門知識は同僚間のつながりや上司から下司へのつながりを通じて流れます。しかし、労働者が質問を人間ではなくAIに転送するにつれて、メンターシップのループは弱まります。若手は上司の判断を学び、吸収するのをやめ、上司はAIが日常的なギャップを埋めるので、知識の文書化をやめます。時間の経過とともに、中心的な知識は空洞化します。しかし、このリスクは時間が経過してから明らかになるため、ビジネスは生産的であるように見えますが、その基盤は脆弱になります。モデルに異常が発生したり、不規則性が見られたりすると、チームは自信を持って対応するドメインの深さを持っていません。ある会計事務所のケーススタディは、スキル侵食の悪循環と題された研究において、認知的自動化への長期的な依存は、人間の専門知識の著しい低下をもたらすことが発見されました。労働者が自動化された機能をより信頼するにつれて、彼らの活動の認識、能力の維持、出力の評価はすべて弱まりました。研究者は、このスキル侵食は従業員やマネージャーに気づかれず、システムが故障したときにチームが準備不足になることを指摘しています。リーダーが深度を回復し、過度の依存から守るために行うべきこと企業はAIの導入を遅くすることはできませんが、AIが出力するものを疑問視し、修正し、必要に応じて方向を変える能力を持つ従業員の人間の判断力を強化することができます。これは、AIの能力を組織全体で再定義することから始めます。プロンプトの流暢さは熟達度ではありません。真の能力は、モデルが推論する方法を理解し、機械出力を上書きする方法を知ることです。これを理解するには、従業員は、モデルがコンテキストを簡略化する方法、ドリフトが日常の仕事でどのように現れるか、自信を持って聞こえる出力とよく根拠のある出力の違いについてのトレーニングが必要です。基盤が整ったら、リーダーは、検証チェックを日常のワークフローに組み込むことで、批判的思考を再構築できます。たとえば、 このモデルはどのような仮定をしていますか? この出力が間違っていることを示すものは何ですか? これは私たちが経験から知っていることと矛盾していますか? この批判的分析は数分で行えますが、認知的外部化の危機を緩和し、従業員とAIモデル出力をチェックするのに役立ちます。企業が従業員に最もよく教える方法は、実際のシステムで行うことです。トレーニングは、理想的なシナリオに焦点を当てていることがよくあります。しかし、企業にはそのようなシナリオはありません。データが不完全で、コンテキストがあいまいで、人間の判断が重要なシステムがあります。たとえば、物流会社がルーティングチームを完全なデータセットでしかトレーニングしなかったとします。AIが完璧に機能するシナリオでは、労働者は準備ができていません。現実の状況、たとえば天候の混乱は、AIモデルが誤った指示を生み出す原因となります。従業員がシステムが不確実な状態で動作するのを見たことがなければ、ドリフトの初期の兆候や介入するタイミングを認識できません。この場合、問題はモデルではなく、不十分なトレーニングです。従業員をドリフトシナリオ、曖昧な出力、部分的なデータ、障害について、実際のAIでトレーニングすることが重要です。そこで人間の能力が再構築されます。トレーニングが実用的であることを保証するために、ビジネスリーダーは人間の能力を測定する必要があります。組織は通常、モデル精度やコスト削減メトリクスを追跡しますが、人間の監督が強いことを示す行動はほとんど追跡しません。従業員はモデル出力を信頼する理由を文書化していますか? 不通常の結果をエスカレートしていますか? これらの観察可能な行動は、推論が強化されているか、衰退しているかを示します。リーダーが、深い推論によってプロンプトを改善したり、AI出力について有効な疑問を提起したりする人々を認識して報奨することで、AIの展開を強固にする習慣を強化します。AIはさらに速くなるでしょう。那については議論の余地はありません。問題は、チームがAIが間違ったときにそれを疑問視し、修正し、方向を変えるために必要なスキルを保持しているかどうかです。そこに違いが現れます。人間の判断力を今投資する組織が、AIから真の価値を得ることになります。効率だけではなく、脆弱性のないものです。他のすべては砂の上に築かれています。