Arjun Harindranathは、コロンビアのメデリンを拠点とするフリーランスのジャーナリストで、世界中の聴衆に向けて、紛争、移住、テクノロジーに関するストーリーを扱っている。 以前の記事には、Al Jazeera、TechCrunch、The Next Web、ニューヨークタイムズが含まれる。
20世紀初頭、英国哲学者ギルバート・ライルは、「機械の中の幽霊」という用語を提唱した。ライルは、心の概念において、この比喩を用いて、心と体が別々の物質として存在するという二元論に対抗した。ライルによれば、この区別は誤りであり、認知と身体的行動は分離できない、単一のシステムの一部である。AIの登場に伴い、AIツールを使用して生産性を高めるユーザーについて話すときに、よく使用される「ヒューマン・イン・ザ・ループ」という用語が現れた。人間と知的システムが今までにないほど密接に結びついている場合、我々は無縫な融合を構築しているのか、または操作の便宜的な幻想を創造しているのか。スタートアップはこの概念に大きく依存している。イノベーションと安心感を約束するが、現実はしばしば複雑である。責任は簡単に拡散し、説明責任は追跡しにくくなる。AIシステムが教育や戦争などのデリケートな分野に深く浸透するにつれ、賭けは抽象的なものではなくなった。ヒューマン・イン・ザ・ループとは実際に何を意味するのか、それは単に人間が完全に消え去るための婉曲表現なのか。1. ヒューマン・イン・ザ・ループとしての責任の盾この用語は、注意深く使用しないと、責任を真正に取り組むことなく責任を転嫁する簡単な方法になる。多くの人が気づいているように、プロセスの最後に人間の署名があることは、必ずしも倫理的誠実性を保証するものではなく、基礎となるシステムが不十分に設計されているか、十分に理解されていない場合には特にそうである。Scale Xの創設者兼CEOであるMaysa Hawwashは、責任の転嫁について書いており、この概念がしばしばどのように使用されているかについて率直に語っている。「実際には、他の責任転嫁方法とそう異なるものではない」とHawwashはStartup Beatに語った。例として、人事マネージャーが会社を責任から遠ざけるために使用する承認ポリシーを挙げた。「もしあなたがこのポリシーを持っていて、人々がそれを読んで承認すれば、会社としては技術的には責任を負わない」と彼女は言った。現れるのは、責任が排除されるのではなく、配置換えされるという、企業システム全体にわたるパターンである。Hawwashはこれを、批判的思考や影響を受ける可能性のある分野を理解することを避けるための怠惰な方法と見なしている。「したがって、負担を転嫁し、ポリシーが人々に理解されていなくても、ポリシーが意味を成すかどうかは関係ない」と。この枠組みでは、「ヒューマン・イン・ザ・ループ」は、より意味のある介入ではなく、手続き上のカバーとしてのリスクを冒す可能性がある。危険は単に語彙的なものではない。監視が承認に限定されると、人間の役割は象徴的なものではなく、実質的なものとなる。Hawwashは、最近の軍事的残虐行為、イランのミナブでの学校での出来事を引用し、人間の意思決定者が承認したが、人間の存在は必ずしも倫理的明晰性や十分な検討を意味するわけではないことを強調した。「戦争中や複雑な手術を行っている場合、ヒューマン・イン・ザ・ループを盾として使用する時間の余裕はない」。2. 責任のための設計、監視のみではない代替案は、ヒューマン・イン・ザ・ループ・システムを放棄することではなく、それを真剣に設計上の約束として取り組むことである。これは、象徴的な監視から故意の責任構造への移行を意味する。「AIを市場に導入するための大きな競争がある。コミュニティ、人々、またはエンドユーザーに対するダウンストリームの影響について、設計の観点から十分に考慮されていない」とHawwashは語った。速度が支配的な競争要因となった。責任は、埋め込まれるのではなく、遅延される。結果として、開発中に問題を予測するのではなく、展開後に問題を修正する反応的な倫理モデルが生まれる。アクセシビリティは採用を加速するかもしれないが、結果も増幅する。システムは技術ユーザーに限定されず、さまざまな理解レベルとコンテキストを持つ人々の決定を形作ることができる。そんな環境では、責任をエンドユーザーに転嫁することはできない。3. ヒューマン・イン・ザ・ループとしての精度と説明責任Frizzleの共同創設者であるAbhay Guptaは、より実用的で必要な人間の監視を伴うシステムを構築した、別の観点を提供する。彼の会社は、特定の問題から生まれた。教師の過労。「都市部では、銀行家やコンサルタントが70時間働いていると聞くが、教師がそのように働いていることは聞かない。好奇心から、数百人の教師に話を聞き、全員が最大の時間のかかる作業として成績評価を挙げていた」と。成績評価を自動化することは、手書きの数学の複雑さにより、AIには現実的な制限があることを示した。「精度の問題がある。AIは完璧ではないので、教師が確認および承認または却下できるように、ヒューマン・イン・ザ・ループ・システムを構築した」と。ここでは、人間の役割は装飾的なものではない。システムは明示的に自身の不確実性を特定し、そのようなケースを人間にルーティングする。「私たちにとっては精度の問題である。常に、AIが苦労する1〜3%のエッジケースがあり、人間が介入する必要がある」と。このアプローチは、ヒューマン・イン・ザ・ループを品質管理のメカニズムとして再定義する。Guptaはさらに進む。「AIは100%正確ではない。AIは妄想を生み出し、誤った出力を生み出す可能性がある。ヒューマン・イン・ザ・ループは、結果がエンドユーザーに到達する前に最終的な品質チェックとして機能する。説明責任もある。誰かが結果に対して責任を負わなければならないが、現在のところ、それはまだ人間でなければならない」と。重要なのは、人間の役割が、教師の関係的な側面も保存することである。「教師はさまざまなスタイルを持っているので、フィードバックの提供方法をカスタマイズできるようにしている」と。ヒューマン・イン・ザ・ループの再定義「ヒューマン・イン・ザ・ループ」というフレーズは、安心感を与える単純さを持っている。どれほど高度なシステムになっても、人間が制御し、「機械の中の幽霊」でないことを示唆する。しかし、スタートアップが高リスクの環境でAIを展開するにつれ、その安心感は検証を必要とする。根本的な問題は設計にある。如果システムのリスクが不十分に理解されているか、意図的に軽視されている場合、プロセスの最後に人間を配置することは基礎的な欠陥を修正するものではない。重要なのは、人間の役割をフォールバックではなく、システムの運用における不可欠な部分として定義することである。ヒューマン・イン・ザ・ループは、結果を単に承認するのではなく、スタートアップはスタッフを権限を持って結果を形成し、挑戦し、必要に応じて覆すことを目指すべきである。
起業家精神は子供の遊びではないかもしれないが、AIの分野で新たに登場した若い起業家たちは、その仮定に挑戦している。ソフトウェア開発のコストが低下し続け、AIツールがプロトタイピングの障壁を低減させるにつれ、起業家の平均年齢は低下している。革新の旧来の門番 – 機関の資格、費用の高いインフラストラクチャ、業界での数十年の経験 – はその握りを緩めている。ただし、若さだけが近道ではない；若い起業家たちはまだ経験に関する古い偏見を乗り越えなければならないし、彼らがそのような圧力にどう応じるかは明らかである。何が浮かび上がってきたのか、それは三本の柱に基づくプレイブックである：構造化された規律、速いパターン認識、コミュニティ主導の学習 – これらは若い起業家たちが世代に基づく摩擦を除去するのを助けるものとなっている。早期起業の構造的利点企業設立の経済は劇的に変化した。One Way Venturesの創設パートナーであるSemyon Dukachは、次のように説明した：「ソフトウェア会社を設立するコストは数十年間低下し続けてきた。私が若かった頃、始めるのに10万ドルと多くのインフラストラクチャが必要だった。」「今日、AIによりプロトタイピングがより安くなり、新しいアイデアをより速く試せるようになった」と彼は続けた。コストと時間の比較は、より若い起業家に不釣り合いな利益をもたらす；彼らは、より古い仮定を学び直す必要が少なく、最新のツールに近く、キャリアの圧力が完全に彼らに課せられる前に、より多くの時間を繰り返しできる。9歳のBob Chopraは、5歳から18歳までの子供たちにAI教育へのアクセスを提供するオンラインプラットフォーム、Ivyschool.aiを設立した。7歳の時に、彼の両親は彼に選択を与えた；寄宿学校か、成長するコーディングの専門知識を使用して製品を構築するか。「私は構築することを選択した」とChopraは言った。Chopraは、最新の起業家の波に比べても異常に若いが、すでに野心と持続可能性のバランスを内面化し始めている。「私を最も助けるのは構造だ。9時から12時まで、私は学生だ。13時から17時まで、私はIvySchool.aiを構築する。17時以降、私は終了し、夕方にはテニスをし、カポエイラを練習し、子供らしいことをする。学習、構築、遊びの明確な境界線を設定することで、私は焼き尽くされない」と彼はUnite AIに語った。しかし、構造だけが彼を初期の一般的な起業家の罠から守らなかった。「最初、私はすべてに賛成した；私は興奮し、また私は人々を感銘付けることを望んでいた。私たちは誰も求めていないものを構築し、1人の人の意見に基づいて方向を変更し、最終的に削除した機能に実際の時間を費やした」とChopraは認めた。彼を引き戻したのは、単一の規律だった；実際に、画面の向こう側の子供たちにとって機能するかどうか。「その規律 – 大人たちが思うように子供たちが学ぶのではなく、子供たちが実際に学ぶように構築する – ことは、私が苦い経験を通じて得たものだ」と彼は言った。スタートアップのエコシステムが進化し続けるにつれ、若い起業家の台頭は、むしろ変化する条件の反映である。若い起業家が成功できるかどうかという疑問は、もはや問いではない；彼らがどれだけ速く学び、適応し、成長して、企業が求めるリーダーになるかという疑問が、より有益な問いである。Dukach – アメリカの移民起業家を支援するベンチャーキャピタルファンドを率いる – は、支援する起業家たちに共通する特性があると指摘している：「最終的には、私たちは常に核心的な資質を探している；性格の強さ、粘り強さ、学習能力、コミュニケーション能力、他の人よりも先を見通すビジョンを持つこと。若い起業家たちは、自分が証明するものがあると感じているため、しばしばその資質を持っている」と彼は述べた。年齢偏見を乗り越える景色が変化するにもかかわらず、年齢偏見はまだ若い起業家が直面する大きな障害の1つである。明確な拒否として現れることはまれだが、口調、注意、初期投資会話での信頼性において現れる。「電話に応じると、ある程度の大人たちは、それを最初は新奇なものとして扱う。私は部屋の中で、人々が完全に聞いていないことがあるのを感じたことがある」とChopraは、信頼を得ることの難しさについて語った。「信頼を得る最も速い方法は、部屋の中で誰よりも問題をよく知ることだ。子供たちがどうして関心を失うか、受動的な学習がどうして失敗するか、7歳の子供がどうして動機づけられるかについて具体的に話すことができる時、会話は変わる」と彼は言った。このダイナミクスは、より年上の起業家にとっても同様に、しかし異なった方法で作用する。ジェネレーティブAIを利用した音楽制作ツールGoRiffの共同創設者であるAdith Reddiは、採用が最も厳しい圧力点であると説明した。「実践的には、これは私たちが非常に有能な創設チームを持っていることを、また私たちが深く理解している問題に取り組んでいることを示すために、余分な努力を払うことを意味する」と彼はUnite AIに語った。一方、投資家たちはも若い起業家にドアを閉めることを拒否している。Multifaceted Capitalの創設者兼マネージングパートナーであるSmaiyl Makyshovは、Unite AIに、「若い起業家を構造的に罰することはない」と語った。「会社が実在的であれば、構造はビジネスを反映すべきであり、CEOの年齢や教育背景を反映すべきではない」とMakyshovは述べた。また、「若さを中心に構造化することは、無意識に偏見を強化する可能性がある。基礎的なもの –...
2024年に、ビル・ゲイツは予測したように、AIが法務業界を変える可能性があると言われています。2026年、Anthropicの新しいClaudeプラグインが法務チームをシンプルな「法務チャットボット」から強力な法務インフラストラクチャへと移行させることを目指しています。内部弁護士向けに特別に設計されたこのツールは、契約のレビュー、NDAの処理、コンプライアンスのワークフローを自動化します。契約を分析し、リスクをフラグし、義務を要約することで、既存の法務テクノロジー・スタックに直接統合して日常業務を強化します。精度、責任、請求可能時間によって定義される職業では、新しい法務ツールは単に生産性の向上だけでなく、構造的な変化を約束しています。しかし、この変化は法務ソフトウェアのエコシステムを単に強化するものでしょうか、あるいはそれを完全に置き換えるのでしょうか。レガシーの不安プラグインがリリースされると、市場はそれに気づきました。ビジネスインサイダーによる報告によると、Thomson ReutersとRELX（LexisNexisの親会社）の株価は、2月初旬に約15%下落しました。Thomson ReutersとLexisNexisは、現代の法務インフラストラクチャのレガシーの機関です。彼らのデータベース、シテーター、コンプライアンスツール、ワークフローソフトウェアは、世界中の法務事務所、裁判所、内部法務部門の中心にあります。短期間ではありましたが、 Anthropicの動きに対する投資家の反応は、法務研究とコンプライアンスデータベースで長年支配してきた既存の企業に直接対抗していることを示唆しています。しかし、法務ソフトウェアの混乱は、単に優れたテクノロジーだけではありません。法務は、間違いを許す余地のない業界です。妄想的な条項、誤解された規制、または見逃されたコンプライアンスのフラグは、規制上の罰金または過失責任を引き起こす可能性があります。金融、ヘルスケア、公開市場の大口クライアントは、信頼性、監査可能性、説明可能性を要求しています。LegalOn TechのDaniel Lewisは、慎重なアプローチを主張しています。 「これを大きな混乱と見なすにはまだ早い」と彼は私たちに話しました。 「AIは急速に改善されており、過去2年間でユーザーにAIを提供するための新しいフォーマットが多数出現しています。これは別のフォーマットと見なされ、実際の価値で競争されるべきです。」Lewisは、結果が正確であるか、ツールが使いやすいか、信頼できるコンテンツで構築されているかを尋ねることが最も重要であると考えています。 「これらは、法務テクノロジーの顧客が尋ねる質問です。初期のフィードバックによると、これらの質問にすべての要素で合格しているわけではありません。」スマートコントラクトのハイプからAIの約束へスマートコントラクトの議論を覚えている人にとって、今日のAIの熱狂はおなじみのものかもしれません。ブロックチェーンの信者たちは、コードが法務作成を置き換え、分散型プロトコルが信頼できる中間者を排除することを約束しました。アイデアは魅力的でした：曖昧さのない世界での無摩擦な実行。弁護士は、自動化によって排除されることが示唆されました。Legal KarmaのPatrick Hicksは、2つの間で明確な区別を示しました。 「スマートコントラクトのハイプは、無摩擦の世界の神話に依存していました。そこでは法制度がテクノロジーと同じスピードで進化でき、グレーゾーンがなく、法的システムが変化することができました。そんな世界は存在しません。私たちは、世界が少し違う場合に世界を変えることができると約束する法務テクノロジーを何十年も見てきました。『もしも』ではなく『実際』に焦点を当てています。」Anthropicの革新は、現実の法制度の中で即座の潜在性を提供するため、異なるとHicksは主張しています。 「その潜在性は、法制度の基本を変えることには依存しません。今日の法制度の中で有意義な進歩の機会を反映しています。これは、フィクションの中に生きる革新ではなく、現実の世界で成功するために構築されたツールです。」しかし、Hicksは、市場が過小評価している変数も指摘しています：規制当局。 「規制当局がどのように対応するかが見極められないところです。Anthropicの新しいツールは、規制当局が受動的な姿勢から抜け出すきっかけとなるでしょうか。Anthropicの新しいツールには、今日のシステムの現実に基づいて構築された巨大な潜在性がありますが、真正な現代のものを作るために必要な長期にわたる規制の変更を促進する可能性もあります。」法務の体験の変化競争とコンプライアンスの彼方に、より深い構造的な変化があります。Making SenseのMariano Jurichは、ボトルネックはテクノロジーそのものではなく、ワークフローの設計であると主張しています。 「今日の多くの法務事務所は、テクノロジーの欠如によって制限されているのではなく、AI以前の環境に設計されたワークフローによって制限されています。伝統的な実務は線形のパスに従います：文書が収集され、弁護士がそれらを解釈し、決定が続きます。人工知能はそのシーケンスを変えます：情報はシグナルとして到着し、ソフトウェアが最初のレイヤーの推論を実行し、弁護士が結論を監督して検証し、決定が行われます。法務ソフトウェアは、文書の保存を超えて、意思決定のサポートに向かって進化しています。」この移行は、将来的に法務の体験の性質に影響を及ぼします。 「人工知能は、法務の価値が測定される方法も変えます。タスクを実行する時間が短縮されると、ソフトウェアは、作業時間ではなく、リスク削減、結果の確率、交渉の優位性を追跡します。同時に、クライアントは、透明なダッシュボードにアクセスできるようになり、予想されるコスト、和解範囲、事件の軌跡が表示されます。法務プラットフォームは、内部的な事務所のツールではなく、弁護士とクライアントの間の共有の知能環境になります。」「長い間、法務は深い技術革新で知られる業界ではありませんでした。大多数のツールは既存のプロセスをデジタル化しましたが、法的推論やアドバイザリー業務の提供方法を根本的に変えることはありませんでした」と、The PrecedentのNirbhay BakshiCEOは述べています。 「大規模言語モデルが出現したことで、これは変わりました。初めて、ソフトウェアが複雑な法的テキストを有意義に吸収、解釈、生成できるようになりました。」 その変化は、法務が単一のモノリシックなものではなく、高度に特殊化されたワークフローからなるネットワークであることを明らかにしました。各ワークフローは、独自の目的をもったツールを維持するのに十分な大きさです。つまり、AnthropicはLegalTechの死を告げることになったのでしょうか？おそらくまだではあります。しかし、すでに進行中であった移行を加速したかもしれません：文書のリポジトリから推論プラットフォームへ、研究ツールから意思決定エンジンへ、そしてレガシーの支配からAIネイティブの競争へ。レガシーデータベースは依然として強力ですが、挑戦者は機敏で、デップテックの巨人は気づいています。決定的な要因は、ハイプではなく、信頼性、精度、統合性、そしてAIが法の文字だけでなくその精神でも動作できるかどうかです。
伝統的なコンサルティングは、遅い提案、長い分析サイクル、状況が変わる前に到着する大きなプレゼンテーションを意味してきました。急速な変化の時代に、そのアプローチはもう追いついていない。そのため、多くの人は、エージェントAIが伝統的なコンサルティングの方法を変える可能性が高いと考えています。エージェントAIシステムは、データを分析したり、インサイトを生成したりするだけでなく、問題を定義し、仮説を立て、分析を実行し、新しいデータが到着するにつれて継続的に適応します。NexStratの共同創設者兼CEOであるArda Ecevitによると、この変化は、戦略作業が行われる方法に深い影響を与える。「NexStratは、エグゼクティブからマネジメントコンサルタントまで、ビジネスユーザーをサポートするエージェントAIプラットフォームです。決定、戦略の開発、行動計画の作成をサポートします。戦略から実行までの全プロセスをサポートします。」Ecevitは述べます。エピソード的なアドバイザリーから継続的な戦略へEcevitはコンサルティングの世界を熟知しています。彼は、15年近くマネジメントコンサルティングに従事した後、大手ECおよびフードデリバリープラットフォームのチーフストラテジーおよびトランスフォーメーションオフィサーとしてインハウスで働きました。その経験から、彼は業界の構造的な限界を垣間見たのです：伝統的なコンサルティングは、エピソード的な性質を持つ。「伝統的なコンサルティングは、スケーラブルではなく、継続的ではありません。你は大きな予算が必要です。プロジェクトが開始するまでに数ヶ月かかります。報告書が到着した後、データが利用可能になるにつれてそれらを反復することはできません。」彼は説明します。エージェントAIは、根本的に異なるモデルを提供します。エピソード的なエンゲージメントではなく、NexStratのようなプラットフォームは、常に戦略的なサポートを提供します。ユーザーは、仮定を再検討し、分析を更新し、戦略をほぼリアルタイムで修正できます。これは、人間のコンサルタントだけでは実用的または高価すぎることになります。「従来のモデルでは、6ヶ月後に答えが得られるかもしれません。エージェントAIでは、仮説を生成し、それらを繰り返し実行することができます。」Ecevitは述べます。コンサルティングの核となる構造の再構築このトレンドは、速度だけについてではない。コンサルティングファーム自体の構造を変えている。Martín Lewit、Nisumのシニアバイスプレジデントコーポレートデベロップメントは、フォーチュン500企業向けのデジタルコンサルティング会社です。「伝統的なインテリジェントオートメーションはコスト削減を実現しますが、エージェントAIは新しい働き方を導入します。リーダーにとって、質問は『既存のプロセスを最適化する方法は何か』ではなく、『AI駆動のソリューションがどのような新しい機能を提供できるか』です。」Nate MacLeitch、QuickBloxのCEOは、AI支援のチャットおよびビデオAPIおよびSDKを提供する会社です。「私たちは、企業がデータを収集し、管理タスクを提供し、パーソナライズされたエクスペリエンスを提供するAIアシスタントを構築および統合できるようにしています。この変化は、AIがオプションの追加からワークフローのコア機能に移行していることを示しています。」Boston Global Forum は最近強調しています、人工知能がコンサルティングファームの伝統的なピラミッドモデルを弱体化させている。AIシステムは、データ収集、モデリング、最初のパス分析を通じて、ジュニアアナリストが実行する多くのタスクを自動化します。これにより、人間のチームよりも迅速かつ低コストで結果を提供できます。これにより、企業はスタッフィングモデルやデリバリ構造を再考するよう圧力をかけ、AIを古いプロセスに追加するのではなく、再構築する必要があります。この洞察は、Ecevitが市場で見ていることと一致しています。「AIは、人間がより高い判断力とリーダーシップに集中できるように、重い分析作業を実行できます。」その結果は、速度の優位性だけではなく、コンサルティングの価値連鎖自体の変革であり、リソース重視の労働モデルからAI強化された専門知識に重点を置いたモデルへの移行です。より速く、よりアジャイルな意思決定速度は、エージェントAIの最も直接的な利点の1つです。NexStratは、上位の戦略ファームで使用される仮説駆動の問題解決アプローチを反映しています。目標と制約を明確化し、仮説を立て、分析プランを策定し、データワークを実行し、結論を洗練する。「違いは、すべてを100倍の速さで実行できることです。」Ecevitは述べます。このアジリティは、変動、規制の変化、競争的動き、サプライチェーンの混乱、テクノロジー駆動の市場の変化で定義されるビジネス環境において重要です。NexStratのエージェントは、継続的に新しい開発をスキャンし、状況が変化するにつれて戦略を再評価できます。「新しい規制が施行されたり、主要なコストドライバーが変わったりした場合、戦略をほぼ瞬時に修正できます。」Ecevitは述べます。「継続的に適応できる能力は、本当のゲームチェンジャーです。」より広く拡大するユースケースNexStratは、企業とコンサルティングファームの両方にサービスを提供しており、両方で強力な採用率を示しています。プラットフォームは、主要な銀行、フォーチュン500のFMCG企業、テクノロジー企業、世界中のコンサルティングファームで使用されており、「ビッグ4」の中で1つの世界最大のコンサルティングファームとのパイロットプロジェクトも成功裏に完了しています。特に、NexStratは、既存のリソースでデリバリーキャパシティと有効性を大幅に拡大できる力強い乗数効果となり、ブティックコンサルティングファームや独立した専門家をサポートします。「AIがコンサルタントのように考え、構造化されたプロセス、フレームワーク、適切な分析ツールを使用する場合、AIは多くの異なる問題に対する人間の意思決定者とコンサルタントをサポートできます。」Ecevitは述べます。戦略を超えて、NexStratは、エージェントAIを使用して、決定と戦略を実行可能な計画と目標にほぼ瞬時に翻訳しています。プラットフォームは、詳細な行動計画を開発し、KPIと所有者を定義し、進捗状況を監視し、遅延を特定し、目標が達成されていない場合に根本原因を分析する「コーチ」として機能します。コンサルティングの新しい時代の始まりエージェントAIはコンサルタントを廃止することはありませんが、コンサルティングが何であるかを再定義することになります。戦略は、より迅速で、より反復的で、日常業務に埋め込まれるようになります。NexStratのようなプラットフォームが成熟するにつれて、AIが重い分析作業を実行し、人間が判断、リーダーシップ、変化に集中する未来を指し示しています。コンサルティング業界の古い構造は、よりスリムで、よりアジャイルなモデルに置き換わります。その意味で、エージェントAIは、コンサルティングがどのように提供されるかを変えるだけでなく、なぜ、どこで人間の専門知識が価値を追加するかを変えています。かつてこれが最も深い変化となるかもしれません。置き換えることなく再構築するEcevitは、エージェントAIが人間のコンサルタントを完全に排除することではないと強調しています。「私たちは、完全な置き換えであると主張していません。」彼は述べます。「高リスクまたは不可逆的な決定が関与する場合、または会社が困難な状況にある場合、人間のコンサルタントは依然として貴重です。」Lewittは、人間がAIの意思決定に中央にいることを強調しています。「Nisumでは、テクノロジーを使用して、人々が何を達成できるかを拡大します。AIは、単独でツールではありません。私たちのデリバリーモデルの一部に組み込まれています。人間の判断と組み合わせることで、人々がより賢い決定を下せるように支援します。」Ecevitは、価値がどこにあるかが変化することを主張します。AIが分析と研究を重視したタスクを担うにつれて、人間のコンサルタントの強みは、機械が複製するのが難しい領域にシフトします。実装、実行、ステークホルダーの管理、コミュニケーション、組織の変化のリーダーシップです。「人間の仕事の側面は、ますます重要になります。」Ecevitは述べます。Asparuh Koev、ロジスティクスAI会社TransmetricsのCEOは、次のように述べています。「システムが自動運転で動作する場合でも、コックピットにパイロットがいないことは想像できません。AIは、繰り返しの作業やスプレッドシートを担当しますが、人間の専門家は、監視、指導、必要に応じて介入するために不可欠です。」実践では、エージェントAIは、外部コンサルタントがプロセスに参加するタイミングを再構築する可能性があります。企業は、AIを使用して強力な内部仮説と行動計画を開発し、後で外部アドバイザーを呼び寄せて決定を検証したり、リスクを管理したり、実装をサポートしたりすることができます。人間をしっかりとループに留めるより大きな自律性が与えられるにつれて、より大きな責任が伴います。Ecevitは、人間の監視が不可欠であることを強調しています。「開発中、人間は、AIが倫理的にトレーニングされていることを確認する必要があります。展開中、人間は、透明性、管理、ガバナンスメカニズムを備えたアプリケーションを設計する必要があります。」高影響力の決定では、AIは、人間のレビューのために勧告をフラグする必要があります。ユーザーは、結論がどのように達成されたかを理解する必要があります。「人々は、戦略的方向性の背後にある理由と仮定を理解する必要があります。彼らは、インサイトがどこから来て、AIがそれらに到達した方法を追跡できる必要があります。」Ecevitは述べます。
2025年のコーディングは、断片を苦労して作成したり、デバッグに長時間を費やしたりすることではなく、まったく別の雰囲気です。AI生成コードは、将来的に製品の大部分を占めることになり、現代の開発者にとって不可欠なツールキットとなっています。これは「バイブコーディング」と呼ばれ、Github Copilot、Amazon CodeWhisperer、Chat GPTなどのツールによって生成されたコードを使用することで、ビルド時間を短縮し、効率を高めることができます。しかし、AI生成コードの便利さは、暗い脅威をもたらす可能性がありますか？生成的なAIはセキュリティアーキテクチャの脆弱性を増加させますか、または開発者が「バイブコーディング」を安全に行う方法がありますか。「AI生成コードの脆弱性によるセキュリティインシデントは、今日話し手がないトピックの1つです」と、DeepSourceの創設者であるSanket Sauravは述べています。「まだ、CopilotやChat GPTなどのプラットフォームによって生成されたコードが人間のレビューを受けていないものが多くあり、セキュリティ侵害は影響を受ける会社にとって壊滅的な結果をもたらす可能性があります。」コードの品質とセキュリティのための静的分析を使用するオープンソースプラットフォームの開発者であるSauravは、2020年のSolarWindsハックを、AI生成コードを使用する会社が適切なセキュリティガードレールを設置していない場合に起こり得る「絶滅イベント」の例として挙げました。「静的分析により、安全でないコードパターンや悪いコーディング慣行を特定できます」とSauravは述べています。ライブラリを通じて攻撃されるAI生成コードに対するセキュリティ脅威は、発明的な形式をとることができ、ライブラリに対して向けられることがあります。プログラミングにおけるライブラリは、開発者が時間を節約するために使用する再利用可能なコードです。ライブラリは、データベースの相互作用を管理するなどの通常のプログラミングタスクを解決するのに役立ち、プログラマーがコードをスクラッチから書き直す必要を減らします。ライブラリに対する1つの脅威は「hallucinations」と呼ばれ、AI生成コードが架空のライブラリを使用して脆弱性を表示するものです。AI生成コードに対するもう1つの最近の攻撃は「slopsquatting」と呼ばれ、攻撃者がライブラリを直接標的にしてデータベースに侵入するものです。これらの脅威に対処するには、単に「バイブコーディング」という用語が示唆するよりも多くの注意が必要です。Université du Québec en OutaouaisのRafael Khoury教授は、AI生成コードのセキュリティの発展を密接に追っており、新しい技術がその安全性を向上させることを信じています。Khouryは2023年の論文で、ChatGPTに追加のコンテキストや情報なしにコードを生成するよう依頼した結果、安全でないコードが生成されることを調査しました。これはChat GPTの初期の日々でしたが、Khouryは今回の将来について楽観しています。「その後、現在レビュー中の多くの研究があり、LLMを使用するための戦略が見つかれば、より良い結果が得られる可能性があります」とKhouryは述べています。また、「セキュリティは改善されていますが、直接的なプロンプトで安全なコードを得ることができる段階にはまだ達していません」と述べています。Khouryは、有望な研究について説明しました。そこでは、コードを生成し、それを脆弱性を分析するツールに送信します。ツールが使用する方法は、Finding Line Anomalies with Generative AI（FLAG）と呼ばれます。「これらのツールは、たとえば24行目に脆弱性があることを示すFLAGを送信し、開発者はそれをLLMに戻して問題を調査して修正するように依頼できます」とKhouryは述べています。Khouryは、このやり取りが脆弱性のあるコードを修正するために重要であると示唆しています。「この研究によると、5回のイテレーションで脆弱性を0に減らすことができます」とKhouryは述べています。しかし、FLAG方法には、偽陽性や偽陰性を引き起こす可能性など、問題もあります。また、LLMが生成できるコードの長さにも限界があり、断片を組み合わせることでさらにリスクが加わる可能性があります。人間をループに留める「バイブコーディング」のうちの何人かは、コードを断片化し、人間がコードベースの最も重要な編集の中心に留まることを提案しています。Windsurfの製品エンジニアリング担当のKevin Houは、「コミットを考えてコードを書く」という言葉の知恵を説き、バイトサイズのピースの重要性を強調しています。「大きなプロジェクトを、小さなチャンクに分割します。通常、コミットまたはプルリクエストとして扱うものです。エージェントが小さなスケールで、1つの分離された機能を構築します。これにより、コード出力が適切にテストされ、理解されることを保証できます」とHouは述べています。執筆時点で、Windsurfは（以前の名前であるCodeiumを通じて）50億行以上のAI生成コードにアプローチしています。Houは、開発者がプロセスを認識しているかどうかが、最も重要な質問であると述べています。「AIは同時に多くのファイルを編集できますが、開発者が何が起こっているかを理解してレビューしていることを確認するにはどうすればよいのでしょうか？それを無視してすべてを受け入れるのではなく」とHouは質問しながら、WindsurfのUXに多大な投資を行ったことを述べています。「AIが行っていることと完全に同期して、人間がループに留まるための直感的な方法が多数あります」。これが理由で、「バイブコーディング」が主流になるにつれて、人間はその脆弱性についてより慎重になる必要があります。「hallucinations」や「slopsquatting」などの脅威は実在しますが、解決策もあります。静的分析やFLAGのような反復的改良方法、そして思慮深いUXデザインなどの新興ツールは、セキュリティとスピードが相互に排他的なものである必要はないことを示しています。鍵は、開発者が関与し、情報に基づき、コントロール下に留まることです。適切なガードレールと「信頼して検証する」という心構えで、AI支援コーディングは革命的でありながらも責任を持って行うことができます。
