開発の世界におけるAIの頂点捕食者

進化の圧力：簡単な解説

この話に入る前に、2つの概念を理解する必要があります。最初の概念は進化の圧力です。

進化は選択ではない。動物は自分で進化する方法を選択することはできません。環境がそれらを進化させるか、または環境がそれらを排除します。したがって、動物がどのように進化したか、またはなぜあるように存在するかについて話すとき、意識的な決定のシリーズについて話すのではない。ランダムな突然変異と環境の圧力が種を一方向または別の方向に押したことについて話すのです。

現在、ソフトウェア会社は類似の進化の瞬間に入っています。脆弱性を自動的に特定し、エクスプロイトを生成し、サイバー攻撃を加速することができるAIシステムが、開発者とセキュリティチームが作業する圧力を変えているのです。

AIは今、ソフトウェア会社にとって同じ種類の環境の圧力を生み出しています。自律的な脆弱性発見、エクスプロイト生成、および大規模な攻撃の自動化が可能なモデルは、ほとんどの組織が準備できていないほど、セキュリティの景観を急速に変えているのです。

私が話したい具体的な進化の圧力は、地球上の現在の頂点捕食者：人間です。人間の圧力に対して3つの非常に異なる動物がどのように反応したかについてです。

誰が悪かったのか：巨大なワンバットかニワトリか

巨大なワンバット

巨大なワンバット — 正確な名前が思い出せないですが、オーストラリアに生息していました — 約6,000ポンドの体重がありました。人間が到着する前は、オーストラリアは豊かで緑豊かな場所でした。人間が手を触れなければよかったのですが、これらの巨大なワンバットはほとんど邪魔されずに生活していました。時々何匹かが捕食されましたが、その巨大な体と豊富な食物、繁殖能力により、ワンバットは大陸が投げかけたすべてに対して自分の立場を守りました。

人間が現れた。

すぐに2つのことが起こりました。まず、人間は数週間、あるいは保存ができればもっと長期間、集団を養うことができる巨大なタンパク質源を見つけました。次に、人間はワンバットが依存していた森林を切り開き始めました。木材を切り出して火woodにするために、または動物を追い出すために土地を焼いて開けたのです。人間はこのような効率的な破壊を非常にうまくやってのけます。

地質学的に言えば、ほぼ一夜にして、人間は大陸の多くの森林を切り開き、最後の巨大なワンバットを絶滅させました。

オーストラリアのすべての動物が絶滅したわけではありません。カンガルー、 nhỏなワンバット、コアラなどは生き残りました — それらは小さすぎるか、速すぎるか、または適応性が高すぎるかで、人間の手の届かないところにいたのです。ヨーロッパ人が到着するまでに、大陸は厳しく、容赦のないものに変わりました。人間の人口は小さく、厳しい環境に適応していました。動物は小さすぎるか、非常に危険すぎるか、またはその両方でした。オーストラリアでは、すべてがあなたを殺そうとしているということです。

これがバージョン1です。

ニワトリ

今、ニワトリは自分のやり方で、地球上で最も成功した陸生動物であると主張できます。地球上の鳥の総生物量の約70%は家禽です。ニワトリは島で野生化し、天敵が存在しない場所では、カイマン諸島のように、繁栄しています。

ニワトリは人間にとって非常に役立つものに進化しました：それらは急速に繁殖し、成長し、卵を産みます。人間はそれらを飼い、保護し、繁殖を奨励しています。どのような生物学的成功の尺度をとるにしろ — 個体数、地理的分布、資源へのアクセス — ニワトリは勝っています。

ただし、もちろん、我々がそれらを食べるという点では、別の話です。

ニワトリは完璧な食物になることで成功しました。ただし、そのような成功には限界があります。

ネコ：正解

ネコは、ほぼ完全に正しい答えを見つけました。

ネコは頂点捕食者ではありません。人間を支配したり、人間を狩ったりすることはありません。しかし、人間の拡大によって潰されることや、人間の食欲に屈するのではなく、ネコは人間と共に共進化しました。ネコは人間の定住地に引き寄せられるネズミや小鳥を狩ることで、役に立つものになりました。どこかで、ネコは 欲しい ものになりました。ネコは人間の伴侶になりました。

結果は、ネコが急速に繁殖し、豊富な食物源を持つことです。ネコはペットとして、または人間の居住地周辺の機会主義的なハンターとして、ほとんどの場合、人間と一緒にいます。ネコはあまりにも多くの天敵に直面しません。ネコは人間がいるどこにでもいます。

これは、ネコが選択したことではありません。戦略ではありません。ただ、進化の圧力がどのように作用したかということです。しかし、結果は驚くべきものです：ネコは、頂点捕食者と戦うのではなく、頂点捕食者に 友情 を結びました。

これはAIとどう関係するのか

なぜこれらが重要なのか？

AnthropicのMythosやProject Glass Wingのようなモデルが到着したことは、人間がオーストラリアに上陸した日と同等です。ただし、タイムラインは劇的に圧縮されています。大陸で何世代にもわたって起こったことは、数年、またはそれ以下で起こります。

現在、AIによるハッキングの脅威に対してセキュリティチームがどのように対応するかについて多くの記事が書かれています。しかし、私はそのフレーミングが間違っていると考えています。これは主にセキュリティの問題ではありません。これはエンジニアリングの問題です。

ここで何が変わっているのか：AIの前の世界では、攻撃者と防御者は両方とも、比較的限られた利害関係で作業していました。攻撃は発生しました。侵害は発生しました。しかし、攻撃のペースと複雑さは人間の能力によって制限されていました。それが根本的に変わりました。現在、脆弱性を自動的に特定し、スケールでエクスプロイトを生成し、疲れずに攻撃するように設計されたAIモデルがあります。

ほとんどの開発チームは、この物語の中の巨大なワンバットです。彼らは脅威があった世界で生きていましたが、まさにこれほどのものではありませんでした。彼らは実際に直面した圧力に対して合理的にセキュアなシステムを構築しました。彼らはこれから来るものに遭遇したことがありません。

これが間もなく変わります。

3つの選択肢 — と、どれが機能するのか

新しい脅威が到着すると、組織には基本的に3つの選択肢があります：

1. ワンバットになる。適応しない。消滅する。これは多くの会社に起こります。何社かは二度と戻ってきません。
2. ニワトリになる。反応的になる。各新しい脆弱性が現れるたびにそれを修正する。つまり、「槍を抜いて傷を治す」アプローチです。これは何もしないよりもましですが、45本の槍があらゆる方向から飛んでくる場合、その1つのスキルではあなたを救うことができません。あなたはまだ食べ物ですが、テーブルに着くのが遅いだけです。
3. ネコになる。脅威との関係を根本的に変える。AIを使用してAIに対抗する。セキュリティをエンジニアリングの根底から組み込む。侵害を想定してシステムを設計する — それを防ぐことを希望するのではなく。

目標は、セキュリティ分析を増やすことではありません。周囲をパトロールすることではありません。それはゾウをサバンナで守るのと同じです。スケールしません。この脅威に対して。目標はサバンナを再設計することです。

「ネコになる」とは実際に何を意味するのか

これは表面的な作業ではありません。これはコードベースに対してAIのセキュリティスキャナーを四半期ごとに1回実行することではありません。これには開発が行われる方法の根本的な再考が必要です。

実際的には、次のことを意味します：

• より簡単なコードベースが、推論しやすく、監査しやすい
• 既知のセキュリティポストに基づいたライブラリからプルする
• 侵害が when ではなく if であると仮定してインフラストラクチャを構築し、侵害者が内部に入ったら横方向の移動をできるだけ困難にする
• 攻撃者と同じように、攻撃者を利用することで、脅威と友好関係を築く。AIモデルは、エンジニアリングチームとセキュリティチームを増強し、防御を進化させ、カーブを先んじることができます。

明日設立される会社には、クリーンなスラートがあります。彼らは最初からこの方法で構築できます。既に顧客、機密データ、稼働中のシステムを持っている既存の会社には、そのような贅沢はありません。彼らは今、移行を開始する必要があります。

行動呼び出し

Anthropicは自分たちで言っています：責任があります。AIによる攻撃から経済的および社会的混乱が生じます。何社かは生き残ることができません。彼らはこれらのツールを使用する人々によって妥協され、完全に回復することはありません。これは起こります。

ここにメッセージがあります：今すぐに始めましょう。

エンジニアリングとセキュリティは同じ部屋に座る必要があります。脅威の風景を一緒に確認します。共有のロードマップを構築します。主な作業はエンジニアリングとデザインチームによって行われ、セキュリティによって検証されるものです。セキュリティがリードするのではなく、根本的な変化はシステムを構築する人々から来なければなりません。セキュリティは作業を確認できます。しかし、基本的な変化はシステムを構築する人々から来なければなりません。

このプロセスを今日から始める会社はすべて生き残ることはできません。しかし、彼らは生存の条件を設定するでしょう。来る環境では、それが私たちができる最善のことです。

ネコになりましょう。