シリコンバレーはAIの開発において「速く動いてものを壊す」という姿勢を取ることができない

シリコンバレーは、熱くなりすぎた「速く動いてものを壊す、そして後で修正する」という考え方を超越した成熟した考え方を持っているという意見があります。企業は、よりゆっくりで責任あるアプローチで業界の未来を構築する方法を採用しているということです。

残念ながら、現在のトレンドは異なる話を語っています。

口説き文句にもかかわらず、企業がものを作るやり方はまだ実際に変わりません。テクノロジー企業は、ショートカットと虚偽の約束で動いています。製品の品質の低下はそれを証明しています。 「速く動いてものを壊す」という考え方はまだシリコンバレーの信条であり、AIブームによってそれが再び活性化しています。

最近のAIの進歩は、我々が働き、生活するやり方を急速に変えている。AIは、ChatGPTのような生成AIツールの急速な普及により、コンピューターサイエンスの専門家の領域から家庭用品へと変わりました。如果テクノロジー企業がAIで「速く動いてものを壊す」というやり方を取るなら、「後で修正する」という選択肢はないかもしれません。特に、モデルが機密の個人データでトレーニングされている場合です。ベルを鳴らした後、それを元に戻すことはできません。社会全体に波及効果が生じ、潜在的に不可逆的な被害をもたらす可能性があります。悪意のあるディープフェイクから、詐欺計画まで、不正情報キャンペーンまで、AIの悪い面が現れてきています。

同時に、このテクノロジーは社会をより良く変える力を持っています。企業でのAIの採用はクラウドへの移行と同様に革命的であり、企業はAIで完全に再構築され、無限に生産性と効率性が向上します。個人のレベルでは、生成AIは私たちに日常の活動を完了するのを助け、創造的に実験し、新しい知識と機会を解放するために役立ちます。

AIの未来は明るいものになり得ますが、それには大きな文化的変化が必要です。AIの未来が構築されている場所で、シリコンバレーは「速く動いてものを壊す」という考え方を取ることができません。

「速く動いてものを壊す」という考え方はAIと相容れない

「速く動いてものを壊す」という考え方は、2つの大きな前提に基づいています。1つは、起動時に動作しないものは後で修正できるということです。2つは、「ものを壊す」ということは、十分な創造的なコーディングと箱外の思考でブレークスルーにつながるということです。多くの偉大な革新は間違いから生まれたかもしれませんが、これはペニシリンやコカコーラのようなものではありません。人工知能は、非常に強力なテクノロジーであり、最大の注意と慎重さで取り扱う必要があります。データ漏洩や犯罪的悪用のリスクは、無視できないものです。

残念ながら、シリコンバレーには、開発プロセスの汚さを美化する悪い習慣があります。企業はまだ、休みなく働くことを奨励しており、長時間労働とワークライフバランスの欠如は、キャリアを築くために必要不可欠です。スタートアップとその株主は、エラーとコーナーカットのリスクを高める非現実的な目標を設定しています。境界は、必要とあらば押し広げられます。これらの行動は、倫理よりもハイプを追求する有害な産業文化に合体し、倫理よりも金銭的利益を優先します。

AIの開発の現在のペースは、この文化の中で続くことはできません。AIが世界の最も深刻な問題を解決するのであれば、非常に機密性の高い情報でトレーニングする必要があります。企業には、その情報を保護するための重要な責任があります。

安全対策を実施するには時間が必要です。シリコンバレーは、時間がないと信じています。すでに、企業は新しい製品を出荷するために、必要なガードレールを省略しています。これは短期的には株主を満足させますが、長期的には企業に大きな財務上の損害をもたらすリスクがあります。さらに、企業が築き上げてきた信頼を完全に失うことにもなり得ます。

知的財産権や著作権侵害のリスクもあります。現在進行中のAI関連の著作権訴訟はその証拠です。著作権侵害や知的財産権侵害に対する適切な保護策がない場合、人の生活が脅かされる可能性があります。

AIスタートアップが開発を急ぐ場合、これは多くのことを考慮する必要があるように思えるかもしれません。しかし、人々や情報を保護することは妥協できない仕事です。実際、必要な仕事です。問題が発生する前に解決策を構築することで、将来の問題を解決することができます。

新しい信条：「戦略的に動いて壊れない」

先月、EUは、AIリスクを管理するための最初の包括的なAI法、人工知能法を承認しました。この法律は、透明性の要件と、AI技術の使用を禁止することによってリスクを管理する、EUの歴史的な慎重なアプローチを反映しています。企業は、最新のトレンドに適合するために、ベンチャーカピタルとエンジニアリング能力を投資するのではなく、持続可能なものを作ることに努力を費やしています。

これは、米国での主流のアプローチではありません。立法面では、個々の州が、不十分なものから過度なものまで、さまざまな法律を提案しています。カリフォルニア州の提案されたSB-1047法案はその一例です。与党はAIアームズレースを激化させ、シリコンバレーは古いやり方を続けています。

ベンチャーキャピタリストは問題を悪化させています。新しいスタートアップに投資するとき、彼らはガードレールや安全対策について尋ねません。彼らは、できるだけ早く最小限の製品を出荷して、自分たちの利益を得たいのです。シリコンバレーは、簡単に金儲けをするための計画の温床となり、人々はできるだけ早く、できるだけ少ない労力で、できるだけ多くの金儲けをしたいと考えています。結果については気にしません。

AIの時代には、「速く動いてものを壊す」という信条の代わりに、「戦略的に動いて壊れない」という信条を提案します。前者ほど詩的な表現ではないかもしれませんが、現在のテクノロジー景気の中でシリコンバレーが必要とする考え方を反映しています。

私はテクノロジー業界がより良くなることができると考えています。それは、顧客中心で将来志向の考え方を取り入れることから始まります。持続可能な製品を作り、ユーザーとの信頼を築くために製品を維持することです。より注意深いアプローチにより、人々や組織はAIを生活に取り入れることについて自信を持つことができ、そしてそれはかなり利益になるでしょう。

持続可能な未来に向けて

テクノロジー業界は、最初に何かを実現する圧倒的なプレッシャーに直面しています。創業者は、次の大きな機会にすぐに乗り遅れると、船を逃すことになるという感覚を持っています。最初に何かを実現することは、成功するチャンスを高めるかもしれませんが、安全性と倫理よりも「最初に何かを実現する」ということだけを優先するべきではありません。

何かが持続可能なものになることを目指すと、リスクや弱点をより徹底的に探すことになります。これは、新しいブレークスルーや革新の機会を見つける方法でもあります。明日への課題を解決できる企業は、強みを弱みに変えることができます。

ハイプは現実であり、新しいAIの時代はそれに値します。しかし、テクノロジーの力を解き放つことに熱中するあまり、製品を信頼性の高いものにするために必要な安全対策を省略してはいけません。AIは、安全性とセキュリティが開発プロセスの核心にある場合、人々の生活をより良くする可能性があります。しかし、安全性とセキュリティが核心にある場合にのみです。

シリコンバレーにとって、これは目覚めの呼びかけです。「速く動いてものを壊す、そして後で修正する」という考え方を捨てる時です。なぜなら、未来が今就在そこにあるからです。r lives for the better, but it can also cause immeasurable harm if security and safety aren’t core to the development process. For Silicon Valley, this should be a wake-up call: it’s time to leave the mentality of “move fast, break things, then fix them later” behind. Because there is no “later” when the future is now.