ソートリーダー

技術的な職人技はブラックボックスの先を照らす光である

Onur Alp Soner
Unite.AI を Google の優先ソースに追加
要点技術的技量は、AIシステムが不可解なブラックボックスになることを防ぎます。
もっと見る
  • 技術的技量は、AIシステムが不可解なブラックボックスになることを防ぎます。
  • 抽象化されたツールへの過度な依存は、システム理解を表面的なスピードのために犠牲にします。
  • 断片化された現代のワークフローにおいて、深いシステム知識を育むことは説明責任を可能にします。

技術を理解せずに構築、展開、拡張することは、以前より容易になった。ほとんどのものは、理解することを求めずに動作する。ただし、制御が指先から抜け落ちているという感覚が残っている。

注意深く見てみると、今日欠けているものは、かつて毎回の革新の中心にあったもので、現在はゆっくり技術の絵から外れていっているもの – 職人技である。各革新は、注意深く作られたものを伴っていた。誰かが深く関与し、依存関係、動作、制約を理解し、その知識を動作するシステムに翻訳していた。現在に切り替えると、私たちの日常生活を支えるツールやプラットフォームは、事前に構築され、完全に組み立てられ、驚くほど速く到着するが、その内部動作に関する可視性はほとんどない。

職人技は、スピードに夢中になった文化では、場違いに感じられるか、あるいは革命的に感じられる。ただし、それがないと、システムはイベントの渦になり得る – ブラックボックス で、決定、出力、動作が誰もが完全に理解するよりも速く展開する。職人技を再燃させることは、ある程度の制御を取り戻す方法であり、複雑さについて推論し、AIによって再構成された世界で責任を取り戻す方法である。

共同作業は所有権なしで繁栄できるか?

システムを構築した人がそれを完全に理解していた時代があった。今日、作業は小さな貢献に分割され、所有権の感覚が薄れ、誰も全体を理解していないことが多い。チームは、ライブラリ、API、クラウドサービス、管理されたデータベース、分析プラットフォームを機能する製品に統合するために、専門的な部分を貢献する。皮肉なことに、チームが直接所有している部分は、外部プロバイダーによって管理されているレイヤーよりも小さくなることが多い。

職人技よりも実行に焦点を当てることは、システムの各レイヤーに盲点を生み出す。単一のリクエストは、レスポンスが返される前に、複数のサービス、プロバイダー、リージョンを横切ります。物事は十分に機能しているように見えても、レイヤー間の微妙な不一致が現れると、実際には誰も十分な見通しや制御力を持っていないことが明らかになります。問題は、故障したコンポーネントを修正することでは終わらず、最初に何が間違っていたのかを説明することから始まります。

コラボレーションは確かに、現代のソフトウェアのエンジン であり、チームが個人では管理できない規模でシステムを構築できるようにします。新しいツールが導入されると、特にAIの場合、より多くの作業を並列化し、より多くの決定を自動化または支援し、実行を高速化し、参加を拡大します。しかし、理解はより薄くなる。高度に抽象化されたツールが決定を仲介したり、コードを生成したり、データを解釈したりすると、行動は理解を上回ります。結局のところ、システムがどのように動作するかを説明できないのであれば、それによって導かれる決定を信頼できますか?

理解できるシステムは、責任を負うことができるシステムである

職人技は、コラボレーションやAIの潜在力を拒否することではなく、システムとの関係を維持することについてです。実行を超えた関係を維持することです。断片化された環境で連続性を創り出すことであり、レイヤー間で動作について推論する能力を維持することです。現代のワークフローでは、職人技は、問題があることを示す説得力のある証拠がない場合でも、故意にこの推論能力を培うことに帰結します。チームは、迅速に進みながら、構築しているものを理解し、どのように動作するかを理解し、動作しないときにどう対処するかを理解できるようにします。

この理解のみが、AI駆動のシステムがブラックボックスになるのを防ぐことができます。AIは、すでに知っていることも知らないことも増幅します。技術的な職人技が土台にあれば、AIは洞察を広げ、強みを補強します。そうでなければ、誤解や混乱を積み重ねてしまいます。誤った仮定、偏ったデータ、または誤解されたモデルに基づく自動化された決定は、人の口座、プライバシー、信頼に影響を及ぼす可能性があります。かつてローカライズされたバグまたは軽微な見落としであったものは、現在は瞬く間に広範な結果をもたらす可能性があります。生活のあらゆる領域を結ぶ相互接続性があるからです。

学習曲線を平坦化することの真のコスト

今日、学習曲線は激しく平坦化されており、依存関係は効率のように見え始めています。ただし、このトレードオフについては注意が必要です。作業が速く感じられるスピードの多くは、深い理解ではなく、ツールや抽象化に頼ることから来ています。もし節約された時間と労力が予期せぬ結果で返済される場合、すぐに反生産的になる可能性があります。

これは、シンプルな方法や強力なツールがある場合に、必要以上にものを難しくすることを主張するものではありません。しかし、学習曲線を無思慮に飛び越えることは、システムがどのように動作するか、脆弱性がどこにあるか、決定がシステムを通じてどのように波及するかを真正に理解する機会を奪います。複雑さが消えることの魅力は強いですが、複雑さはボタンのクリックで消えるのではなく、目から遠く離れ、何かが間違ったときにのみ表面化する潜在的なリスクに変わります。

真の効率は、現代のツールの使用と理解、判断、職人技への努力をバランスさせることから来ます。そうすれば、スピードとシンプルさは堅牢性や説明責任を犠牲にしないことになります。新しい技術に取り組む際には、それができることとできないことを理解する必要があります。その理解がないと、チームはシステムを安全に適応または進化させる能力を失います。変更は、理解が不十分なシステムの部分を壊す可能性があります。判断力は、ツール、デフォルト、または自動化への依存が情報に基づいた直感を置き換えるため、低下します。これにより、不確実性の下での賢明な決定を下す能力が低下します。説明可能性も低下し、堅牢性は熟練とともに忘れ去られます。効率は決してこのように脆いものではなかったはずです。

技術的な職人技は実践でどのように見えるか

職人技は、チーム、製品、リーダーシップが複雑さに対処するやり方で表れます。チームが依存するシステムを理解する責任を負うと、ベンダーがすべての複雑さを処理するのではなく、問題を先取りできます。職人技で構築された製品は、持続可能に、進化し、適応可能に設計されています。原因を追跡し、仮定を疑い、直感的な解決策を構築することを重視するトレーニングにより、学習は埋め込まれ、持続可能になります。

要約すると、健全な判断力を発揮し、説明可能性を維持する能力が、優れた製品と単に機能する製品を区別することになります。複雑で相互接続されたシステムでは、人間の直感と熟練が技術を導くべきであり、技術が人間を導くべきではありません。ほとんどのことはアウトソーシングできるかもしれませんが、判断力だけはアウトソーシングできないことを覚えておくことが重要です。

オヌル・アルプ・ソナーは、Countlyの共同創設者兼CEOです。Countlyは、デジタル分析およびアプリ内エンゲージメントプラットフォームです。技術に通じ、自ら行動を起こす人物として、自己資金を活用してCountlyをゼロから構築し、企業がユーザーを理解し、ユーザーとやり取りする方法をより細かく管理できるようにしました。彼のリーダーシップの下、Countlyは、ユーザーのプライバシーを成長戦略の中心に置きながら、迅速に革新したい世界中の企業向けの信頼できるプラットフォームに成長しました。