AIは新しいアルゴリズムで特定の望ましくない行動を回避できる

人工知能アルゴリズムとシステムがより高度化し、大きな責任を負うようになると、AIシステムが危険または望ましくない行動を回避することを保証することがますます重要になってきます。最近、マサチューセッツ大学アマースト校とスタンフォード大学の研究者チームは、特定のAIの行動を回避する方法を実証した論文を発表しました。この方法では、AIの行動を微調整するために使用できる正確な数学的指示を引き出す技術を使用します。

TechXploreによると、この研究は、不公平または安全でない行動が数学的関数と変数で定義できるという仮定に基づいています。如果これが真実であれば、研究者はこれらの特定の行動を回避するようにシステムをトレーニングすることが可能であるはずです。研究チームは、AIの利用者が回避したい行動を指定できるツールキットを開発し、AIエンジニアが信頼性の高いシステムをトレーニングできるようにすることを目的としていました。

論文の第一著者であり、ミシガン大学アマースト校のコンピューターサイエンスの助教授であるPhillip Thomasは、研究チームが機械学習アルゴリズムの設計者が、AIの利用者が望ましくない行動を説明し、それを回避する可能性が高くなるようにすることを示そうとしていると説明しています。

研究チームは、データサイエンスにおける一般的な問題であるジェンダーバイアスにこの技術を適用してテストしました。研究チームは、アルゴリズムを使用して、大学生のGPAを予測するモデルの公平性を向上させることを目的としました。研究チームは、実験データセットを使用し、AIシステムに、一つの性別に対するGPAの予測を全体的に低くまたは高くしないように指示しました。研究者の指示により、アルゴリズムは、学生のGPAをより正確に予測し、以前のモデルよりも大幅に少ないシステム的なジェンダーバイアスを持つモデルを作成しました。以前のGPA予測モデルは、偏りの軽減モデルが限られているか、またはまったく使用されていないため、偏りを持っていました。

研究チームは、別のアルゴリズムも開発しました。このアルゴリズムは自動インスリンポンプに実装され、パフォーマンスと安全性のバランスを取ることを目的としました。自動インスリンポンプは、食事後に患者に与えるインスリンの量を決定する必要があります。ポンプは、理想的に、血糖レベルを正常範囲に維持するのに十分なインスリンの量を投与する必要があります。投与されるインスリンの量は、過大または過小でないようにする必要があります。

機械学習アルゴリズムは、すでに個人のインスリン投与への反応のパターンを識別することができていますが、これらの既存の分析方法では、医師が回避するべき結果、たとえば低血糖クラッシュを指定することはできません。対照的に、研究チームは、インスリンの投与量を両端の間で維持し、過少投与または過多投与を防ぐことができる方法を開発することができました。システムはまだ実際の患者でのテストには準備ができていませんが、このアプローチに基づくより高度なAIは、糖尿病患者にとっての生活の質を向上させる可能性があります。

研究論文では、研究者はこのアルゴリズムを「Seledonian」アルゴリズムと呼んでいます。これは、SF作家アイザック・アシモフによって記述されたロボット工学の3つの法則への参照です。AIシステムは「人間に危害を加えたり、または不作為によって人間が危害を受けないようにする」という意味です。研究チームは、自分のフレームワークが、AI研究者とエンジニアが危険な行動を回避するさまざまなアルゴリズムとシステムを作成できるようにすることを希望しています。論文の共同著者であり、スタンフォード大学のコンピューターサイエンスの助教授であるEmma Brunskillは、TechXploreに次のように説明しています。

「私たちは、人間のユーザーの価値を尊重し、自律システムに置かれた信頼を正当化するAIを進歩させたい」