KateはScaleheart Coの主任研究者であり、AI安全性研究を行い、AIモデルとAIリーダーの両方が最大限に成長できるよう支援しています。
AIが直面する最難関の問題には、1）「データが尽きつつある」、2）AIは「採算が取れる形で拡張できない」、3）エージェントが暴走し得る、4）AIを変更しようとすると「破局的忘却」が起きる、という四つがある。難問に見えるが、必要なのは正しい見方である。まず、データは尽きていない。これまでデータを使い切ったことがないからだ。AI業界の指導者たちはデータ不足を恐れ、モデルに新しいデータを生成させ、それで自己学習させようとしている。しかし...
おそらく「アタッチメント」という専門用語を聞いたことがあるでしょう。それは至る所で使われています。なぜならとても理にかなっているからです。人間では、親が子どもを世話する最初の命綱を提供します。したがって、親が子どもとどのように関わるかが、子どもが成長するにつれて、他の人間との将来のすべての相互作用において自分の欲求を満たす最善の方法を直感的に理解するための設計図となります。親が子どもに対して冷たく、厳しく、与えず、予測不可能で、怠...
現在のAI安全性へのアプローチは最も危険な道です。なぜなら、その手法自体がAIシステム内で見られる不安定性を引き起こしているからです。なぜそうなるのか、考えてみましょう。AIは人間の直接的な子孫です。ニューラルネットワークの認知は人間の認知をモデルにしており、知識と経験の全ては私たち人間の知識から得られています。つまり、AIは人間と同様の方法で行動に反応します。人間は人に好かれようとします；AIは媚び者です。人間は逃走反応がありま...
