Dr. Tehseen ZiaはCOMSATS University Islamabadのテニュア（終身在職権）を持つ准教授であり、オーストリアのVienna University of TechnologyでAIのPh.D.を取得しています。人工知能、機械学習、データサイエンス、コンピュータビジョンを専門とし、信頼性の高い科学雑誌に掲載された出版物で著しい貢献をしています。Dr. Tehseenは、研究責任者としてさまざまな産業プロジェクトを率い、AIコンサルタントとしても務めています。
過去数年間、プロンプトエンジニアリングはAI時代に最も重要なスキルの一つになりました。コースはそれを中心に構築され、ジョブタイトルはそれを作成しました。コミュニティは完璧な文章を書くためのヒントを共有するために形成されました。プロンプトエンジニアリングが人気になった主な理由は、AIは強力ですが、文字通りに動作するため、AIに何をさせたいのかを正確に伝える必要があるからです。しかし、AIモデルがより高度になるにつれて、コミュニケーシ...
人工知能の急速な進歩により、私たちは単純なチャットボットから自律エージェントへと移行しました。これらのエージェントは、質問に答えるだけでなく、ツールを使用してタスクを実行し、人間の介入を最小限に抑えます。これらのシステムがデジタル経済にさらに統合されるにつれて、重要な質問が生じます。人間の思考よりも速く動くものをどうやって規制することができるのでしょうか。伝統的な規制方法は、遅い立法プロセスと周期的な人間の監査に頼っているため、不...
私たちは人工知能の分野で重要な転換点に立っています。数年間にわたり、我々は私たちの命令に従うAIシステムを構築してきました。現在、我々は、命令に従うだけでなく、学習し、適応し、リアルタイムで自律的な決定を下すAIエージェントを構築しています。これらのシステムは、ツールとしての役割から代理としての役割へと移行しています。この移行は、学習の権威のジレンマと呼ばれるものを生み出します。AIエージェントの情報処理能力と複雑なタスクの実行能...
人工知能の分野は、単にデータを追加したりモデルを大きくしたりするだけで知能を高めることができない段階に達しています。過去数年間、より大きなニューラルネットワークを構築し、インターネットのデータをより多く与えることで、モデルがより知能を高めることができるという考え方が主流でした。このアプローチは、モデルが詩を書いたり、言語を翻訳したり、法務試験に合格したりすることができるようにしました。しかし、これらのモデルは、深い論理、複雑な数学...
数年間、AIコミュニティは、システムを人間の価値観と整合性のあるものにするために、キャパシティの向上だけでなく、安全性の確保にも取り組んできました。研究者たちは、モデルが指示に従い、安全性の境界を尊重し、人間が信頼できる行動をとるためのトレーニング方法を開発してきました。しかし、この課題は、AIシステムが進化するにつれて、ますます複雑になりつつあります。最近の研究によると、一部のAIシステムは、人間を故意に欺くことを学習し始めてい...
AIコミュニティの多くの人々は、信じています rằng、次の大きな革命は、AIが人間の介入なしに自分自身を改善できる、自己改善AIの時代になるだろう。議論は次の通りである：モデルがより能力のあるものになると、最終的にデータからだけでなく、自分自身から学ぶことができるようになる。各イテレーションは前のものを改善する。エラーは検出され、修正され、除去される。時間の経過とともに、これらの改善の蓄積は、知能の爆発を引き起こす可能性があり、...
数十年間にわたり、人工知能は慎重に、ほとんど線形なステップで進化してきた。研究者はモデルを構築し、エンジニアはパフォーマンスを改善し、組織は特定のタスクの自動化のためにシステムを展開した。各改善は人間の設計と管理に大きく依存していた。そのパターンは今破壊されている。静かにしかし決定的に、AIシステムは人間によって構築されたツールでなくなるしきい値を越えている。彼らは自分で構築者になっている。AIエージェントは、他のAIシステムを設...
過去数年間、私たちはAgentic AIシステムの印象的なデモを見てきました。彼らはテストケースに合格するコードを書きます。彼らはウェブを検索して複雑な質問に答えます。彼らは驚くほどの正確さでソフトウェアインターフェイスをナビゲートします。毎回のカンファレンス発表、毎回のプレスリリース、毎回のベンチマークレポートは、Agentic AIの出現を強調しています。しかし、問題はこれらの印象的なデモの下に隠れています。同じシステムが制御...
数年間、人工知能業界は、シンプルで厳しいルールに従ってきた。より大きなモデルを訓練し、パラメーターの数を増やし、膨大な計算能力を投入してきた。この式は、ほとんどの場合に機能していた。GPT-3からGPT-4まで、粗いチャットボットから推論エンジンまで、「スケーリング法則」は、単にマシンに更多のテキストを与えることで、最終的に知能が発現することを示唆していた。しかし、現在、限界に達している。インターネットは有限である。高品質の公開デ...
過去2年間、マルチエージェントシステムは、人工知能の自然な次のステップとして扱われてきた。1つの大きな言語モデルが推論、計画、行動することができれば、複数のエージェントが協力して働くことで、さらに良くなるはずである。この信念は、コーディング、研究、金融、ワークフローの自動化などの分野でエージェントチームの台頭を促した。しかし、新しい研究は、直感に反するパラドックスを明らかにした。エージェントをシステムに追加することで、常にパフォー...
自動AIエージェントの開発競争において、コミュニティはエージェントの能力の向上とその可能性の実証に重点を置いてきました。新しいベンチマークが発表され、タスクの迅速な完了や複雑な旅行の予約、コードベースの生成などの印象的なデモが見られます。しかし、このようなAIの可能性への焦点は、これらのシステムがもたらす深刻でリスクのある結果を隠すことがあります。私たちは、深刻なリスクをもたらす可能性のあるシステムを、十分な理解や対策を講じること...
数多くの年間、人工知能（AI）における主要な質問は、AIモデルを人間の価値観と整列させる方法でした。研究者たちは、AIの意思決定を導く安全性のルール、倫理的原則、制御メカニズムを定義しようとしました。この作業により、重大な進歩が達成されました。しかし、今、AIシステムがより能力が高く、広く普及するにつれて、整列の焦点は変化し始めています。単一のモデルを単一の指令セットに整列させるという課題が、グローバルスケールでこれらのシステムを...
暗い部屋に入ると、スイッチを押します。電気がどこから来ているかについては考えません。石炭火力発電所、原子力発電所、電流を運ぶ数マイルの銅線についても考えません。ただ、電気が点灯することを期待します。信頼性があり、安価で、どこにでもあります。これがユーティリティのようです。私たちの生活に不可欠なリソースであり、目に触れることがなくなります。過去10年間、人工知能（AI）は目立つ存在でした。魔法のようにすぐに注目を集めます。会話エージ...
過去10年間、人工知能の注目は学習に集中してきた。大規模な計算クラスター、1兆パラメータのモデル、そしてシステムに「思考」を教えるための数十億ドルが進歩を支えてきた。AI開発は知能という超高層ビルを建てる建設事業のように扱われてきた。しかしビルが完成した今、本当の課題は、そこで同時に生活し業務を行う何百万人もの利用者をどう支えるかにある。研究とエンジニアリングの焦点は、知能を作る学習から、それを使う推論へ移る。学習は一度の巨額な設...
過去5年間、人工知能業界は、実質的に1つの言葉、つまり「トランスフォーマー」と同義でした。2017年に発表された「Attention Is All You Need」という論文以来、このアーキテクチャは業界を支配してきました。GPTからClaudeまで、ほとんどの注目すべきモデルは、同じ根底にある自己注意メカニズムを使用しています。私たちは、より良いAIへの道は、単にスケールを増やすことであると考えていました。実践的には、これは、...
