インヴゲートの研究開発責任者ダニエル・チオレク氏 – インタビュー・シリーズ

ダニエルは、15年以上の業界経験を持つ情熱的なIT専門家です。彼はコンピューターサイエンスの博士号を持ち、技術研究における長いキャリアを持っています。彼の興味は、人工知能、ソフトウェアエンジニアリング、ハイパフォーマンスコンピューティングなどの多くの分野に及びます。

ダニエルは、インヴゲートの研究開発責任者であり、R&Dイニシアチブを主導しています。彼は、プロダクトおよびビジネス開発チームと協力して、会社のR&D戦略を設計、実装、監視しています。研究以外の時間には、教えていることが多いです。

インヴゲートは、組織にシームレスなサービスを提供するツールを提供し、ITから施設までの部門間でサービスを提供しています。

コンピューターサイエンスに初めて関心を持ったのはいつですか?

私のコンピューターサイエンスへの関心は、幼少期に遡ります。電子機器に常に魅了され、どのように動作するのかを理解しようとしました。成長するにつれて、この好奇心はコーディングに導かれました。最初のプログラムを書く楽しみを今でも覚えています。あの時から、私がコンピューターサイエンスのキャリアを追求したいと思ったことは明らかでした。

現在、R&Dイニシアチブを主導し、革新的なジェネレーティブAIアプリケーションを実装しています。詳しくお話しください。

もちろん。私たちのR&D部門では、効率的に表現および解決することが困難な複雑な問題に取り組んでいます。私たちの仕事は、ジェネレーティブAIアプリケーションに限定されていませんが、この分野の最近の進歩により、多くの機会が生まれました。

インヴゲートの主要な目的の1つは、常にソフトウェアの使いやすさを最適化することです。私たちは、ソフトウェアの使用状況を監視し、ボトルネックを特定し、ボトルネックを除去するために着手しています。ボトルネックの1つは、自然言語の理解と利用に関連しています。これは、Large Language Models (LLMs)を使用せずに解決することが困難でした。

しかし、費用対効果の高いLLMsが登場したことで、これらのユースケースを効率化することができます。私たちの機能には、文章の提案、自動でナレッジベースの記事を作成する機能、長い文章を要約する機能など、多くの言語ベースの機能が含まれます。

インヴゲートでは、「アグノスティックAI」と呼ばれる戦略を採用しています。アグノスティックAIとは何ですか? その重要性は何ですか?

アグノスティックAIは、基本的に柔軟性と適応性についてです。つまり、単一のAIモデルまたはプロバイダーにコミットしないということです。代わりに、各AIプロバイダーが提供する最善のものを利用し、システムにロックインされるリスクを回避することを目指しています。

例えば、ジェネレーティブAI機能のためにOpenAIのGPT、GoogleのGemini、またはMetaのLlama-2を使用するかどうかという決定は、簡単なものではありません。将来的には、新しいモデルがリリースされ、新しいプロバイダーが市場に参入する可能性があります。

アグノスティックAIアプローチにより、私たちのシステムは常に適応できるようになります。私たちの実装には、インターフェイス、ルーター、AIモデル自体の3つの主要コンポーネントがあります。インターフェイスは、AIシステムの実装の詳細を抽象化し、他のソフトウェアコンポーネントが簡単にAIシステムとやり取りできるようにします。ルーターは、各リクエストをAIモデルの種類や利用可能なAIモデルの機能に基づいてルーティングします。最後に、モデルは実際のAIタスクを実行し、カスタムデータの前処理や結果のフォーマット処理が必要になる場合があります。

特定のタスクに最も適したAIモデルとプロバイダーを選択する際の意思決定プロセスの方法論的側面について説明できますか?

新しい機能を開発するたびに、評価ベンチマークを作成します。このベンチマークは、さまざまなAIモデルがタスクを解決する効率を評価するために使用されます。しかし、パフォーマンスだけに焦点を当てていません。各モデルの速度とコストも考慮します。これにより、リクエストをルーティングするための最もコスト効率の高いオプションを選択できます。

しかし、私たちのプロセスはそこで終わりません。AIの分野は急速に進化しており、新しいモデルが頻繁にリリースされ、既存のモデルは定期的に更新されます。したがって、新しいまたは更新されたモデルが利用可能になると、評価ベンチマークを再実行します。これにより、新しいまたは更新されたモデルのパフォーマンスを現在の選択と比較できます。新しいモデルが現在のモデルを上回る場合、ルーター モジュールを更新して変更を反映します。

さまざまなAIモデルとプロバイダーをシームレスに切り替える際の課題について説明できますか?

さまざまなAIモデルとプロバイダーをシームレスに切り替えることは、独自の課題をもたらします。

まず、各AIプロバイダーには、特定の形式で入力が必要です。AIモデルは同じリクエストに異なる反応を示す可能性があります。つまり、各モデルを個別に最適化する必要がありますが、選択肢の多さにより複雑になる可能性があります。

二つ目に、AIモデルには異なる機能があります。たとえば、一部のモデルはJSON形式の出力が可能であり、これは多くの実装で役立ちます。他のモデルは大量のテキストを処理でき、より包括的なコンテキストを使用できます。各モデルの機能を最大限に活用するために、これらの機能を管理することが不可欠です。

最後に、AI生成されたレスポンスが使用可能であることを確認する必要があります。ジェネレーティブAIモデルは時々「幻覚」を生成したり、偽の、無関係の、または有害な可能性のあるレスポンスを生成する可能性があります。これを軽減するために、厳格なポストプロセッシングのフィルタを実装して、不適切なレスポンスを検出してフィルタリングします。

アグノスティックAIシステム内のインターフェイスは、ユーザーがAI技術の複雑さを抽象化して、ユーザーフレンドリーなやり取りを行えるように設計されていますか?

私たちのインターフェイスの設計は、R&Dとエンジニアリングチームの共同作業です。機能ごとに要件と利用可能なデータを定義し、APIを設計してソフトウェアとシームレスに統合します。エンジニアリングチームはビジネスロジックに集中できますが、私たちのAIサービスはAI技術の複雑さを処理します。

このプロセスは、最先端の研究に依存するのではなく、確立されたソフトウェアエンジニアリングの実践に基づいています。

グローバルオペレーションを考慮して、インヴゲートは地域の可用性と地元のデータ規制への対応にどのように取り組んでいますか?

インヴゲートでは、地域の可用性と地元のデータ規制への対応を確保することが重要です。私たちは、規模と最高のセキュリティ基準を満たすだけでなく、地域の規制にも準拠するAIプロバイダーを慎重に選択しています。

例えば、EUの一般データ保護規制 (GDPR) に準拠するプロバイダーだけを検討しています。これにより、地域によって異なる法的枠組みの中でサービスを展開することができます。

主要なクラウドプロバイダーであるAWS、Azure、Google Cloudは、これらの要件を満たしており、幅広いAI機能を提供しています。さらに、地元のデータ規制の変更を継続的に監視し、必要に応じて私たちの慣行を調整しています。

過去10年間で、インヴゲートのITソリューション開発アプローチはどのように進化してきましたか? 特に、ジェネレーティブAIの統合については?

過去10年間で、インヴゲートのITソリューション開発アプローチは大幅に進化しました。自動ワークフロー、デバイスの検出、Configuration Management Database (CMDB) などの高度な機能を導入し、ユーザーのIT運用を大幅に簡素化しました。

最近、ジェネレーティブAIを私たちの製品に統合し始めました。これは、費用対効果の高いLLMソリューションが利用可能になったことにより実現可能になりました。ジェネレーティブAIの統合により、私たちの製品をAIパワードのサポートで強化し、より効率的でユーザーフレンドリーなソリューションを作成することができます。

まだ初期段階ですが、AIがIT運用で汎用ツールになることを予測しています。したがって、将来的にはAI技術をさらに統合して製品を進化させる予定です。

AIハブ内のジェネレーティブAIは、一般的なITインシデントへの対応の速度と品質をどのように向上させますか?

AIハブ内のジェネレーティブAIは、一般的なITインシデントへの対応の速度と品質を大幅に向上させます。これは、複数のステップを経て実現します。

初期コンタクト: ユーザーが問題を発生させると、AIパワードのバーチャルエージェント (VA) とチャットを開き、問題を説明できます。VAは、ナレッジベース (KB) とITトラブルシューティング ガイドのパブリック データベースを自動的に検索し、会話形式でガイダンスを提供します。これにより、問題は迅速かつ効率的に解決されます。

チケットの作成: 問題がより複雑な場合、VAはチケットを作成し、会話から関連情報を自動的に抽出します。

チケットの割り当て: システムは、チケットをカテゴリ、優先度、エージェントの経験に基づいてエージェントに割り当てます。

エージェントのやり取り: エージェントは、追加情報を求めるか、問題が解決したことを通知するためにユーザーと連絡を取ります。AIにより、コミュニケーションを改善するための文章の提案が提供されます。

エスカレーション: 問題がエスカレーションを必要とする場合、自動要約機能により、マネージャーが問題を迅速に理解できます。

事後分析: チケットが閉じられた後、AIは根本原因分析を実行し、事後分析とレポートを支援します。エージェントは、AIを使用してナレッジベースの記事を起草し、将来的に同様の問題を解決することを容易にできます。

これらの機能の多くはすでに実装済みですが、継続的に改善と強化に取り組んでいます。

将来の機能、たとえばスマートなMS Teamsバーチャルエージェントについては、会話型サポート体験の向上は何でしょうか?

一つの有望な道は、会話体験を「コパイロット」に拡張することです。コパイロットは、質問に答えたり、シンプルなアクションを取ったりするだけでなく、ユーザーの代わりにより複雑なアクションを実行することができます。これにより、ユーザーのセルフサービス機能が向上し、エージェントに追加の強力なツールが提供されます。最終的には、これらの強力な会話インターフェイスにより、AIはユビキタスなコンパニオンになります。

素晴らしいインタビュー、詳しく知りたい読者はインヴゲートを訪問してください。