Hirundoが800万ドルを調達し、機械学習の「忘れ」でAIのハルシネーションに取り組む

Hirundoは、機械学習の「忘れ」を専門とする最初のスタートアップであり、人工知能における最も重要な課題であるハルシネーション、バイアス、埋め込まれたデータの脆弱性に対処するために、800万ドルのシード資金を調達しました。このラウンドは、Maverick Ventures Israelが主導し、SuperSeed、Alpha Intelligence Capital、Tachles VC、AI.FUND、Plug and Play Tech Centerが参加しました。

AIの「忘れ」の約束：機械学習の「忘れ」

従来のAIツールがAIの出力を精製またはフィルタリングするのに対し、Hirundoの核となる革新は、機械学習の「忘れ」です。これは、AIモデルがすでにトレーニングされた後で、特定の知識や行動を「忘れる」ことができる技術です。このアプローチにより、企業は、AIモデルからハルシネーション、バイアス、個人または機密データ、敵対的な脆弱性を、再トレーニングせずに外科的に除去できます。大量のモデルを再トレーニングするには数週間かかり、数百万ドルかかる場合があります。Hirundoは、はるかに効率的な代替手段を提供しています。

Hirundoは、このプロセスをAI神経外科に例えます。会社は、モデルパラメータ内で望ましくない出力が発生する正確な場所を特定し、正確に除去しますが、パフォーマンスを維持します。この画期的なテクノロジーにより、組織は、運用環境でモデルを修復し、AIをより大きな自信で展開できます。

なぜAIのハルシネーションは危険であるか

AIのハルシネーションは、モデルが虚偽または誤解を招く情報を生成する傾向を指します。このハルシネーションは、企業環境では特に問題があります。ここでは、不正確な情報に基づく決定は、法的責任、運用上のエラー、評判の損害につながる可能性があります。研究によると、58から82%の法的なクエリに対するAIによって生成された「事実」には、ある種のハルシネーションが含まれています。

ハルシネーションを最小限に抑えるために、ガードレールやファインチューニングを使用する試みがありますが、これらの方法は、問題をマスキングするだけで、根本的な原因を除去しません。ガードレールはフィルタのように作用し、ファインチューニングは、特にハルシネーションがモデルの学習済み重みに深く埋め込まれている場合、根本的な原因を除去することができません。Hirundoは、これを超えて、モデルの自己から行動や知識を実際に除去します。

任意のAIスタックに対応するスケーラブルなプラットフォーム

Hirundoのプラットフォームは、柔軟性と企業向け展開に重点を置いて構築されています。自然言語、ビジョン、レーダー、LiDAR、表形式、音声、時系列データなどの幅広いデータタイプの生成モデルと非生成モデルとともに統合されます。プラットフォームは、トレーニングデータ内のラベル付けミス、外れ値、曖昧さを自動的に検出します。次に、ユーザーは、特定の故障した出力をデバッグし、それらをトレーニングデータや学習した行動の問題に戻すことができ、すぐに「忘れる」ことができます。

これはすべて、ワークフローを変更せずに実現されます。HirundoのSOC-2認証システムは、SaaS、プライベートクラウド（VPC）、またはエアギャップのオンプレミス環境で実行できます。したがって、金融、ヘルスケア、防衛などの機密性の高い環境にも適しています。

モデルの間で実証された影響

同社は、すでに人気のある大規模言語モデル（LLM）で強力なパフォーマンスの向上を実証しています。LlamaとDeepSeekを使用したテストでは、Hirundoは、ハルシネーションが55%、バイアスが70%、成功したプロンプトインジェクション攻撃が85%減少したことを実現しました。これらの結果は、HaluEval、PurpleLlama、Bias Benchmark Q&Aなどの独立したベンチマークを使用して検証されています。

現在のソリューションは、Llama、Mistral、Gemmaなどのオープンソースモデルで機能しますが、Hirundoは、ChatGPTやClaudeなどのゲート付きモデルへのサポートを積極的に拡大しています。したがって、同社のテクノロジーは、企業向けLLMの全スペクトルに適用可能です。

学術的および産業的な深さを持つ創設者

Hirundoは、2023年に、学術と企業のAIの交差点にある3人の専門家によって設立されました。CEOのBen Luriaは、ローズ奨学生であり、オックスフォード大学の客員研究員でした。彼は以前、フィンテックのスタートアップWorqlyを設立し、高等教育を支援する非営利団体ScholarsILの共同設立者でした。HirundoのCTOであるMichael Leybovichは、テクニオンの元大学院研究員であり、Ofek324の賞を受けたR&Dオフィサーでした。同社のチーフサイエンティストであるProf. Oded Shmueliは、テクニオンの元コンピューターサイエンス学部長であり、IBM、HP、AT&Tなどで研究職を歴任しました。

彼らの総合的な経験は、基礎的なAI研究、現実世界での展開、セキュアなデータ管理に及んでおり、AI業界の現在の信頼性の危機に対処するために、独自に資格を持ちます。

信頼できるAIの未来に向けた投資家の支援

このラウンドの投資家は、Hirundoの、信頼できる企業向けAIを構築するというビジョンと一致しています。Yaron Carni、Maverick Ventures Israelの創設者は、ハルシネーションやバイアスされたインテリジェンスを除去できるプラットフォームの必要性を強調しました。 「AIからハルシネーションやバイアスされたインテリジェンスを除去しないと、現実世界で損害を引き起こす前に、AIの「トリアージ」を行う必要があります。Hirundoは、偽の情報や差別的な情報源に基づくデータを完全に除去し、AIの可能性を変革します。」

SuperSeedのマネージングパートナーであるMads Jensenも同様の見解を示しました：「私たちは、業界の垂直統合を変革する優れたAI企業に投資しています。しかし、この変革は、モデル自体が信頼できるものである限りにおいてのみ強力です。Hirundoの機械学習の「忘れ」のアプローチは、AI開発ライフサイクルにおける重要なギャップに対処します。」

AI展開における成長する課題に対処する

AIシステムが重要なインフラストラクチャに統合されるにつれて、ハルシネーション、バイアス、埋め込まれた機密データに関する懸念が、無視することができなくなってきています。これらの問題は、金融、ヘルスケア、防衛などの高リスク環境では、重大なリスクをもたらします。

機械学習の「忘れ」は、AI業界がモデル信頼性と安全性に関する懸念に対応する上で、重要なツールとして浮上しています。ハルシネーション、埋め込まれたバイアス、機密データの漏洩が、展開されたAIシステムの信頼性を損なうにつれて、「忘れ」は、これらのリスクを軽減する直接的な方法を提供します。モデルがトレーニングされ、使用されている後です。

再トレーニングや表面レベルの修正のようにフィルタリングに頼るのではなく、機械学習の「忘れ」により、すでに生産環境にあるモデルから問題のある行動やデータを、ターゲットを絞った除去が可能になります。このアプローチは、ハイステークスのアプリケーション向けのスケーラブルでコンプライアントなソリューションを求める企業や政府機関の間で、支持を集めています。