Hirundo 8 Milyon Dolarlık Yatırım ile Makine Unlearning ile AI Hallüsinasyonlarını Çözmeye Çalışıyor

Hirundo, makine unlearning alanında ilk startup olan, AI’de bazı en önemli sorunları çözmek için 8 milyon dolarlık seed fonlama aldı: hallüsinasyonlar, önyargılar ve gömülü veri güvenlik açıkları. Tur Maverick Ventures Israel tarafından liderlik edilen turda SuperSeed, Alpha Intelligence Capital, Tachles VC, AI.FUND ve Plug and Play Tech Center katıldı.

AI’yi Unutmak: Makine Unlearning’in Vaadi

Geleneksel AI araçlarının aksine, Hirundo’nun temel yeniliği makine unlearning – zaten eğitilmiş AI modellerinin belirli bilgiler veya davranışları “unutmasına” izin veren bir tekniktir. Bu yaklaşım, işletmelerin hallüsinasyonları, önyargıları, kişisel veya özel verileri ve düşmanca güvenlik açıklarını dağıtılan AI modellerinden çıkarırken onları yeniden eğitmelerine gerek kalmadan ermöglicht. Büyük ölçekli modelleri yeniden eğitmek haftalar ve milyonlarca dolar alabilir; Hirundo çok daha verimli bir alternatif sunar.

Hirundo bu süreci AI nöroşirürjisine benzetiyor: şirket, model parametrelerindeki istenmeyen çıktıların nereden geldiğini belirler ve bunları Hassas bir şekilde çıkarır, performansını korurken. Bu yenilikçi teknik, organizasyonların üretim ortamlarında modelleri düzeltmelerine ve AI’yi çok daha büyük bir güvenle dağıtmalarına olanak tanır.

AI Hallüsinasyonlarının Neden Bu Kadar Tehlikeli Olduğu

AI hallüsinasyonları bir modelin yanlış veya aldatıcı bilgiler üretme eğilimini ifade eder. Bu hallüsinasyonlar, özellikle işletme ortamlarında, yanlış bilgilere dayalı kararlar hukuksal sorumluluğa, operasyonel hatalara ve itibar hasarına neden olabilir. Çalışmalar, AI’nin hukuksal sorgulamalar için ürettiği “gerçekler”in %58 ila %82’sinin某 tür hallüsinasyon içerdiğini göstermiştir.

Hallüsinasyonları en aza indirmek için koruma önlemleri veya fine-tuning kullanma çabalarına rağmen, bu yöntemler genellikle sorunları gizler yerine ortadan kaldırmaz. Koruma önlemleri filtreler gibi davranır ve fine-tuning genellikle modelin öğrenilmiş ağırlıklarına derinlemesine gömülü olan hallüsinasyonun kök nedenini ortadan kaldırmakta başarısız olur. Hirundo, bu davranış veya bilginin model itselfinden gerçekten çıkarılmasını sağlar.

Herhangi Bir AI Yığını için Ölçeklenebilir Bir Platform

Hirundo’nun platformu esneklik ve işletme sınıfı dağıtım için tasarlanmıştır. Hem üretken hem de üretken olmayan sistemlerle doğal dil, görme, radar, LiDAR, tablo, konuşma ve zaman serisi gibi çeşitli veri türleri boyunca entegre olur. Platform, eğitim verilerinin hatalı etiketlenmiş öğelerini, aykırı değerleri ve belirsizliklerini otomatik olarak tespit eder. Ardından, kullanıcıların hatalı çıktıları debug etmesine ve bunları sorunlu eğitim verilerine veya öğrenilen davranışlara geri izlemesine olanak tanır, bu da anında unlearned olabilir.

Bütün bunlar iş akışlarını değiştirmeden yapılır. Hirundo’nun SOC-2 sertifikalı sistemi, SaaS, özel bulut (VPC) veya hatta hava boşluğu ile şirket içinde çalıştırılabilir, bu da onu finans, sağlık ve savunma gibi duyarlı ortamlar için uygun hale getirir.

Modeller Across Demonstrated Etki

Şirket, popüler büyük dil modellerinde (LLM’ler) güçlü performans iyileştirmeleri already gösterdi. Llama ve DeepSeek testlerinde Hirundo, hallüsinasyonlarda %55’lik bir azalma, önyargıda %70’lik bir azalma ve başarılı.prompt saldırılarında %85’lik bir azalma elde etti. Bu sonuçlar, HaluEval, PurpleLlama ve Bias Benchmark Q&A gibi bağımsız benchmarklar kullanılarak doğrulandı.

Mevcut çözümler, Llama, Mistral ve Gemma gibi açık kaynaklı modellerle iyi çalışırken, Hirundo, ChatGPT ve Claude gibi kapalı modellere desteği aktif olarak genişletiyor. Bu, teknolojisini işletme LLM’lerinin tam spektrumuna uygulamaya uygun hale getiriyor.

Akademik ve Endüstri Derinliğine Sahip Kurucular

Hirundo, 2023 yılında akademik ve endüstri AI’nin kesişim noktasında uzman üç kişi tarafından kuruldu. CEO Ben Luria, bir Rhodes Scholar ve Oxford’da eski ziyaretçi araştırma görevlisi, daha önce fintech startup Worqly’yi kurdu ve yükseköğretime destek veren bir kâr amacı gütmeyen kuruluş olan ScholarsIL’i ortak kurucu olarak görev yaptı. Michael Leybovich, Hirundo’nun CTO’su, Technion’da eski bir yüksek lisans araştırma görevlisi ve Ofek324’de ödül kazanan bir Ar-Ge subayıdır. Şirketin Baş Bilim İnsanı Prof. Oded Shmueli, Technion’da Bilgisayar Bilimi Fakültesi’nin eski dekanı ve IBM, HP, AT&T (T ) ve daha fazlasında araştırma pozisyonlarında bulunmuştur.

Kollektif deneyimleri, temel AI araştırmaları, gerçek dünya dağıtımı ve güvenli veri yönetimi kapsar – onları AI endüstrisinin mevcut güvenilirlik krizini ele almak için benzersiz bir şekilde nitelendirir.

Güvenilir Bir AI Geleceği için Yatırımcı Desteği

Bu turdaki yatırımcılar, Hirundo’nun güvenilir, işletme hazır AI inşa etme vizyonuna uyuyor. Yaron Carni, Maverick Ventures Israel’in kurucusu, hallüsinasyon veya önyargılı istihbaratı AI’den çıkarmak için bir platformun acil ihtiyacına dikkat çekti. “AI’den hallüsinasyonları veya önyargılı istihbaratı çıkarmazsak, sonuçları bozuyor ve güvensizliği teşvik ediyoruz” dedi. “Hirundo, AI triajı sunuyor – yanlışları veya ayrımcı kaynaklara dayalı verileri completely dönüştürüyor ve AI’nin olanaklarını tamamen değiştiriyor.”

SuperSeed’in Ortak Kuruluşu Mads Jensen de bu görüşü paylaştı: “İstisnai AI şirketlerine yatırım yapıyoruz, ancak bu dönüşüm, modellerin kendileri ne kadar güvenilir ise o kadar güçlüdür. Hirundo’nun makine unlearning yaklaşımı, AI geliştirme döngüsünde kritik bir açığı ele alıyor.”

AI Dağıtımında Artan Bir Sorunu Çözme

AI sistemleri kritik altyapıya entegre edildiğinden, hallüsinasyonlar, önyargılar ve gömülü hassas verilere ilişkin endişeler göz ardı edilemeyecek hale geliyor. Bu sorunlar, finans, sağlık ve savunma gibi yüksek riskli ortamlarda önemli riskler oluşturuyor.

Makine unlearning, AI endüstrisinin model güvenilirliği ve güvenliği konusundaki artan endişelere verdiği yanıtta kritik bir araç olarak ortaya çıkıyor. Hallüsinasyonlar, gömülü önyargılar ve hassas verilerin açığa çıkması, dağıtılan AI sistemlerine güveni giderek daha fazla tehlikeye atıyorsa, unlearning bu riskleri doğrudan azaltmaya olanak tanır – model already eğitildikten ve kullanımdayken.

Eğitim veya yüzey düzeltmeleri gibi yüzey düzeltmelerine güvenmek yerine, makine unlearning, dağıtılan modellerden sorunlu davranışları ve verileri hedeflenmiş bir şekilde çıkarmayı sağlar. Bu yaklaşım, yüksek riskli uygulamalar için ölçeklenebilir, uyumlu çözümler arayan işletmeler ve hükümet kurumları arasında kabul görüyor.