Neden Generative-Augmented Retrieval Veri Analitiğinin Geleceğinin Sınırında

Dört kişiden üçü, organizasyonlarının AI kullandığını söylüyor. Ancak bu faaliyetlerin çoğu hala yapılandırılmamış içerik etrafında dönüyor: toplantıları özetleme, e-posta yazma veya müşteri desteğini otomatikleştirme.

Ancak ironik bir şekilde, iş kararlarını gerçekten yönlendiren verilerin çoğu – finansal raporlar, depo tabloları ve KPI’ler – hala büyük ölçüde AI’nin dışında kalıyor.

Bunun nedeni, azim eksikliği değil, güvensizliktir. Bir model bir cümle uydurduğunda, bu genellikle düzeltilebilir; ancak bir sayı uydurduğunda, bu felaket olabilir. Bir CFO, doğrulanamayan bir cevaba imza atamaz.

Bugün, yapılandırılmış veri, her birinin kendi kuralları ve ilişkileri olan dozens of sistemler boyunca yaşıyor. AI’nin bu karmaşıklık boyunca doğru bir şekilde neden olmasını sağlamak, herhangi bir sohbet botundan daha zor bir zorluktur.

İşletmeler ve ekipleri – teknik olmayan kullanıcılar da dahil – verilerine basit bir şekilde etkileşime girmeleri, tıkanıklıkları azaltmaları ve hızlı, doğru içgörüler elde etmeleri gerekiyor. SQL öğrenmeden.

Bazı çözümler ortaya çıkıyor – bazı nổi bật örneklerine ve faydalarına ve geri çekilmelerine bir göz atalım.

AI ve Yapılandırılmış Veri – Uzağı Görmek

Son iki yıl içinde, AI içgörülerini ve yapılandırılmış verileri birleştirmeye yönelik several girişimler ortaya çıktı.

Çoğu, önemli kaynaklara ve verilere sahip teknoloji devlerinden geliyor. Snowflake, Örneğin, Cortex Analyst ile birlikte geldi, bu, kullanıcıların Snowflake veri ambarına karşı doğal dil soruları sormalarına olanak tanır.

Doğruluğu artırmak için Cortex, anlamsal meta veri sağlamak için bir yol sunar – ancak model ağır şekilde sınırlıdır. Birincisi, elle oluşturulması gerekir ve hatta öyle olsa, yalnızca 10 tablo üzerinde çalışabilir, bu, orta büyüklükte bir şirket için bile yeterli değildir. Daha yüksekse, güven bozulur, çünkü doğruluk azalır.

Hikaye, Databricks’in girişimleriyle kendini tekrar eder, bu, AI/BI Genie ile metin-to-SQL yaklaşımını benimser. Bu çözüm, yalnızca küçük alanlarda etkili bir şekilde dağıtılabilir, daha büyük veri kümeleriyle doğruluk azalır.

Microsoft Power BI Copilot, yüzey düzeyinde bir üretken yaklaşım benimser, AI’yi doğrudan panellere gömerek görselleri tanımlamak, ölçümler önermek ve raporlar oluşturmak için kullanır. Keşiflerini geliştirir, ancak analitiklerin nasıl neden olunduğunu veya doğrulandığını değiştirmez. Her cevap hala modelin yargısına bağlıdır ve bu yargı başarısız olduğunda, geri dönebilecek hiçbir denetim izi veya deterministik mantık yoktur.

Bu sistemler kolektif olarak, doğru yöne işaret ediyor: yapılandırılmış kurumsal verilere AI’yi dağıtmak. Ancak hepsi, AI modelinin doğal dilden SQL oluşturmasına güvenmek gibi kritik bir kusura sahiptir ve bu SQL yanlış olduğunda, bu sık sık olur, iş kullanıcıları sıkışıp kalır. SQL okuyamayan bir yönetici, sonucu teşhis edemez veya düzeltemez. Konuşma soğuk bir şekilde sona erer.

Sorunu çözmek için başka bir yaklaşım, olası soru-cevap çiftlerini önceden dizine eklemektir. Ada’nın GARAGe’i de dahil olmak üzere beberapa çözüm, bu yöntemi izler. Dar alanlarda, sorular öngörülebilir olduğunda iyi çalışır, ancak performans, veri karmaşıklığı arttıkça düşer. Tablolar ve şemalar çoğaldıkça, önceden dizin oluşturma nhanh chóng yönetilemez hale gelir.

Farklı Bir Yol: Üretken-Artırılmış Alma

Üretken-Artırılmış Alma (GAR), mevcut RAG yaklaşımını baş aşağı çevirir (Alma-Artırılmış Üretim ilgili bilgileri kaynakta tutar ve bir LLM’ye dahil eder, böylece doğruluğu artırır).

GAR, kullanıcı sorgusunun amacını anlamak için üretken AI kullanır ve sonra cevabı oluşturmak için neden olma adımlarını oluşturur.

GAR’da, sorgular doğrudan bilgi tabanına etkileşir. Derleniyorlar, üretilmiyorlar, aynı soru her zaman aynı cevabı verir. GAR’da bir neden zinciri, geçici bir sohbet değil, kalıcı, gözden geçirilebilir bir nesnedir, bu nedenle tüm neden zinciri yeniden üretilebilir.

Bu, sonuçların, genel üretken AI motorlarına göre üssel olarak daha doğru olduğu anlamına gelir.

Temelde, GAR üç şey yapar:

1. Otomatik olarak bir anlamsal katman oluşturur. GAR, AI’yi kullanarak sistemler boyunca ilişkileri ve iş tanımlarını ortaya çıkarmak için kullanır ve verileri tek bir modele birleştirir
2. İşletme amacını yüksek düzeyli analitik dile çevirir. Bu dil, sorguyu iş kavram düzeyinde (“Q2 için ziyaret başına gelir”) yakalar ve doğrudan SQL’ye derlenir.
3. Her neden adımını denetlenebilirlik için günlüğe kaydeder. Her cevabın kökeni izlenebilir.

Bunun Neden Önemli Olduğu

GAR, neden olmayı işletmenin kendi dahili bilgi modeline bağlı tutarak, uydurmaları ve hataları ortadan kaldırabilir ve provably doğru cevaplar sunabilir.

Tanım, metrik ve sorgu kalıpları zaman içinde birikip, gelecekteki cevapları daha da özelleştirir.

Güven unsuru, yapılandırılmış verilerine dayanarak bilinçli iş kararları alan iş kullanıcıları için çok önemlidir. Daha fazla işletme gelişmiş AI çözümlerini uygulamaya devam ettikçe, uydurma ve hata riskini neredeyse sıfıra indiren çerçeveler talep edecekler.

Bu, sorguların doğrudan verilerinize bağlandığı, AI’nin büyük veri kümelerinde çalışabildiği ve cevapların tutarlılık ve provability ile sunulduğu zaman olur.