Connect with us

Düşünce Liderleri

Nesil Değişim Veri Analitiği Sonraki Sınırı: Üretken-Artırılmış Alma

mm

Dört kişiden üçü, organizasyonlarının AI kullandığını söylüyor. Yine de bu faaliyetlerin çoğu, hala yapılandırılmamış içerikte merkezleniyor: toplantıları özetleme, e-posta yazma veya müşteri destek otomatikleştirme.

Ancak ironik bir şekilde, iş kararlarını gerçekten yönlendiren veriler – finansal raporlar, ambar tabloları ve KPI’ler – hala büyük ölçüde AI tarafından dokunulmamış durumda.

Nedeni, azimli olmama değil, güvensizliktir. Bir model bir cümle hayal ettiğinde, bu genellikle düzeltilir; ancak bir sayı hayal ettiğinde, bu felaketlidir. Bir CFO, doğrulayamayacağı bir cevabı onaylayamaz.

Bugün, yapılandırılmış veriler, her birinin kendi kuralları ve ilişkileri olan düzinelerce sistem boyunca yaşıyor. AI’ın bu karmaşıklık boyunca doğru bir şekilde akıl yürütmesi, herhangi bir sohbet botundan daha zor bir zorluktur.

İşletmeler ve ekipleri – teknik olmayan kullanıcılar da dahil – veri ile basit bir şekilde etkileşim kurabilmeli ve hızlandırılmış, doğru içgörüler elde edebilmelidir. SQL öğrenmeden.

Çözümler ortaya çıkıyor – bazı nổi bật örneklerine ve faydalarına ve geri çekilmelerine bir göz atalım.

AI ve Yapılandırılmış Veri – Uzağı Görme

Son iki yıl içinde, AI içgörülerini ve yapılandırılmış verileri köprüleme çabaları ortaya çıktı.

Birçoğu önemli kaynaklara ve verilere sahip teknoloji devlerinden geliyor. Snowflake, örneğin, Cortex Analyst ile birlikte geldi, bu, kullanıcıların Snowflake veri ambarına karşı doğal dil soruları sormasına olanak tanır.

Doğruluğu artırmak için Cortex, anlamsal meta veri sağlamak için bir yol sunar – ancak model nặng bir şekilde sınırlıdır. Birincisi, manuel olarak oluşturulması gerekir ve hatta öyle olsa, yalnızca 10 tablo üzerinde çalışabilir, bu, orta büyüklükte bir şirket için bile yeterli değildir. Daha yüksekse, güven bozulur, çünkü doğruluk azalır.

Hikaye, Databricks tarafından yapılan girişimlerle kendini tekrar eder, bu, AI/BI Genie ile metin-SQL yaklaşımını benimser. Bu çözüm, yalnızca küçük alanlarda etkili bir şekilde dağıtılabilir, artan veri kümeleriyle birlikte doğruluk kaybı yaşar.

Microsoft Power BI Copilot, yüzey seviyesinde üretken bir yaklaşım benimser, AI’ı doğrudan panellere gömerek görselleri tanımlamak, ölçütler önermek ve raporlar hazırlamak için kullanır. Keşifleri geliştirir, ancak analitiklerin nasıl akıl yürütüldüğünü veya doğrulandığını değiştirmez. Her cevap, modelin yargısına bağımlıdır ve bu yargı başarısız olduğunda, geri dönebilmek için hiçbir denetim izi veya deterministik mantık yoktur.

Toplu olarak, bu sistemler doğru yöne işaret ediyor: yapılandırılmış empresa verilerine AI’ı dağıtmak. Ancak hepsi, kritik bir kusura da sahiptir. AI modelinin doğal dilden SQL oluşturmasına bağımlıdırlar ve bu SQL yanlış olduğunda, bu durum sık sık ortaya çıkar, iş kullanıcıları sıkışıp kalır. SQL okuyamayan bir yönetici, sonucu teşhis edemez veya düzeltemez. Konuşma soğuk bir şekilde sona erer.

Sorunu ele almanın bir başka yolu, muhtemel soru-cevap çiftlerini önceden dizine eklemektir. Ada’nın GARAGe’i de dahil olmak üzere bazıları bu yöntemi takip ediyor. Dar alanlarda, sorular öngörülebilir olduğunda iyi çalışıyor, ancak performans, veri karmaşıklığı arttıkça düşüyor. Tablolar ve şemalar çoğaldıkça, önceden dizine ekleme nhanh chóng yönetilemez hale gelir.

Farklı Bir Yol: Üretken-Artırılmış Alma

Üretken-Artırılmış Alma (GAR), mevcut RAG yaklaşımını (Alma-Artırılmış Oluşturma, ilgili bilgileri kaynaklar ve bir LLM’ye dahil eder) baş aşağı çevirir.

Kullanıcının sorgusunun amacını anlamak için üretken AI’ı kullanmak yerine, GAR, cevabı oluşturmak için akıl yürütme adımlarını oluşturur.

GAR’da, sorgular doğrudan bilgi tabanı ile etkileşime girer. Derlenirler, üretilmezler, aynı soru her zaman aynı cevabı verir. GAR’da bir akıl yürütme zinciri, geçici bir sohbet değil, kalıcı, gözden geçirilebilir bir nesnedir, bu nedenle tüm akıl yürütme zinciri yeniden üretilir.

Bu, sonuçların genel genAI motorlarına göre üssel olarak daha doğru olduğu anlamına gelir.

Temelde, GAR üç şey yapar:

  1. Özerk olarak bir anlamsal katman oluşturur. GAR, AI’ı kullanarak sistemler boyunca ilişkileri ve iş tanımlarını ortaya çıkarmak için kullanır ve verileri tek bir modele birleştirir
  2. İşletme amacını yüksek düzeyli analitik dile çevirir. Bu dil, sorguyu iş kavram düzeyinde (“Q2 için sağlayıcı tarafından ziyaret başına gelir”) yakalar ve doğrudan SQL’ye derler.
  3. Her akıl yürütme adımını denetlenebilirlik için günlüğe kaydeder. Her cevabın kökeni izlenebilir.

Neden Bu Önemli

Akıl yürütmeyi, işletmenin kendi dahili bilgi modeline sınırlayarak, GAR, hayal gücünü ortadan kaldırabilir ve provably doğru cevaplar sunabilir.

Tanımlar, metrikler ve sorgu kalıpları zamanla birikebilir, gelecekteki cevapları daha da özelleştirir.

Güven unsurunun, yapılandırılmış verilerine dayalı iş kararları alan iş kullanıcıları için kritik olduğu unutulmamalıdır. Gelişmiş AI çözümlerini uygulayan daha fazla işletme, hayal gücü ve hata riskini neredeyse sıfıra indiren çerçeveleri talep edecektir.

Bu, sorguların doğrudan verilerinize bağlandığı, AI’ın büyük veri kümelerinde çalışabileceği ve cevapların tutarlılık ve ispatlanabilirlik ile sunulduğu zaman gerçekleşir.

Rob Giardina, Claritype'nin kurucu ortaklarından ve CEO'sudur, şirket geliştirilen AI sistemleri ile kurumsal veri analitiğine açıklanabilirlik ve denetlenebilirlik getirir. Daha önce Palantir Technologies'de Forward Deployed Engineer olarak görev yaptı.