Düşünce Liderleri

2025’te GenAI Copilot’ları İşletmeleri ve Veri Yönetimini Dönüştürecek Öldürücü Uygulama Olarak Emerge Edecek

mm
Unite.AI sitesini Google'daki tercih ettiğiniz kaynaklara ekleyin

Her teknolojik devrim, bir teknolojisinin yaygın olarak benimsenmesine yol açan belirli bir kullanım durumu olduğunda tanımlayıcı bir anı vardır. GenAI için bu an, copilot’ların hızlı yayılmasıyla gelmiştir.

GenAI olarak bir teknoloji, son birkaç yılda önemli adımlar atmıştır. Ancak tüm başlıklara ve hypesine rağmen, şirketler tarafından benimsenmesi hala erken aşamadadır. 2024 Gartner CIO ve Teknoloji Yöneticisi Anketi, benimsenme oranını anket yapılanların yalnızca %9’u olarak verir ve %34’ü önümüzdeki yıl bunu yapmayı planladıklarını belirtir. Enterprise Strategy Group’un yakın tarihli bir anketi, GenAI benimsenme oranını %30 olarak verir. Ancak tüm anketler 2025 yılı hakkında aynı sonuca varır.

Tahmin 1. Çoğu Şirket 2025 Yılının Sonuna Kadar Üretime GenAI Kullanacak

GenAI benimsenmesi, verimliliği ve karlılığı artırmak için kritik olarak görülüyor ve çoğu işletme için bir öncelik haline gelmiştir. Ancak bu, şirketlerin GenAI projelerinde şimdiye kadar karşılaştıkları zorlukları aşmaları anlamına gelir, bunlar arasında:

  • Kötü veri kalitesi: GenAI, kullandığı verilerin kalitesine bağlı olarak iyi veya kötü olabilir ve birçok şirket hala verilerine güvenmez. Veri kalitesi, eksik veya önyargılı veriler, tümü de kötü sonuçlara yol açan sorunlar olarak ortaya çıkıyor.
  • GenAI maliyetleri: ChatGPT gibi GenAI modellerini eğitmek, büyük ölçüde yalnızca en iyi GenAI ekipleri tarafından yapılmıştır ve milyonlarca dolarlık hesaplama gücüne mal olur. Bu nedenle, insanlar bir teknik olan retrieval augmented generation (RAG) kullanıyorlar. Ancak RAG ile bile, veri erişimi ve hazırlanması ve uzmanları işe alması nhanh chóng pahalı hale geliyor.
  • Sınırlı beceri setleri: GenAI’nin erken dağıtımları, GenAI’de uzmanlaşmış küçük bir grup uzman tarafından çok fazla kodlama gerektiriyordu. Bu grup büyümeye devam etse de, vẫn bir gerçek eksiklik var.
  • Hallüsinasyonlar: GenAI mükemmel değildir. Yanlış cevaplar verebilir ve doğru olduğunu düşündüğünde yanlış cevaplar verebilir. İşletmenizi etkileyen yanlış cevapları önlemek için bir stratejiye ihtiyacınız vardır.
  • Veri güvenliği: GenAI, eğitim, fine-tuning veya RAG için kullanılan verilere yanlış kişilerin erişmesine neden oldu. Bu sızıntılara karşı korumak için güvenlik önlemleri uygulamanız gerekir.

Şanslıyız ki, yazılım endüstrisi, bu zorlukları birkaç yıldır ele alıyor. 2025 yılı, bu zorlukların bazılarının çözülmeye başladığı ve GenAI’nin ana akım haline geldiği yıl gibi görünüyor.

Tahmin 2. Modüler RAG Copilot’ları GenAI’nin En Yaygın Kullanımı Olacak

GenAI’nin en yaygın kullanımı, insanların bilgiyi daha hızlı bulmasına yardımcı olan asistanlar veya copilot’lar oluşturmaktır. Copilot’lar genellikle RAG boru hatları kullanılarak inşa edilir. RAG, yoludur. GenAI’nin en yaygın kullanımıdır. Büyük Dil Modelleri (LLM), tüm veya en son verileri içermeyen genel amaçlı modeller olduklarından, daha doğru bir cevap almak için sorguları, yani promt’ları artırmak gerekir.
Copilot’lar, bilgi işçilerinin daha üretken olmasını sağlar, önce cevaplanamayan sorulara cevap verir ve bazen de rutin görevleri gerçekleştirirken uzman rehberliği sağlar. Copilot’ların en başarılı kullanımı, yazılım geliştiricilere kodlama veya eski kodu modernleştirme konusunda yardımcı olmalarıdır.

Ancak copilot’lar, BT dışında kullanıldıklarında daha büyük bir etkiye sahip olacaklardır. Örnekler arasında:

  • Müşteri hizmetlerinde, copilot’lar bir destek sorgusu alabilir ve basit sorgular için bir çözüm sağlayabilir veya insan müdahalesi için artırabilir, bu da daha yüksek CSAT puanlarına yol açar.
  • Üretimde, copilot’lar, teknisyenlere karmaşık makinelerin tanısını ve önerilen eylemleri veya onarımları yardımcı olabilir, bu da down time’ı azaltır.
  • Sağlık hizmetlerinde, klinisyenler, copilot’ları kullanarak hasta geçmişini ve ilgili araştırmaları erişebilir ve tanı ve klinik bakımı yönlendirmek için yardımcı olabilir, bu da verimliliği ve klinik sonuçları iyileştirir.

RAG boru hatları, büyük ölçüde aynı şekilde çalışıyordu. İlk adım, bir bilgi tabanını bir vektör veritabanına yüklemektir. Bir kişi bir soru sorduğunda, bir GenAI RAG boru hattı çağrılır. Soruyu bir promt’a dönüştürür, vektör veritabanını sorgular, en ilgili bilgileri bulmak için promt’u kodlar, bir LLM’i çağırır ve alınan bilgileri bağlam olarak kullanır, sonuçları değerlendirir ve biçimlendirir ve bunları kullanıcıya gösterir.

Ancak tüm copilot’ları eşit derecede iyi desteklemek için tek bir RAG boru hattı kullanılamayacağı ortaya çıktı. Bu nedenle, RAG, her biri için farklı modüllerin kullanılabileceği daha modüler bir mimari olan modüler RAG’ye evrimleşti:

  • Veri parçalama ve organizasyonu dahil indeksleme
  • Sorgu mühendisliği ve optimizasyonu dahil ön-alma
  • Alma, alıcı fine-tuning ve diğer teknikler
  • Post-alma yeniden sıralama ve seçim
  • Üretimi, jeneratör fine-tuning, birden fazla LLM kullanma ve karşılaştırma ve doğrulama
  • İşlemi yöneten ve en iyi sonuçları elde etmeye yardımcı olan orkestrasyon

Birden fazla copilot’u desteklemek için modüler bir RAG mimarisini uygulamanız gerekir.

Tahmin 3. No-Code/Low-Code GenAI Araçları Yol Olacak

Şimdiye kadar, GenAI RAG’nin çok karmaşık ve hızla değiştiğini fark etmiş olabilirsiniz. Yeni en iyi uygulamaların sürekli ortaya çıktığı sadece değil. GenAI boru hatlarında kullanılan tüm teknoloji o kadar hızlı değişiyor ki, bazılarını değiştirmek veya birkaçını desteklemek zorunda kalacaksınız. Ayrıca, GenAI sadece modüler RAG değil. Retrieval Augmented Fine Tuning (RAFT) ve tam model eğitimi de maliyet etkin hale geliyor. Mimariniz tüm bu değişikliği desteklemeli ve karmaşıklığı mühendislerinizden gizlemelidir.
Şanslıyız ki, en iyi GenAI no-code/low-code araçları bu mimariyi sağlar. Lider veri kaynaklarına, vektör veritabanlarına ve LLM’lere destek eklemeye devam ediyorlar ve modüler RAG veya LLM’ler için fine-tuning veya eğitim için veri beslemeyi mümkün kılıyor. Şirketler, iç kaynaklarını kullanarak copilot’ları dağıtmak için bu araçları başarıyla kullanıyor.

Nexla, yalnızca GenAI’yi entegrasyonu basitleştirmek için kullanmıyor. İleri veri parçalama, sorgu mühendisliği, yeniden sıralama ve seçim, çoklu LLM desteği, sonuç sıralama ve seçim, orkestrasyon ve daha fazlasını içeren modüler bir RAG boru hattı mimarisine sahiptir – tümü kodlama gerektirmeden yapılandırılır.

Tahmin 4. Copilot’lar ve Ajanlar Arasındaki Çizgi Bulanıklaşacak

GenAI copilot’ları, chatbot’lar gibi, insanları destekleyen ajanlardır. Sonunda, insanlar, oluşturulan sonuçlar hakkında ne yapacağına karar verir. Ancak GenAI ajanları, insanları dahil etmeden tam olarak otomatik olarak cevap verebilir. Bunlar genellikle ajanlar veya ajantik AI olarak anılır.

Bazı insanlar bunları iki ayrı yaklaşım olarak görür. Ancak gerçeklik daha karmaşıktır. Copilot’lar, bazı temel görevleri zaten otomatikleştirmeye başlıyor, kullanıcıların eylemleri onaylamasına olanak tanır ve bunları tamamlamak için gereken adımları otomatikleştirebilir.

Copilot’ların zamanla copilot’lar ve ajanların bir kombinasyonuna evrimleşmesini bekleyin. Uygulamalar gibi, asistanlar da iş süreçlerini yeniden mühendislik ve akışkan hale getirmek için kullanılabilir ve kullanılmalıdır. GenAI tabanlı ajanlar, istisnaları ele almak veya bir LLM kullanarak oluşturulan bir planı onaylamak için insanları dahil etmelidir.

Tahmin 5. GenAI, Veri Kumaşları, Veri Ürünleri ve Açık Veri Standartlarının Benimsenmesini Sürdürecek

GenAI, önümüzdeki birkaç yıl içinde BT’de değişimin en büyük sürücüsü olacak, çünkü BT, şirketlerin GenAI’nin tam avantajından yararlanmasını sağlamak için uyum sağlamalıdır.

Gartner’ın 2024 Veri Yönetimi Hype Cycles’ine göre, Gartner, veri yönetimi ve veri bağımlı organizasyonlar için dönüşümsel olan yalnızca 3 teknolojiyi tanımlamıştır: Veri Kumaşları, Veri Ürünleri ve Açık Tablo Biçimleri. Tüm bunlar, bu yeni GenAI araçları ile kullanılmak üzere verilere erişimi daha kolay hale getirdiği için GenAI ile kullanılmak üzere verilere erişimi daha kolay hale getirir.

Nexla, bu nedenle, bir veri kumaşına dayalı bir veri ürünü mimarisini uygulamıştır. Veri kumaşı, farklı formatlar, hızlar veya erişim protokolleri arasındaki farklılıklar gözetmeksizin tüm verileri aynı şekilde yönetmek için birleşik bir katman sağlar. Veri ürünleri, RAG gibi belirli veri ihtiyaçlarını desteklemek için oluşturulur.

Örneğin, büyük bir finansal hizmetler şirketi, risk yönetimini artırmak için GenAI’yi uygulamaktadır. Nexla’yı kullanarak birleşik bir veri kumaşı oluşturuyorlar. Nexla, şemayı otomatik olarak algılar ve bağlayıcılar ve veri ürünleri oluşturur. Şirket, RAG ajanları için dinamik düzenleyici raporlama için agregasyon, temizleme ve dönüştürme işlemlerini gerçekleştirmek üzere belirli risk metriklerine yönelik veri ürünleri tanımlar. Nexla, düzenleyici uyumluluğu sağlamak için veri yönetimi kontrolleri, veri kökeni ve erişim kontrolleri sağlar.Anahtar analitik, operasyonel, B2B ve GenAI entegrasyon platformumuz, GenAI’yi kullanarak yeniden kullanılabilir bağlayıcılar, veri ürünleri ve iş akışları oluşturmak için bir veri kumaşı mimarisine dayanmaktadır. Apache Iceberg gibi açık veri standartlarına destek, daha fazla veriye erişimi kolaylaştırır.

Agentic AI’ye Doğru Copilot’unuzla Nasıl Yol Alabilirsiniz

Bu tahminlere dayanarak, şirketinizde GenAI’yi ana akım haline getirmek için nasıl hazırlanabilirsiniz?
İlk olarak, daha önce yapmadıysanız, müşterileriniz veya çalışanlarınız için ilk GenAI RAG asistanınıza başlayın. Başarılı olabileceğiniz ve doğru bilgi tabanına sahip olduğunuz önemli ve nispeten basit bir kullanım durumu belirleyin.

İkincisi, doğru modüler RAG mimarisini ve ilk projelerinizi desteklemek için doğru entegrasyon araçlarını yerleştirebilecek küçük bir GenAI uzmanları ekibine sahip olun. No-code/low-code araçları olan yeni satıcıları değerlendirmekten çekinmeyin.

Üçüncüsü, başarılı olmanız için gerekli olan veri yönetimi en iyi uygulamalarını belirlemeye başlayın. Bu, yalnızca bir veri kumaşı ve veri ürünleri gibi kavramları içermekle kalmaz. Ayrıca AI için verilerinizi yönetmelisiniz.

Şimdi zamanı. 2025, çoğunluğun başarılı olacağı yıldır. Geride kalmayın.

Saket Saurabh, Nexla'nın CEO ve Kurucu Ortağı, veri ve altyapı için derin bir tutkuya sahip bir girişimcidir. Ölçek ve hız getirme amacını taşıyan, next-generation, otomatik veri mühendisliği platformunun geliştirilmesine liderlik etmektedir.

Önceden, Saurabh başarılı bir mobil startup kurdu ve bu startup önemli kilometre taşlarına ulaştı, bunlar arasında acquisition, IPO ve çok milyonlarca dolarlık bir iş haline gelme yer almaktadır. Ayrıca, Nvidia'daki görev süresi boyunca çok sayıda yenilikçi ürün ve teknolojiye katkıda bulundu.