2025’te GenAI Copilot’ları İşletme ve Veri Yönetimini Dönüştürecek Öldürücü Uygulama Olarak Ortaya Çıkacak

Her teknolojik devrim, bir teknolojiyi yaygın benimsemeye iten özel bir kullanım örneğinin tanımlayıcı bir anına sahiptir. Bu zaman GenAI (GenAI) için gelmiştir ve copilot’ların hızlı yayılmasıyla birlikte.

GenAI olarak bir teknoloji, son birkaç yılda önemli adımlar atmıştır. Ancak tüm başlıklara ve hırsa rağmen, şirketler tarafından benimsenmesi hala erken aşamadadır. 2024 Gartner CIO ve Teknoloji Yöneticisi Anketi, benimsemeyi yalnızca anket yapılanların %9’unda gösterir ve %34’ü önümüzdeki yıl bunu yapmayı planladıklarını belirtir. Enterprise Strategy Group tarafından yapılan bir anket, GenAI benimsemeyi %30 olarak gösterir. Ancak tüm anketler 2025 yılı hakkında aynı sonuca varır.

Tahmin 1. 2025 Yılının Sonuna Kadar Çoğu Şirket Üretim Aşamasında GenAI Kullanacak

GenAI benimsemesi, verimliliği ve kârlılığı iyileştirmek için kritik olarak görülüyor ve çoğu iş için en önemli öncelik haline gelmiştir. Ancak bu, şirketlerin GenAI projelerinde şimdiye kadar karşılaştıkları zorlukları aşmaları anlamına gelir:

• Kötü veri kalitesi: GenAI, kullandığı verilerin sadece kadar iyidir ve birçok şirket hala verilerine güvenmez. Veri kalitesi, eksik veya önyargılı veriler, kötü sonuçlara yol açan sorunlar olarak ortaya çıkmıştır.
• GenAI maliyetleri: ChatGPT gibi GenAI modellerini eğitmek, genellikle yalnızca en iyi GenAI ekipleri tarafından yapılmıştır ve milyonlarca dolarlık hesaplama gücüne mal olur. Bu nedenle, insanlar, veri erişimini ve hazırlanmasını ve uzmanları bir araya getirmeyi daha ucuz hale getiren bir teknik olan retrieval augmented generation (RAG) tekniğini kullanmışlardır.
• Sınırlı beceri setleri: GenAI’nin erken dağıtımları, GenAI’de uzmanlaşmış küçük bir grup uzman tarafından çok fazla kodlama gerektiriyordu. Bu grup büyümekte olsa da, vẫn gerçek bir eksiklik vardır.
• Hallüsinasyonlar: GenAI mükemmel değildir. Yanlış cevaplar verebilir ve doğru olduğunu düşündüğünde yanlış cevaplar verebilir. İşletmenizi etkilememesi için yanlış cevapları önlemek için bir stratejiye ihtiyacınız vardır.
• Veri güvenliği: GenAI, eğitilirken, ince ayar yapılırken veya RAG için kullanılırken yanlış kişilere veri maruz bırakmıştır. Bu sızıntılara karşı korumak için güvenlik önlemlerini uygulamanız gerekir.

Şanslıyız ki, yazılım endüstrisi, bu zorlukları birkaç yıldır ele almıştır. 2025, bu zorlukların bazılarının çözülmeye başladığı ve GenAI’nin ana akım haline geldiği yıl gibi görünüyor.

Tahmin 2. Modüler RAG Copilot’ları GenAI’nin En Sık Kullanılan Şekli Olacak

GenAI’nin en yaygın kullanımı, insanların bilgiyi daha hızlı bulmasına yardımcı olan asistanlar veya copilot’lar oluşturmaktır. Copilot’lar genellikle RAG boru hatları kullanılarak oluşturulur. RAG, GenAI’yi kullanmanın en yaygın yoludur. Büyük Dil Modelleri (LLM), tüm veya en son verileri içermeyen genel amaçlı modellerdir, bu nedenle daha doğru bir cevap almak için sorguları, yani promt’leri tăngantan etmek gerekir.
Copilot’lar, bilgi işçilerinin daha üretken olmasını, daha önce cevaplanamayan soruları ele almasını ve bazen de rutin görevleri gerçekleştirmesi sağlarken uzman rehberliği sağlar. Belki de şimdiye kadar en başarılı copilot kullanım örneği, geliştiricilerin kod yazmasına veya eski kodu modernleştirmesine nasıl yardımcı olduğudur.

Ancak copilot’ların, BT dışında kullanıldığında daha büyük bir etkiye sahip olması beklenmektedir. Örnekler arasında:

• Müşteri hizmetlerinde, copilot’lar bir destek sorgusu alabilir ve basit sorgular gibi parola sıfırlama veya hesap erişimi için insan müdahalesine başvurabilir veya bir çözümü sağlayabilir, bu da daha yüksek CSAT puanlarına yol açar.
• Üretimde, copilot’lar, teknisyenlere karmaşık makinelerin tanılama ve onarımını önermek için yardımcı olabilir, bu da down time’ı azaltır.
• Sağlık hizmetlerinde, klinisyenler, copilot’ları hastanın geçmişine ve ilgili araştırmalara erişmek için kullanabilir ve tanı ve klinik bakımı yönlendirmek için yardımcı olabilir, bu da verimliliği ve klinik sonuçları iyileştirir.

RAG boru hatları, çoğunlukla aynı şekilde çalıştı. İlk adım, bir bilgi tabanını bir vektör veritabanına yüklemektir. Bir kişi bir soru sorduğunda, bir GenAI RAG boru hattı çağrılır. Soruyu bir promt’a dönüştürür, vektör veritabanını, en ilgili bilgiyi bulmak için promt’u kodlayarak sorgular, promt’u LLM ile birlikte, alınan bilgiyi bağlam olarak kullanarak çağırır, sonuçları değerlendirir ve biçimlendirir ve bunları kullanıcıya gösterir.

Ancak, tüm copilot’ları eşit derecede iyi desteklemek için tek bir RAG boru hattı kullanamazsınız. Bu nedenle, RAG, daha modüler bir mimariye, modüler RAG’ye evrilmiştir. Burada, birçok adımda farklı modülleri kullanabilirsiniz:

• Veri parçalama ve organizasyonu dahil indeksleme
• Ön alma, sorgu (promt) mühendisliği ve optimizasyonu dahil
• Alıcı ayarlanması ve diğer teknikler dahil geri alma
• Geri alma sonrası yeniden sıralama ve seçim
• Üretici ayarlanması, birden fazla LLM kullanma ve karşılaştırma, ve doğrulama dahil üretim
• Süreci yöneten ve en iyi sonuçları almak için yinelemeli hale getiren orkestrasyon

Birden fazla copilot’u desteklemek için modüler bir RAG mimarisi uygulamanız gerekir.

Tahmin 3. Kod Yazmadan/Kod Az GenAI Araçları GenAI’nin Kullanım Şekli Olacak

Şimdiye kadar, GenAI RAG’nin çok karmaşık ve hızla değiştiğini fark etmiş olabilirsiniz. Sadece yeni en iyi uygulamaların ortaya çıktığı değil, tüm GenAI boru hatlarında kullanılan teknolojinin de çok hızlı değiştiği anlamına gelir. Bu nedenle, bazılarını değiştirmek veya birkaçını desteklemek zorunda kalacaksınız. Ayrıca, GenAI sadece modüler RAG değil, aynı zamanda Retrieval Augmented Fine Tuning (RAFT) ve tam model eğitimi de maliyet etkin bir hale geliyor. Mimariniz, tüm bu değişiklikleri desteklemeli ve karmaşıklığı mühendislerinizden gizlemelidir.
Şanslıyız ki, en iyi GenAI kod yazmadan/kod az araçları, bu mimariyi sağlarlar. Lider veri kaynakları, vektör veritabanları ve LLM’ler için sürekli olarak destek ekliyorlar ve modüler RAG veya LLM’ler için fine-tuning veya eğitim için veri beslemeyi mümkün kılıyorlar. Şirketler, bu araçları kullanarak, iç kaynaklarını kullanarak copilot’ları dağıtmakta başarılı oluyorlar.

Nexla, sadece GenAI’yi entegrasyonu basitleştirmek için kullanmaz. İleri veri parçalama, sorgu mühendisliği, yeniden sıralama ve seçim, çoklu LLM desteği, sonuç sıralama ve seçimi, orkestrasyon ve daha fazlasını içeren modüler bir RAG boru hattı mimarisini içerir – tümü kodlama gerektirmeden yapılandırılır.

Tahmin 4. Copilot ve Ajanlar Arasındaki Çizgi Bulanıklaşacak

GenAI copilot’ları, chatbot’lar gibi, insanları destekleyen ajanlardır. Sonunda, insanlar, oluşturulan sonuçlar ile ne yapacağını karar verir. Ancak GenAI ajanları, insanları dahil etmeden tamamen otomatik olarak yanıtları automate edebilir. Bu tür ajanlar, genellikle ajan veya ajantik AI olarak anılır.

Bazı insanlar, bunları ayrı yaklaşımlar olarak görür. Ancak gerçeklik daha karmaşıktır. Copilot’lar, zaten bazı temel görevleri otomatikleştirmeye başlamıştır ve kullanıcıların eylemleri onaylamasına ve adımları tamamlamasına olanak tanır.

Copilot’ların, zaman içinde copilot ve ajanların bir kombinasyonuna evrilmesini bekleyin. Uygulamalar, iş süreçlerini yeniden mühendislik ve akışını sağlamaya yardımcı olduğu gibi, asistanlar da destekledikleri görevlerin ara adımlarını otomatikleştirmeye başlamalıdır. GenAI tabanlı ajanlar, istisnaları ele almak veya bir LLM kullanarak oluşturulan bir planı onaylamak için insanları da içermelidir.

Tahmin 5. GenAI, Veri Kumaşları, Veri Ürünleri ve Açık Veri Standartlarının Benimsemesini Sürdürecek

GenAI, önümüzdeki birkaç yıl içinde IT’de en büyük değişim sürücüsü olacak çünkü IT, şirketlerin GenAI’nin tam avantajından yararlanmasını sağlamak için uyum sağlamalıdır.

Gartner’ın 2024 Veri Yönetimi Hype Cycles’inde, Gartner, veri yönetimi ve veri bağımlı organizasyonlar için dönüştürücü olan yalnızca 3 teknolojiyi tanımlamıştır: Veri Kumaşları, Veri Ürünleri ve Açık Tablo Biçimleri. Tüm bunlar, verilerin GenAI ile kullanımını daha erişilebilir hale getirmeye yardımcı olur çünkü bu yeni GenAI araç setlerinin verilerini kullanmasını kolaylaştırır.

Nexla, bu nedenle, bir veri kumaşı üzerine inşa edilmiş bir veri ürünü mimarisi uygulamıştır. Veri kumaşı, farklı formatlar, hızlar veya erişim protokolleri arasındaki farklılıklara rağmen, tüm verileri aynı şekilde yönetmek için birleşik bir katman sağlar. Veri ürünleri, RAG gibi belirli veri ihtiyaçlarını desteklemek için oluşturulur.