Connect with us

Düşünce Liderleri

Çoklu Ajent LLM’lerin AI Modellerinin Karmaşık Görevleri Daha Etkili Bir Şekilde Çözmesine Nasıl Yardımcı Olabileceği

mm

Bugün çoğu kuruluş, büyük dil modellerini (LLM) ve yapay zeka (AI) ajanlarını kullanarak iş süreçlerinde maliyetleri optimize etmek ve yeni ve yaratıcı kullanıcı deneyimleri sunmak istiyor. Ancak bu uygulamaların çoğu ‘tek seferlik’ uygulanıyor. Sonuç olarak, şirketler bu kullanım örneklerinin çoğunda yatırım getirisini (ROI) gerçekleştirmekte zorlanıyor.

Oluşturucu AI (GenAI), co-pilot gibi yazılımların ötesine geçmeyi vaat ediyor. Sadece bir konuya ilişkin uzmanlara rehberlik ve yardım sağlamakla kalmaz, bu çözümler SME aktörleri haline gelebilir ve eylemleri otomatik olarak gerçekleştirebilir. GenAI çözümlerinin bu noktaya ulaşması için, şirketlerin onlara ek bilgi ve hafıza, planlama ve yeniden planlama yeteneği ve diğer ajanlarla işbirliği yapma yeteneği sağlamaları gerekir.

Tek modeller bazı senaryolarda uygun olsa da, kollayıcılar olarak görev yaparlar, ajanslı mimariler LLM’lerin iş süreci otomasyonunun aktif bileşenleri haline gelmesine kapı açar. Bu nedenle, şirketler LLM tabanlı çoklu ajans (LLM-MA) sistemlerini kullanarak karmaşık iş süreçlerini basitleştirmeyi ve ROI’yi artırmayı düşünmelidir.

LLM-MA Sistemi Nedir?

Öyleyse, LLM-MA sistemi nedir? Kısa cevap, bu yeni AI teknolojisi paradigması, karmaşık zorlukları çözmek için birlikte çalışan bir AI ajanları ekosistemini tanımlar.

Kararlar, insanlarda güvenilir karar almaya benzer şekilde, çeşitli bağlamlarda gerçekleşmelidir. LLM-MA sistemleri, birden fazla uzmanlaşmış ajanın etkileşime girmesi yoluyla ortak bir hedefe ulaşmak için aynı ‘toplu zeka’yı oluşturur. Diğer bir deyişle, bir iş bir sorununu çözmek için çeşitli alanlardan uzmanları bir araya getirmeye benzer şekilde, LLM-MA sistemleri de çalışır.

Tek bir LLM, iş taleplerini karşılayamaz. Ancak, uzmanlaşmış ajanlar arasında yetenekleri ve bilgileri dağıtmak, tek bir LLM’nin tüm yükü taşıması yerine, görevleri daha verimli ve etkili bir şekilde tamamlayabilir. Çoklu ajanslı LLM’ler, çapraz doğrulama yoluyla birbirlerinin çalışmalarını ‘kontrol edebilir’, ‘halüsinasyonları’ azaltarak maksimum verimlilik ve doğruluk için.

LLM-MA Sistemlerinin Fırsatları ve Kullanım Alanları

LLM-MA sistemleri, yapılandırılmış ve yapılandırılmamış belgeleri aramak, veri modellerini sorgulamak için kod oluşturmak ve diğer içerik oluşturma işlemleri gibi iş süreçlerini otomatikleştirebilir. Şirketler, LLM-MA sistemlerini yazılım geliştirme, donanım simülasyonu, oyun geliştirme (özellikle dünya geliştirme), bilimsel ve farmasötik keşifler, sermaye yönetimi süreçleri, finansal ve ticaret ekonomisi vb. gibi çeşitli kullanım örnekleri için kullanabilir.

LLM-MA sistemlerinin dikkat çekici bir uygulaması, çağrı/hizmet merkezi otomasyonudur. Bu örnekte, önceden tanımlanmış iş akışları ve prosedürlere sahip modeller ve diğer programatik aktörlerin birleşimi, son kullanıcı etkileşimlerini otomatikleştirebilir ve metin, ses veya video aracılığıyla istek triajını gerçekleştirebilir. Ayrıca, bu sistemler, prosedürel ve SME bilgisi ile kişiselleştirme verilerini kullanarak ve Alma Güçlendirilmiş Oluşturma (RAG) türü ve olmayan LLM ajanlarını çağırarak en optimal çözümü bulabilir.

LLM-MA Sistemlerinin Güvenliği, Sorumlu AI ve Diğer Zorlukları

LLM-MA sistemlerinin heyecan verici fırsatlarına rağmen, bu yaklaşıma bazı zorluklar ortaya çıkıyor. Örneğin, şirketlerin ‘halüsinasyonlar’ sorununu ele almaları gerekecek – özellikle kritik etki potansiyeli olan otomatik ilaç keşfi gibi ajanslı sistemler için bir sorumlu partie atanmalıdır.

Ayrıca, veri yanlılığı ve etkileşim yanlılığı sorunları ortaya çıkabilir. Gelecekte, yüzlerce ajanı çalıştıran LLM-MA sistemleri, daha karmaşık mimariler gerektirecek ve diğer LLM eksikliklerini, verileri ve makine öğrenimi operasyonlarını hesaba katmalıdır.

Şirketlerin ayrıca güvenlik endişelerini ele almaları ve sorumlu AI (RAI) uygulamalarını teşvik etmeleri gerekir. Daha fazla LLM ve ajan, tüm AI tehditleri için saldırı yüzeyini artırır. Şirketler, geleneksel LLM risklerini, özellikle güvenlik ve RAI öğelerini içeren LLM-MA sistemlerinin farklı kısımlarını uzmanlaşmış aktörlere ayırarak daha fazla kontrol sağlayabilir.

LLM-MA Sisteminden Tam Değerini Elde Etme: Veri Göz önünde Bulundurmaları

Şirketlerin bir LLM-MA sisteminden tam değerini elde etmesi için, LLM’lerin yalnızca genel alan bilgisine sahip olduğunu anlamaları gerekir. Ancak, LLM’ler, şirketlerin farklılaştırılmış veri varlıklarından, kurumsal belgelerinden, SME bilgilerinden ve kamu veri kaynaklarından alınan bilgilerle birlikte çalışarak değer oluşturan AI ürünleri haline gelebilir.

Şirketlerin, veri odaklıdan, AI merkezli bir yaklaşıma geçmeleri gerekir – burada veri kaynakları, AI’nin şirket ekosisteminde bir aktör haline gelmesini sağlar. Buna göre, şirketlerin yüksek kaliteli veri varlıklarını oluşturmak ve yönetmek yeteneği, yeni veri türlerine de uzanmalıdır. Ayrıca, şirketlerin veri ve içgörülerini tüketme yaklaşımını modernleştirmeleri, işletme modelini değiştirmeleri ve verileri, AI’yi ve RAI’yi birleştiren bir yönetim sistemi getirmeleri gerekir.

Araç açısından, GenAI veri konusunda ek yardım sağlayabilir. Özellikle, GenAI araçları ontolojiler oluşturabilir, meta verileri oluşturabilir, veri sinyallerini çıkarabilir, karmaşık veri şemalarını anlamlandırabilir, veri göçünü otomatikleştirebilir ve veri dönüştürme işlemlerini gerçekleştirebilir. GenAI ayrıca veri kalitesini artırmak ve yönetim uzmanları olarak veya yarı otonom ajanlar olarak görev yapabilir. Zaten birçok şirket, ‘verilerle konuşma’ yetenekleri gibi veri demokrasilerini desteklemek için GenAI kullanıyor.

Hızlı Değişim Çağında Sürekli Benimsenme

LLM, kendi başına değer katmaz veya olumlu ROI elde etmez, ancak iş sonuçlarına odaklı uygulamaların bir parçası olarak bunu yapar. Zorluk, LLM’lerin teknolojik yeteneklerinin geçmişte biraz bilinenken, bugün yeni yetenekler haftalık veya bazen günlük olarak ortaya çıkıyor ve yeni iş fırsatlarını destekliyor. Buna, sürekli değişen bir düzenleme ve uyum ortamı ekleniyor, bu nedenle başarının anahtarı hızlı uyum sağlamaktır.

Bu yeni fırsatları değerlendirmek için gereken esneklik, şirketlerin teknoloji, süreçler ve insanlar arasında en yüksek düzeyde adaptasyona sahip bir zihinsel değişimi teşvik etmelerini gerektirir. Ayrıca, güçlü veri yönetimi ve sorumlu yenilik uygulamaları gerekir. Son olarak, bu yeni paradigmaları benimseyen şirketler, dijital dönüşümün bir sonraki dalgasını liderlik edecek.

Alexei Zhukov, EPAM Systems, Inc'de Veri Bilimi ve Yapay Zeka uygulamasını yönetiyor. Burada, organizasyon ve çeşitli EPAM müşterileri için AI stratejilerini tanımlamalarına yardımcı oluyor. Ayrıca iş dikeyleri ve konumlarda yardımcı oluyor. Ekibinin 100'den fazla AI destekli çözümü üretimi gerçekleştirdi, gelişmiş analitik, optimizasyon ve otomasyon, bilgisayar görüşü, doğal dil işleme, gizlilik, güvenlik, uyumluluk ve MLOps çözümlerini hayata geçirdi. Endüstri veteranı olarak teknoloji yeniliğine tutkun. Kariyeri, teslimat başı ve çözüm/kurumsal mimar dahil birçok role sahip ve finans ve iş bilgi endüstrileri için veri ve analitik çözümlerini savunmada deneyimli.