Bilgilerimi Nasıl AI Sistemlerine Aktardım ve Bu Sistemler İnsan Uzmanları Gibi Karar Alabilir Hale Geldi

Microsoft’tan ayrıldıktan ve işletmelerle birlikte AI dağıtımları üzerinde çalışmaya devam ettiğimde, insanların heyecanla beklediği çoğu AI sisteminin gerçekten insan uzmanları gibi karar alamadığını gördüm. Elbette, yazı yazabilir, özetleyebilir ve karar gibi görünen ancak gerçek bir operasyonel ortamda, trade-off’lar, belirsizlikler, eksik talimatlar ve gerçek sonuçlar olduğunda hızlı bir şekilde zorlanırlar. Bu, MIT Project NANDA’nın verilerine de uyuyor; %60’ı AI araçlarını değerlendiren organizasyonların sadece %20’si pilot aşamasına ulaştı ve sadece %5’i üretim aşamasına ulaştı. Diğer bir deyişle, endüstri gerçek iş akışları içinde dayanıklı sistemler oluşturmaya çalışıyor.

İşletme ortamlarında, özellikle tedarik zinciri, imalat ve operasyonlar gibi alanlarda, bir cevap elde etmek zor değil; ancak hangi cevaba güvenmek, hangi değişkenlerin önemli olduğu ve yanlış yapılırsa neyin bozulacağı bilinmesi gerekiyor. Gözümde bu, hem bir uzmanlık hem de yargı problemi.

Açık olmak gerekirse, AI, daha iyi çıktılar üretme konusunda mucizeler yaratmıştır. Ancak daha iyi çıktı, daha iyi kararlar anlamına gelmez. Bunlar iki ayrı kilometre taşı ve sanırım endüstri bu iki kavramı birbirinin yerine kullanmaya çok zaman harcadı.

Uzmanlık ve yargı eksikliği, beni insan uzmanlarının karmaşık kararlar alması için AI’yi eğitebileceği AI sistemleri oluşturmaya ilgi duymaya yöneltti. AI sadece görevleri otomatikleştirmekle ilgili olmamalıdır; aynı zamanda insan yargısını, gerçek dünyada dayanıklı olabilecek AI sistemlerine etkili ve güvenli bir şekilde aktarabilmekle ilgili olmalıdır.

Büyük dil modelleri (LLM’ler) karar vericiler gibi konuşur ancak öyle değiller

LLM’lerin faydalı olduğu konusunda hiçbir şüphe yok, ancak varsayılan olarak karar verme sistemleri değiller. Dilde sarılı prediction sistemleridir. Ve dil, ikna edicidir, bu da sorunların bir parçasıdır. Bir sisteme bir iş sorusu sorarsanız, size yapılandırılmış bir cevap verir, ticaretler, çekinceler ve sonunda güzel bir özetle, olduğundan daha akıllı görünmesini sağlar. Anlaşılır görünmek ve operasyonel olarak yetkin olmak aynı şey değildir ve bu, birçok işletme AI’sinin bozulduğu yer burasıdır. Modeller, iyi bir kararın nasıl olması gerektiğini söyleyebilir, ancak bir kararın iyi olmasının nedenini, baskı altında, zaman içinde veya bağlamda anlamazlar. Bu, birçok organizasyonun deneyden öteye geçmekte neden zorlandığının bir nedeni. Gartner, en az %50’si generatif AI projelerinin kanıtların ardından terk edildiğini buldu, gerçek operasyonel etkiye ulaşmadan önce, genellikle belirsiz değer ve risk kontrolleri nedeniyle.

Bilgi, uzmanlık değildir

AI ile ilgili olarak düşülebilecek en kolay tuzaklardan biri, bir sistemin yeterli bilgiye sahip olması durumunda, uzman gibi davranabileceğini varsaymaktır. Mantıklı görünüyor, ancak bunu günlük hayatımızda düşündüğümüzde, bir şey hakkında daha fazla bilgi edinmek, otomatik olarak uzman olmamıza yol açmaz. Her havacılık kılavuzunu okuyabilirsiniz, ancak bir uçağı indirmeye hazır olmayabilirsiniz. Tedarik zinciri için her en iyi uygulamayı ezberleyebilirsiniz, ancak üç şey aynı anda yanlış gittiğinde donabilirsiniz.

Devam edebilir, ancak nokta, bilginin yetenekle eşanlamlı olmadığını göstermektir. Yetenek, deneyimden, özellikle de cevabın açık olmadığı karmaşık durumlardaki tekrarlanan maruziyetten gelir.

Her gün, günümüzde çoğu AI sisteminin statik örneklerle eğitildiğini görüyorum. Bu, öngörülerde bulunmak için faydalıdır, ancak karar vermenin sadece bir kısmı budur. İşletmeler, veriden yoksun değildir, ancak uygulamalar için yapılandırılmış ortamlara ihtiyaçları vardır, yani sistemlere, gerçekleştirebilecekleri, seçimler yapabilecekleri, neler olacağını görecekleri, geri bildirim alacakları ve zamanla geliştirecekleri ortamlar gerekir.

• Gerçekçi senaryolarla karşılaşmak
• Seçimler yapmak
• Neler olacağını görmek
• Geri bildirim almak
• Zamanla gelişmek

AI, öngörücü algoritmalarla eğitilebilir, ancak bu yaklaşım sınırlamalara sahiptir. Sonraki adımda, insan denetimi ile simüle edilmiş bir ortamda eğitilebilecek AI’ye ihtiyaç vardır. Buna makine öğretimi diyorum, bu, karmaşık kararları senaryolara ve becerilere ayırarak, AI’yi simülasyon yoluyla insan uzmanlarının öğretmesine rehberlik eden bir metodolojidir. Sonuçta, geri bildirim ve deneme-yanılma, ajanların gerçek dünya otonomisi ile öğrenmesini ve hareket etmesini sağlar.

AI’yi tek bir yapı olarak tedavi etmeyi bırakın

Gördüğüm bir diğer hata, bir büyük modelin her şeyi yapması gerektiği varsayımıdır. Hiçbir basketbol takımı sadece bir kişiden oluşmaz. Hiçbir fabrika tek bir kişi tarafından yönetilmez. Karmaşık sistemler, farklı bileşenlerin farklı işler yaptığı ve bunları birleştiren bir yapı olduğu için çalışır.

AI de aynı şekilde inşa edilmelidir. İşletme karar alma geleceğinin, evrensel olarak yetkin bir dev model olacağını düşünmüyorum. Daha ziyade, uzmanlaşmış ajan takımlarına benzeyecektir.

Bir ajan, veri alma uzmanı olabilir. Bir diğeri, senaryoları değerlendirmede daha iyidir. Bir diğeri planlamayla ilgilenir. Bir diğeri, uyumluluğu denetler veya çelişkileri yakalar. Bir diğeri, bir süpervizör gibi davranır, ne zaman yükseltilmesi gerektiğini veya güvenin düşük olduğu durumlarda devam etmek için yeterli güvence olup olmadığını karar verir. Takım mimarisi bana daha mantıklı geliyor, çünkü gerçek organizasyonların nasıl çalıştığına ve daha geniş pazar trendlerine uyuyor. McKinsey’nin bulguları, işletmelerin AI’den en fazla değeri, iş akışlarını ve operasyonel yapıları AI etrafında yeniden tasarlayarak elde ettiklerini gösteriyor.

Tüm kararlar aynı şekilde verilmez ve souvent, aynı modelin, aynı verinin ve aynı tür mantığın hepsini ele alabileceğini varsayarız. Aslında, farklı kararlar farklı mekanizmalar gerektirir.

Gerçekte kararlar nasıl verilir

Deneyimlerime göre, çoğu karar birkaç kategoriye girer:

1. Kontrol sistemleri (kurallar ve formüller): Kararlar, bilinen girdilere önceden tanımlanmış równations veya kurallar uygulanarak verilir. Eğer X olursa, Y yap.
2. Arama ve optimizasyon: Kararlar, birçok olası seçeneği değerlendirerek ve tanımlanmış bir objetivo göre en iyisini seçerek verilir.
3. Pekiştirme öğrenimi (deneme-yanılma): Kararlar, eylemler alarak, sonuçları gözlemleyerek ve ödül veya ceza temelinde ayarlayarak zaman içinde öğrenilir.
4. Uygulama ve deneyim (insan tarzı öğrenme): Kararlar, gerçek dünya senaryolarında tekrarlanan maruziyet, rehberlik ve biriken yargı yoluyla şekillenir.

Çoğu işletme AI’si ilk iki kategoriye iyi bir şekilde uyar. Üçüncü ve dördüncü kategoriler, AI için daha zorlu olan, insan benzeri yargıların yaşandığı yerlerdir.

Yapı olmadan otonomi risktir

İnsanlar otomatik AI hakkında konuştuğunda, sohbet genellikle iki uç arasında bölünür. Bir taraf, sistemlerin neredeyse sihir gibi ve her şeyi yönetmeye hazır olduğunu düşünür. Diğer taraf, hiçbir anlamlı şey için güvenilmeyeceğini düşünür.

İkisi de faydalı değil. Yapı içinde otonomiye odaklanmalıyız. Denetim mantığı, sınırlar veya hesap verebilirlik olmadan otonomi, riskin ana kaynağıdır. Risk endişeleri, Ulusal Standartlar ve Teknoloji Enstitüsü’nün AI Risk Yönetimi Çerçevesi gibi çabalar tarafından şekillendirilen sohbetlerde de ortaya çıkıyor; bu, organizasyonların denetim, hesap verebilirlik ve operasyonel güven konularına nasıl ciddi bir şekilde yaklaştığını yansıtıyor.

İşletme AI’sinin geleceği, ajan takımlarında yatıyor. AI’den en fazla değeri elde eden işletmeler, en çok kelimeyi otomatikleştirenler olmayacak. Bunlar, gerçek uzmanlığı, karmaşık ortamlarda dayanıklı olabilecek sistemlere aktarabilenlerdir. Gözümde, bu, etkileyici görünen AI ile gerçekten faydalı, gerçek ROI üreten AI arasındaki fark.