Harita ve Raylar: Kurumsal Yapay Zeka için Güvenli Mimariler Oluşturma

İlk bölüm, kurumların yapay zeka başarısı için kendi döngüsünü oluşturmayı öğrenmeleri gerektiğini belirtmişti. Bu yazı, bu döngünün üzerine kurulduğu şey hakkında. Bir ajan, gerçek bir şirket içinde çalışmak için iki şeye ihtiyaç duyar ve şirketin bugün muhtemelen sahip olmadığı iki şey: işin haritası ve sonuçların rayları.

Harita

Çoğu durmuş AI programının altında rahatsız edici bir gerçek vardır: şirket, ajanın kendisine işinin tanımı veremez, çünkü böyle bir tanım mevcut değildir. Çoğu şirket isimlerini haritalamıştır — müşteriler, faturalar, talepler, sözleşmeler dolu veritabanları. Ancak neredeyse hiçbiri işi haritalamıştır: bu şeylere ne yapılabilir, kim tarafından, hangi koşullar altında ve sonrasında ne olur? Bu bilgi, deneyimli insanların zihninde ve beş yıl önce tasarlandığı şekilde işleyişini tanımlayan bir iş akış şemasında yaşar.

Yeni bir insan işe alımı bu açığı çıraklık yoluyla kapatır — izleyerek, deniyerek, sorarak. Bir ajan böyle öğrenmez. İşin yazılı bir tanımına ihtiyacı vardır: işin ele aldığı şeyler ve her birinin nerede olduğu, üzerlerinde yapılan iş, hangi kararın sonraki yolu seçtiğini, kimin ilerlemeye izin verildiğini, neyin değiştiğini ve nasıl geri alındığını — değişen kayıt, gerekli onay, nasıl geri alındığını — written-down tanım bu haritadır.

Üç kural bir haritayı canlı tutar. İşin sahibi tarafından yazılması ve mühendisler tarafından güvence altına alınması gerekir — yalnızca mühendislerin güncelleyebileceği bir harita eskir, yalnızca operatörlerin düzenleyebileceği bir harita güvensiz hale gelir. Sürümleştirilmesi gerekir, çünkü bir ajan hiçbir zaman sessizce değişen anlamlara karşı hareket etmemelidir. Ve yayımlanmalıdır — ajan, inceleyici ve denetleyici tarafından okunabilir olmalıdır. Bir ajanın API çağrılarını birleştirerek işinizi keşfetmesi gerekiyor ise, sistemleri değil, işi tanımlamış olursunuz. API’ler işin nasıl yürütüldüğünü gösterir. Harita, işin nasıl anlaşıldığını gösterir.

Harita, herhangi bir ürün döngüsünden daha uzun süreli bir neden için önemlidir: ajan, dayanıklı bir varlık değildir. Harita, dayanıklı varlıktır. Modeller geliştirilecek ve değiştirilecek, ajan çerçeveleri gelecek ve gidecek — ve kendi işinizin tanımı, kuralları, istisnaları ve biriken düzeltmeleriyle, her gelecek ajanın ilk gününden miras aldığı şeydir.

Raylar

Harita, neler olabileceğini söyler. Raylar, bunların tam olarak nasıl olacağını sağlar.

Bir ajanın dokunduğu bazı işler yargıdır: karmaşık e-postaları oku, istisnayı değerlendir, yolu öner. Ancak çoğu tekrardır — aynı kontrol, aynı güncelleme, aynı gönderme, binlerce kez. Tekrar, zekaya ihtiyaç duymaz. Tam olması gerekir. Bir model, tasarımı itibariyle olasılıksaldır ve yürütme için muhtemelen doğru, yanlış demektir: bir ödeme gönderme işleminin kabul edilemez bir varyansı yoktur, model ne kadar iyi olursa olsun. İstikrarlı iş, raylara ait olmalıdır — her zaman aynı şekilde çalışan, hiçbir maliyeti olmayan ve temiz bir denetim izi bırakan deterministik otomasyon.

Burada iki eğri birbirinden uzaklaşmaktadır. Raylar oluşturmak kolaylaşıyor, çünkü işi tanımlamak, kodu oluşturmak, testleri yazmak ve kırık yolları onarmak, AI’ın hızlandırdığı türden işlerdir. Sonuçları olan süreçlerin içinde serbestçe dolaşan ajanları dağıtmak aynı oranda kolaylaşmıyor, çünkü bir ajan ne kadar fazla eylem alır, o kadar fazla sınırlara, kanıtlara, onaylara, denetime ve sahiplere ihtiyaç duyar. Sonuç, zor ve kalır. Ajanların keşfetmesine, ekiplerinizin işi öğrenmesine yardımcı olmasına izin verin, sonra her yolunu değişmeyi bıraktığında raylara taşıyın. Ajanlar modadır diye, yüksek hacimli, istikrarlı işi olasılıksal bir döngü içinde bırakmayın.

Sonuçla Yönetin

Harita ve raylar yerinde olduğunda, bir ajanın gerçek işi dokunmadan önce kalan bir soru vardır: ne yapmasına izin verilmelidir? Endüstrinin alışkanlığı, boru işleri terimleriyle cevap vermektir — ajan “araçlar kullanıyor” — politikaları sorgulamak, varyansı hesaplamak, bir mektup yazmak, bir faturayı onaylamak ve ödemesini yapmak gibi işlerin aynı tür işler olduğunu varsayar. Aynı tür işler değildir. Bir politika sorgulayan model, bir talebi reddeden model değildir. Bir miktar hesaplayan model, onu ödeyen model değildir. Bilgi okumak, bir pozisyon almak, bir eylem hazırlamak, bir kaydı değiştirmek ve para hareket ettirmek farklı türden işlerdir ve fark, sonuçtur: yanlış olduğunda şirketin ne kadar maliyeti olur.

Yönetişim, boru işlerine göre değil, bu gradyanı izlemelidir. Sadece oku işine izin denetimi gerekir. Öneri yapan iş, gerçekten karar veren bir insana ihtiyaç duyar. Kaydı değiştiren iş, izin, denetim izi, geri alma yolu ve adanmış bir sahibe ihtiyaç duyar. Para hareket ettiren iş, tüm bunlara ek olarak, yarı tamamlanmış bir değişikliğin şirketin yanlış bir durumda kalmasına neden olamayacağı garantisi gerekir. Sonuçla yönetin ve AI’ın güvenli kullanımları hızla açılır; her şeyi aynı şekilde yönetirseniz, ya felç ya da bir olay olur.

İş Akışı ile Kazanılan Güven

Bu gradyan, güvenin nasıl büyüdüğüdür. Harita ve raylarla, güven model hakkında bir his olmaktan çıkıp işin bir özelliği haline gelir. Bir iş akışı — bir tanımlı iş parçası, ilk bölümden bir kapı ile — adım adım izin kazanır, aynı gradyanı tırmanır: önce sadece taslak oluşturur, sonra önerilerde bulunabilir, sonra insan tarafından onaylanan rutin vakaları çalıştırabilir ve istisnaları yükseltebilir ve sonunda denetim altında çalışır, insanlar sonuçları izler, her vaka için tıklatma yerine.

Her adım, kapıdan gelen kanıtlarla — incelenen kararlar, düzeltmeler, nedenler — kazanılmış ve her geri adım, performans düştüğünde otomatik olarak gerçekleşir. Daha iyi bir model, eylem hakları kazanmaz.

Modeli terfi etmeyin. İş akışını terfi ettirin.

Bir İş Akışıyla Başlayın

Hiçbiri, bir şirket çapında programa gerek duymaz ve böyle başlamamalıdır. Gerçek bir hacme, gerçek hata maliyetine ve düzeltmek isteyen bir sahibe sahip olan bir iş akışını seçin. Bu iş parçasını haritalayın. İstikrarlı adımlarını raylara koyun. Kapısını ayarlayın. Sonra tanımlamayı dokuz basit soruya karşı kontrol edin:

• Hangi iş nesneleri hareket ediyor?
• Her biri şu anda nerede duruyor?
• Hangi iş yapılıyor?
• Hangi karar sonraki yolu seçiyor?
• Onaylandığında ne olur?
• Ajan ne kullanabilir?
• Ne otomatik olarak çalışır?
• Kim önerir, kim onaylar, kim yürütür, kim sorumludur?
• Bir şey yanlış giderse, bir sonraki çalıştırmadan önce ne değişir?

İşin sahibi insanlar bu dokuz soruyu bir iş akışı için cevaplayabiliyorsa, bir ajan güvenli bir şekilde içinde çalışabilir — önerir, doğrulanır ve raylar yürütür. Cevaplayamazlarsa, hiçbir model kalitesi dağıtımını kurtaramaz.

Başarısızlıklar, pattern kadar tanınabilir. Hassas sistemlere erişim izni olan ancak işi tanımlayan haritayı olmayan bir sohbet botu. Politika sorularına cevap veren ancak politika kaynağını gösteremeyen bir alma katmanı. Onaylama yetkisine sahip ancak onaylama sahibini söyleyemeyen bir ajan. Onaylama sonucunu göremeyen ancak öneriyi gören bir inceleyici. Model geliştikçe, iş akışını güven kazandırmadan özerkliğe terfi ettiren bir iş akışı.

Harita, raylar ve kapı: bu, mimaridir. Kalan soru, bunu bir iş akışında nasıl oluşturacağını bilmektir — ve bu, üçüncü bölüm.