Yeni Girişim İçin Bir Anayasa: AI Yönetişimi İçin 15 Kural

Bu denemeler mimari hakkında olmaları gerekiyordu. Onları tekrar okuyun ve gerçekte ne yaptıklarını fark edin: kuralları sürekli yayımladılar. Onaylar veri değildir; doğrulamalar veri olur. Sonuçlara göre yönetin. Modeli tanıtmayın; iş akışını tanıtın. Bir sonraki çalıştırmayı değiştirmeyen bir sonuç sadece bir olaydır, öğrenme değildir. Düz bir şekilde belirtilen kurallar ipucu değildir. Onlar maddelerdir. Ve yazının bir yerinde, sonuç isteğe bağlı olmaktan çıktı: AI ile çalışmayı planlayan bir girişimin bir anayasaya ihtiyacı vardır.

AI laboratuvarları bu sonuca bizden önce ulaştı. Anthropic, modelleri için bir anayasa yazdı — sistemin benimsemesi için eğitildiği ilkelere dair açık bir beyan — model eğitiminin çok ötesine uygulanan bir teori üzerine: hiçbir belgede yer almayan rehberlik hiçbir yere varmaz. Şimdi bu modelleri kullanan işletmelere bir göz atın. Çoğu pilot projeye, güvenlik incelemeleri arasında dağınık bir politikaya ve son satıcı sunumuna katılanların taşıdığı sezgilere sahiptir. Modellerin yazılı ilkeleri var. Onları yöneten kurumların ise yok.

Neden bir anayasa, başka bir politika değil? Bir politika bir teknoloji için yazılır ve bu teknoloji her çeyrekte değişir; bir anayasa bir kurum için yazılır ve neyin geçerli olduğunu belirtir iken altındaki her şey değişir. Politikalar çoğalır ve kimse onları tutamaz; bir anayasa bir yöneticinin toplantıya götürebileceği kadar kısa kalır. Ve bir anayasa, politikanın sadece birikmesi yerine — açıkça, kanıtlara dayanarak — değişikliğe izin verir.

İşte benimkisi: üç bölümde on beş madde. Sadece ifadeler — her birinin ardındaki gerekçeler ve en güçlü itirazlar, bir denemenin izin verdiğinden daha fazla alan gerektirir. Bunları şimdi, daha uzun açıklamadan önce yayımlıyorum, tam da tartışılabilmeleri için.

I. İşin Çalışma Şekli

Madde 1. Sonuçlar değer birimidir. Bir AI programı, işe ne olduğuna göre değerlendirilir: daha hızlı, daha az hata, daha ucuz, daha az insan çabası ve sürdürülebilir kontrol. Bunları sayın. Dağıtılan ajanları saymayın.

Madde 2. AI önerir, insanlar karar verir, otomasyon uygular. Ajanlar bağlamı okur, değişkenliği yönetir, kanıt toplar ve hazırlar. İnsanlar, sonuç doğuran kararları tutar, ve ardından gelen sorumluluk. Otomasyon onaylanan değişikliği gerçekleştirir.

Madde 3. Akıllılığı, ihtiyacı olmayan işe harcamayın. İş yazılıp kontrol edilebiliyorsa, otomasyon olarak yürütülür — döngüde model yok, çalıştırma başına ödeme yok, her seferinde aynı sonuç. Modeller yargı, dil ve değişkenlik için ayrılır.

Madde 4. Orkestrasyon işi bir arada tutar. İnsanlar, ajanlar, otomasyonlar ve sistemleri kapsayan iş, ilerleme, durum ve kurtarmayı yöneten ilan edilmiş bir yapı tarafından koordine edilir. Yol biliniyorsa, ilan edin. Gerçekten yolları aşan sonuçlar için hedef-araştırma özgürlüğünü saklayın — ve tam da orada en sıkı bağlayın.

Madde 5. Yetki, iş tarafından kazanılır, modele asla verilmez. Bir ajan, sağlanan bağlamda herkese yardımcı olabilir. Gerçek yetkiyi yalnızca bağlamı verilen işe — tanımlı, sınırlı, yazılı limitlerle — ve yalnızca kanıt biriktikçe alır. Performans düştüğünde yetki otomatik olarak küçülür.

Madde 6. İstisna fabrikası için tasarlayın. Mutlu yol, süreç şemasının gösterdiği yoldur; istisnalar şirketin gerçekte yaşadığı yerdir. Sadece mutlu yolu yöneten bir tasarım, kolay yüzde seksen’i otomatikleştirir ve maliyetin bulunduğu yüzde yirmide çöker. Yükseltme, geri alma ve kurtarma tasarım aşamasında kararlaştırılır, üretimde keşfedilmez.

II. Kurumun İnşa Ettiği ve Sakladığı

Madde 7. Haritayı ve rayları ilerledikçe inşa edin. Her AI dağıtımı iki şeyi geride bırakmalıdır: işin gerçekte nasıl çalıştığına dair daha iyi bir harita ve istikrarlı olduğu kanıtlanan bölümler için otomasyonlar. İkisini de AI ile aynı anda, ilk projeden itibaren inşa edin — daha sonra ayrı bir program olarak değil.

Madde 8. Yargıyı yakalayın, sohbetleri değil. Bir modelle her etkileşim ya ait olduğu işe — süreç, vaka, karar — bağlanır ya da oturum bittiğinde kaybolur. Yakalama, özerklikten değil, ilk denetimli delegasyonla başlar.

Madde 9. Modelleri kiralayın; belleği sahiplenin. Tek bir modele bağlanmayın — yetenek, maliyet ve verinizin nerede bulunması gerektiğine göre değiştirin, işi yeniden yazmadan. Kurumun sahip olduğu şey bellek: işinin haritası, karar ve düzeltme kayıtları ve zamanla kendi doğrulanmış işi üzerine eğitilmiş modeller, kendi duvarları içinde.

Madde 10. Öğrenme yönetilir, kendi kendine değiştirilmez. Kanıt önerir; adlandırılmış bir sahip onaylar; bu onay olmadan hiçbir şey operasyonel olmaz. Karar kayıtları sadece eklenebilir.

III. İnsanlara Ne Olur

Madde 11. Tek program, iki değil. AI benimsenmesi ve iş gücü dönüşümü aynı programdır. Her dağıtım kararı bir iş gücü kararıdır; her iş gücü kararı AI’nın güvenli bir şekilde yapabileceğini değiştirir.

Madde 12. Her iki defteri de tutun. Verimlilik defteri, neyin daha hızlı ve daha ucuz hale geldiğini kaydeder. Kurumsal defter, neyin kaybolduğunu, korunduğunu veya yeniden inşa edildiğini kaydeder: güven, mentorluk, müşteri hafızası, baskı altındaki yargı, kültür. İkisini de raporlayın.

Madde 13. Kalan işe göre rolleri yeniden tasarlayın. Her rol iki çıktı üretir: AI’nın giderek daha fazla benimsediği görünür iş ürünü ve onu üretmeyen gelişimsel çıktı — zaman içinde inşa edilen güven, mentorluk, müşteri ilişkileri, istisnai durumdaki yargı. İlkini silmeden önce ikincisine göre rolleri yeniden tasarlayın.

Madde 14. Çıraklığı bilinçli olarak yeniden inşa edin. Eski çıraklık — gençlerin rutin işi yaparak mesleği öğrenmesi — rutin iş makineler tarafından alındığında ölür. Yerini bilinçli olarak inşa edin: harita eğitim sahası, kıdemliler yargıyı öğretir, gençler makinelerin doğal hızını öğretir. Gençleri kesmeyin.

Madde 15. Demokratikleşme, anarşi değil. İşi sahiplenen kişiler, kendi işlerini — uygulamalar, otomasyonlar, ajanlar, devredilen görevler, haritaya yapılan düzeltmeler — kurumun tanımladığı koruma sınırları içinde yazar ve platformu uygular.

Değişiklik Maddesi

Kendini nasıl değiştireceğini söyleyemeyen bir anayasa bir inançtır. Madde 3, düşeceğini beklemediğim bir sınıra dayanır — kesin yürütme, herhangi bir model yeteneğinde kabul edilebilir bir sapma göstermez. Madde 8’den 10’a kadar, kurumların nasıl öğrendiği ve kendileri için nasıl cevap verdiği üzerine dayanır; bu, herhangi bir teknolojiden daha yavaş değişir. En çok maruz kalan maddeler insan maddeleridir — zayıf oldukları için değil, ancak çeyrek dönem rakamları boş versiyonu ödüllendirdiğinde onları görmezden gelme baskısının en güçlü olacağı için. Değişiklikler kanıtla kazanılacak ve kamuoyunda yapılacaktır.

O yüzden onunla tartışın. Kuruluşunuzun imzalayamayacağı maddeyi ve nedenini bana söyleyin — bu itiraz, belgenin var olma amacının tam da tartışmasıdır. Her maddeye ilişkin gerekçeler ve en güçlü itirazlar daha uzun bir biçimde gelecek. Ama beklemeyin: kurumunuzun kendi kurallarını tek bir kısa belgede toplayın — her zaman yapacakları ve asla yapmayacakları — bunları imzalayın ve kanıt talep ettiğinde kamuoyunda değiştirin. Bu teknoloji yerleştiğinde — ve yerleşecek — hâlâ ayakta duran kurumlar, her şeyi değişirken, yazılı olarak ne yapmayacaklarını ve neyi asla bırakmayacaklarını söyleyebilenler olacaktır.