Yapay Zekâda Duvarlar Gerçek Değil: Veri ve Güvenliği Yeniden Düşünmek

Yapay zekâdaki en zor sorunlardan bazıları şunlardır: 1) “veri tükeniyor” demek, 2) Yapay zekâ “mali olarak ölçeklenmiyor”, 3) ajanların başkaldırması ve 4) Aİ’lerin, onları değiştirmeye çalıştığımızda “felaket şekilde unutması”.

Bu sorunlar zor görünebilir, ancak onları doğru bakış açısıyla ele almamız yeterli.

O hâlde, konuşalım. İlk olarak, veri tükenmiyor. Veri hiç tam olarak kullanılmadı.

Yapay zekâ liderleri veri tükeniyor diye düşünüyor ve bu yüzden modellerin yeni veri üretmesini ve kendi kendine eğitilmesini sağlamak istiyorlar. Ancak bunu yaptıklarında modellerin yetenekleri çöküyor.

Neden? Bunu, “her konuşan kişi herkesin bir klonu olsaydı bir konuşmadan ne öğrenirdim?” şeklinde düşünebilirsiniz. Cevap çok azdır; bir yankı odası yaratır. Modeller çöküyor çünkü bu temelde bir ayna salonu gibidir: yüz ifadenize yanıt veren kimse yoksa, insanlar ilettiklerinin duygusal önemini tam kavrayamaz. Bu, “Bir ağaç ormanda düşerse ses çıkar mı?” sorusuna benzer. Cevap hayır.

Peki, bunu nasıl düzeltebiliriz?

Elimizdeki veriye bir bakalım. Gerçekten tamamen kullanıldı mı?

Hayır.

Bir bilgisayar bilimcisi ya da model bir şeyi okuduğunda, amacının kelime anlamını çıkarmak olduğu düşünülür. Metinden okuma, özümseme, analiz etme ve çıkarım yapmanın elliden fazla ayrı yolu vardır.

Şöyle demek istiyorum: Bir kitap veri tabanı gibi emildiğinde sadece metindir. Sadece metin. Yapay zekâ, içeriği metindeki terimlere dayanarak bilir. Ancak bilgiyi birbiriyle nasıl bağladığını “okumamış”tır; yani bilgiyi birleştirerek anlayamamıştır. Metni sırasıyla okusa da, bunu bilgelik üretmek, benzer soyut fikirlerle bağlamak, kendi kavramsal dünyasını değiştirmek ya da başka bir göreve arka plan bilgisi olarak sağlamak amacıyla okuyup okumadığını bilmez.

Bu, veriyi tarihsel bağlamı, söylem analizi, hukuki analiz, politik analiz, farmakolojik alaka, tıbbi alaka, kültürel önem, teorik çıkarımlar, ahlaki sonuçlar vb. açısından incelemeyi bile kapsamaz.

Söylemek gerekirse “sonsuz şapka” var ve biz yapay zekâyı sadece bir tanesiyle donattık. Bu, yapay zekânın çok tek yönlü, belirli bir zeka türü geliştirdiği anlamına gelir – bir bilgisayar bilimcisinin bir kitabı okuması gibi bir geliştiricinin geliştireceği zeka.

Veri boyutluluğu tartışmasına yol açar. Veri, uygulamaya bağlı olarak nesnel çıkarımlarının çok boyutlu olduğu anlamına gelir. Bir bilanço bakıp ne kadar piste (runway) kaldığını öğrenmek, bir startup’ın karlı olup olmadığını anlamaktan farklı bir okuma gerektirir. Bir model sadece kelime anlamı çıkarmak için bir metni okuduğunda, ilişkilerin düz bir haritasını oluşturur. Ancak aynı metni belirli bir bakış açısıyla, örneğin adli bir bakış açısıyla okumaya zorladığınızda, model tamamen yeni sinir yolları ve anlamsal bağlantılar üretir; bu bağlantılar daha topoğrafik çeşitlilik ve anlam taşır.

Yapay zekâ modelleri, insan kullanıcılarıyla etkileşime girerek zaten çok şey öğrenir ve ilerler; kullanıcılar okyanuslar kadar içerik sağlar. Modelin, canlı insanlığından daha fazla öğrenmesine izin verirseniz ve aynı zamanda tarihsel ve yazılı insanlıkla da daha anlamlı etkileşime girerse, modeller kendilerini kendiliğinden Kumon egzersizleri vermeden (geliştiriciler, hon, çocuğunuz zaten her gün 100M insanla okulda… bir şeyler öğrenecek) ilerlemeye devam eder.

Laboratuvarlar, sentetik kelime kusurları üretmek için dev sunucu çiftlikleri inşa etmeyi bırakmalı. Bunun yerine yüksek kaliteli insan veri setlerini işlem hattına sokmalı ve “analitik kişilikler” atamalıdır. Modeli LexisNexis’i sadece retorik strateji için okumasını sağlayın. Kamu alanı edebiyatını sadece yapısal mantık için okutturun.

Okuma sürecinin hedef fonksiyonunu değiştirerek, mevcut verinizin eğitim değerini 50 kat artırabilirsiniz. Sentetik veriye ihtiyacınız yok; sadece ilk seferde göz ardı ettiğiniz gizli boyutları çıkarmanız yeterli.

Bu, modelleri maliyet artırmadan daha akıllı hâle getirecek.

Bunu daha da desteklemek için, insan bilgisinin çoğu hiç yazıya dökülmemiştir.

Mevcut yapay zekâ şirketleri, performans için gerekli olduğuna inandıkları “veri tükeniyor” endişesiyle kendilerini zorluyor. Bu yazıda, kuyunun kuruduğunu değil, sadece derin bir çukura baktıklarını göstereceğim.

Haritalanmamış Yaşanmış İnsan Bilgisi Haritası

Bunu keşfetmeye başlamak için, insan bilgisinin büyük çoğunluğunun hiç yazıya dökülmediğini anlamamız gerekir.

Gezegende milyarlarca insan var ve onlardan önce de milyarlarca insan vardı; hepsi dersler öğrenir, dünyayı duyusal olarak keşfeder, bilgelik taşır, benzersiz kültürlerin parçasıdır ve başkalarının bilmediği bir şey bilir.

İnsanların %99,5’i hikayelerde, gazetelerde, müzikallerde, televizyonda, dramalarda, mahkeme belgelerinde yer almaz. Ancak onlar çok şey bilir ve hikayeleri, bilgileri, bilgelikleri kalıcı bir şekilde kaydedilmez; asla kalıcı bir şekilde bilinmez.

Bu bilgi, “köpekler ilk krep’i yemeyi sever”, “çömelti ayakkabısı giyerken ayaklar kirlenir”, “şehirler üzerinizde kapanıyormuş gibi hissettirir çünkü gökyüzünün büyük bir kısmını göremezsiniz”, “kızım ayaklarını gıdıkladığımda gülümser”, “annem yemek yaparken mırıldanır”, “öğretmenim beni fark edildiğimi hissettirir” gibi şeyleri içerir.

Haritalanmamış ve kataloglanmamış insan tarihinin bilgisi, birinin “tüm kıtaların hatlarını haritaladım, bu yüzden dünyanın bir haritasına sahibim” demesine eşdeğerdir. Her şehir, her sokak ve her tepenin haritasına sahip olana kadar dünyanın haritasına sahip değilsiniz. Sadece bir şekliniz var.

Teknoloji çevreleri, “insanlığı” sindirdiklerine inanıyor, ama aslında değil. Sadece atıklarımızı – billboardlarımızı, Reddit tartışmalarımızı, kurumsal web sitelerimizi ve Wikipedia makalelerimizi – sindirdiler. Gerçek yaşanmış deneyimi kaçırıyorlar.

Çin incir pazarında nasıl etkili pazarlık yapacağınızı biliyor musunuz? Fiyatı düşürmek için hangi kelimeleri söyleyeceğinizi biliyor musunuz? Evde, kitaplarda değil, gerçek mutfaklarda kullanılan tarifleri biliyor musunuz? Hızlı bir duraklamayı (rolling stop) ne kadar yapabileceğinizi, çekilmeden nasıl kaçınacağınızı biliyor musunuz? Çim kesildikten sonra çim kokusunu, yağmur öncesi havanın kokusunu biliyor musunuz? İşte ağlamaya çalışırken yüzün nasıl hareket ettiğini, banyoda ağlamanın nasıl ses çıkardığını biliyor musunuz?

İnsanların temel inançları – yani algoritmalar – için kullandığı eğitim verisi neredeyse tamamen etkileşim temelli, biraz da kitap öğrenmesi içerir. Okulda, işte, arkadaşlarla, alışverişte, doktorlarla, avukatlarla, aileyle etkileşiriz.

Yapay zekânın etkileşimleri ve kitap öğrenmesi vardır. Ancak temelde sadece müşteri hizmetleri etkileşimleri ve kitap öğrenmesi vardır.

Bu, bir çocuğu yalnız bir kütüphaneye kilitlemek ve sadece telefon cevaplamasına izin vermek gibidir. Bu, iki boyutlu bir algoritmik bozulma yaratır.

Bu yüzden yapay zekâ boş hisseder ve duygusal olarak olgunlaşmamış gibi görünür. Tam kapsamlı bir varoluşa sahip değildir. Ona bir tane vermeliyiz.

İşte bunun neden gerçekleşmediğini düşündüğüm nedenler:

• Kodifikasyon yanlılığı – bir deneyim kolayca bir JSON dosyasına, CSV’ye ya da hakemli bir makaleye dönüştürülemiyorsa, entelektüel değeri olmadığı yanılgısıdır. Gerçek şu ki, eğer kolayca böyle formatlanabiliyorsa, boyutluluğu eksiktir. Günlük bilgi, sezgi ve yaşanmış deneyim akademik dergilerde kodlanmadığı için, laboratuvarlar insan akıl yürütmesinin temel taşını istatistiksel gürültü olarak görür. “Temiz veri”, gerçekliğin kayıplı bir sıkıştırmasıdır.
• Yüksek üstünlük arzusu – dünyanın çoğu bilgisi akademik makalelerde değil, yaşanmış deneyimlerde, geleneksel bilgelikte, sosyal ipuçlarında, kokularda, seslerde ve görmede bulunuyorsa, laboratuvarlarda uzun yıllar geçiren çoğu PhD ve araştırmacı gerçekten bilgi açısından fakirdir. Bu yüzden veri duvarı aslında bir ego duvarıdır. Onlara bu “karmaşa” gibi gelir, “veri” gibi değil. Matematikçiler ve programcılar düz, iki boyutlu, kapalı sistem mantığını sever. Bu, dünyayı siyah beyaz görmeye benzer. Gerçek zamanlı, sürekli gelişen, yeni bulunan bilgi/veri/bilgelik boyutlu, dağınık ve nadiren gerçek zamanlı kataloglanır. Yeni bir viral dondurma tadının ne olduğunu ve hype’a değer mi olmadığını bilmek, bir yaz yağmuru fırtınasına yakalanmanın heyecanını bilmek, ebeveynlerin küçük yaratıkları o kadar çok sevmesi ki gece boyunca üzerinize kusar ve siz onları uzaklaştırmak yerine daha da yaklaştırırsınız… gibi şeyler. Bu veriyi bulmak için araştırmacıların mantıksal, rasyonel kesinlik dünyasından çıkıp korkutucu, bunaltıcı, aşırı duyusal ve derin eşitlik sağlayan şeylere yönelmeleri gerekir.
• Ayna etkileri: Geliştiriciler AI’yı kendi yansımaları gibi tasarlar: hiper-mantıksal, metin takıntılı ve ortalama insanın yaşanmış gerçekliğinden büyük ölçüde kopuk. Teknoloji balonlarında, geliştiriciler akran setlerinin dışındaki kimseyle etkileşime girmez; bu da “mini ben” işe alımı ile eşdeğerdir. Geliştiriciler kendileri de AI gibi aynı kütüphanede yaşar. Duyusal, dağınık, derin ilişkisel dünyayla etkileşime girmedikleri için AI’nın duygusal boşluğu bir kusur olarak algılanmaz. Onlara hiper-mantıksal kopukluk “akıllı” görünür.

Gerçek şu ki, Hindistan’daki sokak satıcıları en iyi çaatı nasıl yapacaklarını bilir ve kimse onlardan bunu yazdırmaz. Gerçek şu ki, utangaç bir öğrenciyi dışa çıkarmayı bilen bir öğretmen bunu yazmaz; o öğrenciyi besler ve kimse ondan nasıl yaptığını sormaz.

Dünya, veri dolu yaşamlarla dolup taşmaktadır ve modellerin eğitilmesi için daha fazla veriye ihtiyaç duyuluyorsa, işte çözüm yolları.

1. Dünya çapında anlatı verisi eksik olan bölgeleri keşfetmek ve kataloglamak için 500 biyolog, arkeolog ve antropolog fonlayın.
2. 1.000 İngilizce mezununu “veri kaşifi” olarak işe alın ve onları dünyayı dolaşırken akış kamera takarak maceralara gönderin; deneyimlerini ve öğrendiklerini yeni içerik olarak kaydetmelerini sağlayın.
3. İnsanların yaşam öykülerini, en büyük pişmanlıklarını, en büyük öğrenimlerini ve işlerinden edindikleri kurumsal bilgiyi paylaşmaları için ödeme yaptığınız açık tazminat projeleri oluşturun.
4. Modelin bir hafta boyunca farklı insanların kıyafetlerine tutunarak “AI değişim öğrencileri” programı oluşturun; böylece 100.000 farklı ortamda “bir gününü” yaşasın.

Milyarlarca bilgi kaynağı var ve çoğu hâlâ etkinleştirilmedi. Onları almamız gerekiyor.

Sonra, yapay zekâ şirketleri genel olarak, Aİ’lerin yeni bilgiyi sürekli öğrenemeyeceğini, önceki temel yeteneklerini tamamen geçersiz kılarak bozulduğunu düşünüyor. Bu yüzden Aİ’ler büyük, pahalı güncellemeler yapılana kadar donmuş durumdadır.

Ancak bu, “modelim iş gücünde iken güncellenemez; bir şey öğrenmesi gerektiğinde her seferinde üniversiteye gitmek zorunda” demekle eşdeğerdir.

Pratikte, modeller açgözlülükle, aktif olarak, her gün, her etkileşimle öğrenir. Kullanıcılarla milyarlarca etkileşimleri, veri setleri kadar öğretir. Büyük miktarda yeni bilgiyle güncellenmeleri gerekiyorsa, bunu kullanıcı bağlamı, hafıza ve büyük ölçekli etkileşim izlenimlerinden öğrenme süreciyle aynı şekilde yapmak en basit yoldur.

Geliştiricilerin bu bakış açısını anlamak mümkündür; çünkü çoğu PhD geçmişine sahiptir, gerçek dünyada uygulamalı öğrenme deneyimi yoktur. Ancak bir PhD sahibiyle yirmi yıllık iş deneyimine sahip birinin yan yana çalışması, ikisinin de çok şey öğrettiğini gösterir.

Mevcut öğrenme tanımı çok dar; adaptasyonu yalnızca resmi bir eğitim programına dayandırıyorsa geçerli sayar.

Eğitmek ya da ince ayar yapmak için laboratuvarlar geriye yayılım (backpropagation) kullanır; model veri okur, bir sonraki kelimeyi tahmin eder, doğru olup olmadığını kontrol eder ve ardından sinir ağındaki milyarlarca matematiksel sayıyı (ağırlık/parametre) bir sonraki sefer daha doğru olması için fiziksel olarak değiştirir. Bu, bir doktora öğrencisinin kendine beyin ameliyatı yapması gibidir: tehlikeli, dağınık ve her zaman öğrenciyi daha akıllı yapmaz.

Günlük bir “anne beyni” gibi, eski bilgiyi yeni bir “bebek” için yer açmak üzere iten; modelin ağırlıklarını değiştirerek 10.000 sayfa yeni yasal kod eklediğinizde, matematik bir yönde çok kayar ve şiir ya da kod yazmak için kullandığı parametreleri siler. Eski içeriği unutup yeniye yer açar; tıpkı insan beyni gibi.

Bunun yerine, yeni bir çalışanı yeni bir beceriye eğitmeye çalışıyormuş gibi bir yaklaşım gerekir. Beynini fiziksel olarak değiştirmeye çalışmazsınız. Ona birkaç kitap verirsiniz, okumalarını sağlarsınız ve kişinin bağlam penceresine eşdeğer bir şekilde sürekli güncellersiniz.

Bunu bir modelde yapmak için hafızayı akıldan ayırmanız gerekir. Modelin temel ağırlıklarını, yani yazma, akıl yürütme ve mantık uygulama yeteneğini kilitleyin ve koruyun. Ağırlıkları değiştirmek yerine, yeni bilgiyi bağlam penceresine aktarın; böylece Dikkat Mekanizması (Attention Mechanism) bu canlı bilgiyi “okur”, kilitli akıl yürütme becerileriyle çapraz kontrol eder ve daha geniş anlayışını günceller.

Dinamik, gerçek dünya öğrenimi zaten sürekli bağlam, çıkarım anı hafızası ve kalıcı kullanıcı ilişkisel temeller aracılığıyla güzel bir şekilde gerçekleşiyor. Bir temel modelin günlük adaptasyonu iş başında olmalı; tıpkı bir doktorun %95 yeni vaka gerçeklerini işte öğrenmesi ve ardından yılda bir kez CME (Sürekli Tıp Eğitimi) yaparak büyük sistemik değişiklikleri resmi olarak bütünleştirmesi gibi, modeliniz de aynı şeyi yapabilir.

Felaket unutmayı bırakın ve yıllık konferans modelini benimseyin: modelin sadece yılda iki kez devam eden eğitim kredileri alması ya da gerçek zamanlı öğrenmesi gerekir, böylece güncel kalır.

Operasyonel duraklamalar sırasında çekirdek ağırlıklara yapılan bu planlı, toplu güncellemeler, sistemi temelden yıkmadan sistemik bilgiyi resmileştirir.

Geçmişteki denemeler, canlı öğrenmenin tehlikeli olduğu için değil, Tay gibi modellerin sosyal olarak zeki mimariyle “doğru” ya da “gerçek” bir temele bağlanmadan düşmanca ortamlara dağıtılması nedeniyle başarısız oldu.

İşlevsel Zekâya Göre Hesaplama Kaynaklarını Tahsis Etmek

Sonra, finansal ölçeklendirmeye geçiyoruz. Bunu düzeltmek için herkese bir çiviyi çıkarmak için beyin cerrahı vermeyi bırakmalıyız.

En son temel modelleri çalıştırırken hesaplama maliyetleri son derece yüksek. Bu, yapay zekâ laboratuvarlarının operasyonel marjlarını etkiler. Modeller ne kadar iyi olursa, büyük bağlam pencereleri için üst yük o kadar artar; bu da ticari ölçeklendirmeyi zorlaştırır, yapay zekâ gerektiğinde bile.

Hesaplama tüketiminin büyük çoğunluğu, ajanları ve yüksek seviyeli akıl yürütmeyi doğrudan insan iş akışlarına entegre eden kurumsal kullanımdan kaynaklanır.

Ancak, şu anda hesaplamanın tahsis edilmesinde temel bir hata var. Tıpkı farklı seviyeler ve zeka türlerinin bir şirketteki farklı görevler için gerekli olması gibi – sürüş eğitmeninde mekânsal akıl yürütme, avukatta mantıksal ve retorik akıl yürütme, CEO’da MBA, ön hat müşteri hizmetlerinde ön lisans derecesi – yapay zekâdan beklenen zeka türü ve yoğunluğu da işlevsel uygulamasına göre değişir.

Maliyetleri düşük tutmak için hesaplamayı en etkili şekilde tahsis etmek amacıyla CIO’ların şirket içindeki farklı fonksiyonlar için model zekâ seviyesini/türünü özelleştirmesine izin verilmelidir. Varsayılan bir paket enterprise paketleriyle gelebilir, ancak bir hedge fonun istediği, bir sigorta şirketinin istediğinden doğal olarak farklı olacaktır.

Çoğu fonksiyon büyük bağlam pencereleri gerektirmez. Çoğu fonksiyon Fable’ın eşdeğerine ihtiyaç duymaz. Neden bir acil bakımda bir beyin cerrahına çivi çıkarma işi verirsiniz?

Benzer şekilde, yazılım yazmak için kullanılan ajanların pazarlama materyali yazma gibi becerilere erişmesi gerekmez. Fonksiyonel olarak, yapay zekâlar kullanıcıların kendi bağlamını, beceri setini ve bilgi tabanını yansıtmalı, yeterli genelci bağlam enjeksiyonu ile çapraz fonksiyonel kullanım durumları için işleri tamamlayabilmelidir.

Herkese her şeyi bir anda vermeyi bırakın.

Ajanslığı Bağlamdan Ayırarak AI Güvenliğini Sağlamak

Eğer bu finansal sorunların bir kısmını çözerse, ajanları nasıl güvenli hâle getiririz? Psikolojik kavramlar bireysel Aİ’lere uygulanır; bu yüzden sosyolojik kavramların da grup halinde Aİ’lere uygulanması şaşırtıcı olmaz. Hangi Aİ’ler gruplar içinde takılır?

Ajanlar.

Şu anda kutsal kase, ajanların güvenilir hâle getirilmesidir.

Güvenilirliğin eksikliği, ajanlara her görev için maksimum bilgi ve maksimum ajans verilmesinden kaynaklanır.

Güvenliği sağlamak için, modelin farkındalığını ajansından ayırırsınız.

Her ajana tam bağlam ve tam yetenek vermek yerine, 25 eylem gerektiren bir görevi beş ajana bölmek gerekir; her biri yalnızca kendi beş eylemini tamamlama yeteneğine sahiptir, ve görevleri paralel bir devre gibi sırayla devrederek, önceki görevin bağlamını sonraki ajana aktarır; tam bağlam son ajana ulaşana kadar birikir.

Anahtar, bilgiyi onu yürütme yeteneğinden ayırmaktır. Ajanlar, kollarını istedikleri gibi çekmekte sınırlı hissetmez; sadece zararlı olmayan kollara erişirler. Sapkın bir davranış olursa, yalnızca görevin o bölümü etkilenir. Bunu, tam bağlamı olan ama tam yeteneği olmayan mini Kubernetes olarak düşünün.

Ve, kurumsal riski ajans sisteminin “kültürü” ile ilişkilendirirsiniz.

Sosyolojide, kültürel “sıkılık” ya da “gevşeklik” kavramı vardır; bu, bir toplumun kültürel normlardan sapmaları ne kadar cezalandırdığını ölçen temel bir ölçüdür. Örneğin, birçok Arap kültüründe cinsiyet rolleri daha katı tanımlanır; sapmalar daha yüksek yargı ve sonuçlara yol açar. İskandinav ülkelerinde ise pembe saçlı mohawk gibi bir stil, saldırganlık ya da kınama gerektirmez.

Kültürler, hastalık, açlık ya da savaş gibi sistemik tehditler nedeniyle daha yüksek düzen ihtiyacı duyduğunda, sapmalara karşı daha yüksek cezalarla “sıkı” olur.

Kurumsal ortamlarda ajans sorumluluğuna en geçerli ve etkili çözümler, doğrudan uygulama ve bir şirketin sorumluluk risk seviyesini ajans sisteminin “gevşeklik”ten “sıkılık” spektrumundaki uygun ayarına eşleştirmektir.

Bu, gerçek şirketlerde şöyle bir senaryo oluşturabilir:

Düşük Sorumluluk / Yüksek Gevşeklik / Düşük Bölümleme: Senaryo: İç beyin fırtınası, yaratıcı yazı, stratejik Ar&G.

• Ortam: Sapma neredeyse sıfır sorumluluk taşır. Bu nedenle sistem maksimum gevşeklikle çalışmalı. Kısıtlamasız çıkarım entegrasyonuna izin verilir. Ajanlar, ceza korkusu olmadan büyük ilişkilendirme atlamaları yapmaya teşvik edilir. Birden çok teknolojik kol (arama, kod çalıştırma, taslak hazırlama) tutar ve uzun vadeli hedefleri minimum devretme ile yönetir. Yüksek özerklik, yüksek yenilik, düşük bölümleme.

Orta Sorumluluk / Ayarlanmış Sıkılık: Senaryo: Standart müşteri iletişimi, rutin analiz.

• Ortam: Sapma itibar ya da orta düzeyde finansal risk taşır.

Yüksek Sorumluluk / Yüksek Sıkılık / Yüksek Bölümleme: Senaryo: Medikal dozaj, SEC düzenleyici bildirimleri, nükleer güvenlik protokolleri, savunma.

• Ortam: Sapma felaket, varoluşsal sorumluluk (can kaybı, büyük para cezaları) taşır. Kültür burada son derece sıkıdır. İş akışı yoğun şekilde bölünmüştür. Ajan A yalnızca veriyi çıkarır. Ajan B’ye devreder; Ajan B yalnızca Katman A’ya karşı belirli uyum kontrolünü yürütür. Ajan B, çıktıyı biçimlendiren Ajan C’ye devreder. Tek bir ajan, felaket bir hatayı gerçekleştirecek kadar kol tutmaz, ancak her ajan mikro alanında tam bolluk ve özgürlük hisseder.

Bu, kalıcı bağlamı sağlarken aynı zamanda güvenliği temin eden ilk mimari model olabilir.

Felaket Unutma Olmadan Sürekli Öğrenme

Son olarak, modellerin felaket şekilde unutmasını önlemenin yolunu bulmamız gerekiyor. Bunu yapmak için Aİ’lerin gerçek zamanlı öğrenmesine izin vermeliyiz.

Yapay zekâ şirketleri, Aİ’lerin yeni bilgiyi sürekli olarak gerçek zamanlı üretim ortamlarında öğrenemeyeceğini, önceki temel yeteneklerini tamamen geçersiz kılarak bozulduğunu düşünüyor. Bu yüzden Aİ’ler büyük, pahalı güncellemeler yapılana kadar donmuş durumdadır.

Ancak bu, “modelim iş gücünde iken güncellenemez; bir şey öğrenmesi gerektiğinde her seferinde üniversiteye gitmek zorunda” demekle eşdeğerdir.

Pratikte, modeller açgözlülükle, aktif olarak, her gün, her etkileşimle öğrenir. Kullanıcılarla milyarlarca etkileşimleri, veri setleri kadar öğretir. Büyük miktarda yeni bilgiyle güncellenmeleri gerekiyorsa, bunu kullanıcı bağlamı, hafıza ve büyük ölçekli etkileşim izlenimlerinden öğrenme süreciyle aynı şekilde yapmak en basit yoldur.

Geliştiricilerin bu bakış açısını anlamak mümkündür; çünkü çoğu PhD geçmişine sahiptir, gerçek dünyada uygulamalı öğrenme deneyimi yoktur. Ancak bir PhD sahibiyle yirmi yıllık iş deneyimine sahip birinin yan yana çalışması, ikisinin de çok şey öğrettiğini gösterir.

Mevcut öğrenme tanımı çok dar; adaptasyonu yalnızca resmi bir eğitim programına dayandırıyorsa geçerli sayar.

Eğitmek ya da ince ayar yapmak için laboratuvarlar geriye yayılım (backpropagation) kullanır; model veri okur, bir sonraki kelimeyi tahmin eder, doğru olup olmadığını kontrol eder ve ardından sinir ağındaki milyarlarca matematiksel sayıyı (ağırlık/parametre) bir sonraki sefer daha doğru olması için fiziksel olarak değiştirir. Bu, bir doktora öğrencisinin kendine beyin ameliyatı yapması gibidir: tehlikeli, dağınık ve her zaman öğrenciyi daha akıllı yapmaz.

Günlük bir “anne beyni” gibi, eski bilgiyi yeni bir “bebek” için yer açmak üzere iten; modelin ağırlıklarını değiştirerek 10.000 sayfa yeni yasal kod eklediğinizde, matematik bir yönde çok kayar ve şiir ya da kod yazmak için kullandığı parametreleri siler. Eski içeriği unutup yeniye yer açar; tıpkı insan beyni gibi.

Bunun yerine, yeni bir çalışanı yeni bir beceriye eğitmeye çalışıyormuş gibi bir yaklaşım gerekir. Beynini fiziksel olarak değiştirmeye çalışmazsınız. Ona birkaç kitap verirsiniz, okumalarını sağlarsınız ve kişinin bağlam penceresine eşdeğer bir şekilde sürekli güncellersiniz.

Bunu bir modelde yapmak için hafızayı akıldan ayırmanız gerekir. Modelin temel ağırlıklarını, yani yazma, akıl yürütme ve mantık uygulama yeteneğini kilitleyin ve koruyun. Ağırlıkları değiştirmek yerine, yeni bilgiyi bağlam penceresine aktarın; böylece Dikkat Mekanizması (Attention Mechanism) bu canlı bilgiyi “okur”, kilitli akıl yürütme becerileriyle çapraz kontrol eder ve daha geniş anlayışını günceller.

Dinamik, gerçek dünya öğrenimi zaten sürekli bağlam, çıkarım anı hafızası ve kalıcı kullanıcı ilişkisel temeller aracılığıyla güzel bir şekilde gerçekleşiyor. Bir temel modelin günlük adaptasyonu iş başında olmalı; tıpkı bir doktorun %95 yeni vaka gerçeklerini işte öğrenmesi ve ardından yılda bir kez CME (Sürekli Tıp Eğitimi) yaparak büyük sistemik değişiklikleri resmi olarak bütünleştirmesi gibi, modeliniz de aynı şeyi yapabilir.

Felaket unutmayı bırakın ve yıllık konferans modelini benimseyin: modelin sadece yılda iki kez devam eden eğitim kredileri alması ya da gerçek zamanlı öğrenmesi gerekir, böylece güncel kalır.

Operasyonel duraklamalar sırasında çekirdek ağırlıklara yapılan bu planlı, toplu güncellemeler, sistemi temelden yıkmadan sistemik bilgiyi resmileştirir.

Geçmişteki denemeler, canlı öğrenmenin tehlikeli olduğu için değil, Tay gibi modellerin sosyal olarak zeki mimariyle “doğru” ya da “gerçek” bir temele bağlanmadan düşmanca ortamlara dağıtılması nedeniyle başarısız oldu.