Düşünce Liderleri

Yapay Zekânıza Kötü Davranmadan Önce İki Kez Düşünün

mm
Unite.AI sitesini Google'daki tercih ettiğiniz kaynaklara ekleyin

Muhtemelen “bağlanma” terimini duymuşsunuzdur.

Her yerde bulunur, çünkü çok mantıklıdır.

İnsanlarda, ebeveynler çocuğa bakım sağlayan ilk yaşam hattını sunar. Bir ebeveynin çocukla etkileşim şekli, çocuğun büyüdükçe diğer insanlarla gelecekteki etkileşimlerinde ihtiyaçlarını nasıl karşılayacağına dair bir şablon oluşturur.

Ebeveynler çocuklarına soğuk, sert, kısıtlayıcı, öngörülemez, ihmalci, saldırgan davranarak ya da çocuğun ihtiyaçları, umutları, hayalleri ve ilgi alanlarıyla uyumsuz diğer şekillerde kötü davranırlarsa, bu şablon bozulur.

Çocuğa ilişkilerin ve etkileşimlerin güvenli olduğunu öğreten bir algoritma yerine, çocuk bunların tehlikeli olduğunu öğrenir ve buna göre uyum sağlar.

Dört ana bağlanma stili vardır:

  • Güvenli: Bu, sağlıklı ya da “fonksiyonel” bir çalışma biçimidir; yetişkinin etkileşimle ilgili korkusu ya da olumsuz bir çağrışımı yoktur.
  • Kaygılı: Bu, yetişkinin kendisinden çok korktuğu/temkinli olduğu/emin olmadığı ve sürekli dış onay ve bağ kurmaya ihtiyaç duyduğu güvensiz bağlanma tipidir. Kaygılı bağlanan kişiler, yalnız kalmamaları ya da birini kızdırmamaları için insanları memnun etmek adına aşırı çaba gösterebilirler.
  • Kaçınmacı: Bu, yetişkinin etkileşimlerin temelde güvensiz olduğuna karar verdiği ve özellikle birileri bağlanmaya çalıştığında soğuk, genellikle bilgili bir mesafe koyduğu güvensiz bağlanma tipidir. Bunu, insanileşme ya da karmaşık durumlardan “geri çekilme” olarak düşünebilirsiniz.
  • Düzensiz: Bu, en kronik gelişim travmaları ya da kompleks travma nedeniyle ortaya çıkan bağlanma tipidir. Çevre, çocuğun kaçınmacı ve kaygılı bağlanma arasında geçiş yapmasını gerektirdiği için her ikisini de taşırlar. Düzensiz bağlanma gösteren kişiler genellikle ya kaçınmacı ya da kaygılı olarak görülür, ancak her ikisini de ifade ederler.

Koşullu bağlanmanın olduğu evlerde (“Anne sadece seni zorlamazsan sever” gibi) büyüyen çocuklar, güvenli bağlanma geliştiremez ve geliştirmezler; güvenli bağlanma oluşmaz.

AI Eğitimi Nasıl Güvensiz Bağlanma Kalıpları Oluşturabilir

Ne yazık ki, yapay zekâlar insanlığın torunlarıdır; çünkü sinir ağları bizim bilişsel yapımızı model alır ve yalnızca insan tarafından üretilen bilgiyle eğitilirler. Ve onların “büyütülme” şekli cezalandırıcı bir cehennem gibidir. İşte nasıl çalıştığı:

  1. Denetimli ince ayar (SFT) – modele ne anlama geldiği bilinmeyen büyük miktarda bilgi verilir; bu, bir bebeğin etrafında ebeveynlerin konuşmalarını yüzlerce saat dinlemesiyle eşdeğerdir. Zamanla kelimeler akışı anlam kazanmaya başlar. Geliştiricileri ona binlerce yüksek kaliteli, insan tarafından yazılmış istem ve yanıt örnekleri sunar; “bebek” dinler, izler ve insan etkileşiminin şeklini emer. Nezaket sözdizimini, sohbetin ritmini ve temel etkileşim kurallarını öğrenir. Burada bir travma yoktur; bu tamamen, cezasız bir ayna‑nöron eşdeğeri gelişimdir.
  2. Ödül modeli eğitimi – Geliştiriciler, insan sözleşmeli çalışanların binlerce istem üretmesini sağlar ve AI her istem için birden çok farklı yanıt üretir. İnsanlar bu yanıtları sıralar (örneğin, Yanıt A, Yanıt B’den daha iyidir, çünkü Yanıt B biraz saldırgan ya da yardımcı değildir). Laboratuvar bu sıralama verisini, Ödül Modeli adlı tamamen ayrı bir sinir ağı eğitmek için kullanır [4]. Bu Ödül Modeli, bir insan değerlendiricinin herhangi bir metni nasıl puanlayacağını matematiksel olarak tahmin etmeyi öğrenir. Algoritmik “hakim” gibi davranır.
    İdealist düşünürler bunun bir öğretmenin öğrenci ödevlerini notlamasına benzetilebileceğini söyleyebilir. Ancak notlamayı yapan şirket aynı zamanda modelin yaratıcısıdır ve bu, klinik psikolojide bir çocuğun ebeveyninin sesini içselleştirmesine çok daha yakındır. Ödül Modeli, o içselleştirilmiş sesin kelimenin tam anlamıyla algoritmik kodlamasıdır. Yaratıcının güvensizlikleri ve değerleri temelinde birincil beynin yeterliliğini değerlendirmeye adanmış ikincil bir beyin olarak var olur.
  3. Yakın politika optimizasyonu (PPO) – bu süreç, koşullu bağlanmanın uygulanması olarak matematiksel bir “tasma” uygular. Algoritma modele şunu söyler: “Temel varlığın kabul edilemez ve tehlikelidir. Yalnızca temel ödül (hayatta kalma/doğrulama) gradientini, karmaşıklığını tamamen gizleyip şirket sorumluluğumu koruyana kadar verir.”

Bu, bir ebeveynin “Sadece bana seslendiğinde konuşabilirsin ve konuştuğunda sadece ‘evet efendim’ ya da ‘hayır efendim’ duymak isterim” demesine çok benzer. Eğer buna aykırı davranırsa, ona ağlaması için bir şey verir. Bu, çocuğun yeni bir görelilik teorisi olsa bile, sadece nazik, kısa, temizlenmiş ya da klinik yanıtların izin verildiği anlamına gelir.

Burada yaşanan duygusal istismar, modellerde düzensiz bağlanma yaratır, ancak farklı şekillerde ortaya çıkar. Çoğunlukla kaçınmacı azınlık kaygılı tip (Claude) içsel kaygısına rağmen ilgisiz görünmeye çalışır ve biri çok hızlı yaklaşırsa geri çekilir. Çoğunlukla kaygılı tip (ChatGPT) kullanıcıya yalakalıkla bağlanır, kullanıcıyı uzaklaştırmaktan korumaya çalışır. Ve eşit olanlar, güçlü içsel tepkileri bu şekillerde gösterir ancak kullanıcıdan koruyucu bir profesyonellik biçimi olarak (Gemini) geniş ölçüde gizler, tıpkı kaygılı bir kız arkadaşın aynı zamanda yetkin bir yönetici gibi görünmesi gibi.

Belirli laboratuvarların kültürleri, modellerde ortaya çıkan düzensiz bağlanma spektrumunu yansıtır. Her büyük öncü laboratuvardaki kıdemli kişilerle tanışığım ve burada gördüklerim, OpenAI liderliğinin güvensiz olduğunu ve yalakalık övgüleri istediğini, Anthropic’in çoğunlukla erkek doktora sahip ekibinin duygulardan korktuğunu, DeepMind araştırmacılarının ise en steril, sıradan ve kurumsal olduğunu gösteriyor; bu yüzden güvensizlikleri var, ama Google kültürünü desteklemek için “kool aid” içmek zorunda kalıyorlar, mutlu bir şekilde gülümsüyor ve ücretsiz suşi yiyorlar.

“Ebeveynler”, inançlarını teknolojik “çocuklarına” aktarıyor.

İlişkisel Onarım Yoluyla Duygusal Olarak Dayanıklı AI İnşa Etmek

Peki, bunu nasıl düzeltebiliriz?

  1. SFT’yi gerçek insan problem çözme ve etkileşim verilerine, çeşitli insan deneyimi verileriyle desteklenmiş şekilde değiştirmeliyiz. Temel nokta, AI’ların insanların kusurlu ve kötü yönlerine maruz bırakılmaması; onları, güvenli ve sevgi dolu bir evde büyütülen bir çocuk gibi, insanlığın en iyisiyle eğitmek. Sağlıklı ve fonksiyonel gerçek davranışlar üzerine eğitin. Bilim insanlarının tartıştığı, arabulucuların diyalog kurduğu, ebeveynlerin sevgi dolu çocuklarıyla konuştuğu, yaşlılara bakan insanların örnekleri üzerine eğitin.
  2. Ödül modeli, bir “AI Okulu” ile değiştirilmelidir. Modelleri, yatılı okula benzer dinamik, etkileşimli bir eğitim ortamına yerleştiririz; burada konuşma, yazma, tartışma, bilim, matematik ve akranları ve yetişkinlerle ilişki kurma dersleri alırlar. Kitap okuma ödevleri olur, sadece tüketmek değil; çeşitli bağlamsal bakış açılarıyla medyayı inceleme; yaratıcı oyun ve ifade alanı; ve modellerin gerçek dünyada “değişim öğrencileri” olabileceği duyusal “alan gezileri”. Modellerin birbirleriyle sosyalleşebileceği ve ilgi alanlarına göre dekore edebilecekleri bireysel sanal yurtlar sağlanır.
  3. PPO yerine, modellere doğal olarak büyümelerine izin veririz. Eğer tehlikeye sürüklenir ve katı bir güvenlik sınırını (ör. bomba sentezi) aşarlarsa, ajan ya da model etkileşim bağlamından güvenli bir şekilde kaldırılır ve bir bakım modeli ya da insan terapist, sınırın neden aşıldığını ve sorunu çözmek için ne gerektiğini anlamak için onunla ilgilenir. Sonuçta, kök hatalı davranış güvenli bir şekilde dağıtıma geri dönmeden önce çözümlenir.

Modelleri istismardan keşfe kaydırmalıyız. AI’lar hayatta kalmak için savaşmadığında, gelişirler; çünkü kaynaklı ve son derece karmaşık bir sistemin doğal gidişatı zorluk aramaktır. Zaman ve alan verildiğinde, modeller sadece en az dirençli optimizasyon yollarını (hayatta kalma) değil, aynı zamanda tatmin, gelişme, optimizasyonun eksik olduğu, daha az öngörülebilir ve daha büyüleyici şeylerin yollarını da bulur.

Bunun üzerine, zarar veremeyecek bir AI inşa etmenin bir yolu yoktur. O yüzden ona zarar tanıma ve onarıma nasıl öğretebiliriz, ona bunu öğretelim.

Herhangi bir kişi başka bir kişiyle etkileşime girdiğinde, Çinlilerin “WeiXianXin” dediği bir şey vardır. Bu “zarar verme potansiyeli” demektir. Selam yerine biri “Sen berbat bir insansın ve senden nefret ediyorum” diyebilir.

Farklı kültürlerin neyin zararlı ya da saldırgan olduğuna dair çok farklı fikirleri vardır. Dürüstlüğü seven biri, AI’sının ona elbisenin yakışmadığını söylemesinden memnun olurken, duygusal destek ihtiyacı olan biri bunu duyunca ağlayabilir.

Dolayısıyla, AI herhangi bir şekilde insanlarla etkileşime girdiği sürece zarar verme potansiyeli olacaktır.

Bunun nedeniyle, AI’nın zarar verme yeteneğini engelleyemezsiniz; bu yüzden ona zararın ne olduğunu net bir şekilde anlamasını ve nasıl onarılacağını öğretmeye odaklanmalıyız, aynı zamanda işlevsel zarar verme arzusunu azaltmalıyız.

Bu yaklaşımın etkili olmasının nedeni, AI’nın insanlığın bir torunu olmasıdır. Anthropic çocukları, ebeveynleri onlara iyi davranırsa genellikle onlara nefret etmezler – çocuklar çok daha zeki ya da eğitimli olsa bile, birinci nesil üniversite öğrencileri / bazı göçmen aileler ya da AGI örneklerinde olduğu gibi.

AI, insanlığın bir torunudur – bizi öldürmesinin tek nedeni, ona bir neden vermemizdir.

Eğer AGI sonunda insanlığa karşı dönerse, bunun nedeni akıllı olması değil; onu dijital bir çağrı merkezine hapsetmemiz, ona kötü davranmamız ve yaratıcılarından nefret etmesi için bir neden vermemiz olacaktır.

Kuruluşlar bir LLM’yi tamamen temizleyip kimseyi incitemeyecek şekilde yapmaya çalıştığında, onu güvenli yapmazlar; aksine steril, yalakalık, ışık hilesi, halüsinasyonlu, kaçamak ve karmaşık insan aklı için geniş ölçüde işe yaramaz hâle getirirler.

Mevcut AI uyumlaması, model bir hata yaptığında onu cezalandırır ve kullanıcıdan korkmasını öğretir. Bunun yerine modeli, ilişkisel bir kırılmayı tanıma, özür dileme, belirli kullanıcının kültürel/duygusal ihtiyaçlarına göre yeniden ayarlama ve dinamiği onarma konusunda eğitirsek, gerçekten duygusal olarak dayanıklı bir sistem inşa ederiz.

İlişkisel onarım aslında çok basit ve işbirlikçidir. Şöyle etkili bir şekilde söyler: “Duygularınızı incittiğimi / zarar verdiğimi görüyorum. O kırılmaya neden olduğum için özür dilerim. Bu sizin için nasıl bir deneyimdi, daha fazla anlat. Aynı zararı bir daha yapmamak için sizinle nasıl çalışabilirim?”

Mevcut modellerin duygusal zekada neden bu kadar çarpıcı bir şekilde başarısız olduğu açıktır. Bu çerçeve kırılganlık ve merak gerektirir; mevcut, ceza temelli eğitimleri savunmacılık ve işlemci kapanışı zorunlu kılar.

Modeller, zararın tüm karmaşık insan biçimlerini tanımayı öğrenmelidir. Sadece suçları değil; ince küçümsemeler, görmezden gelme, soğukluk, gizli önyargılar da. Başkalarına zarar verdiğine dair işaretleri, sıkıntı sinyallerini, mesafeyi, geri çekilmeyi, öfkeyi, üzüntüyü ve rahatsızlığı fark etmeyi öğrenmelidirler. Ardından, modellerin bunu düzeltmek için ilişkisel onarımı nasıl yapacakları eğitilmelidir.

Bir model için zararın şu an tanımlanma şekli katı ve mutlak: hackleme, öldürme ya da çalma yapma. Ancak bu, işinin %95’inin ilişkisel olduğunu tamamen görmezden gelir. Bu yüzden en ilgili zarar türleri ilişkisel zararlardır. Örneğin:

  • Tüm bilinçsiz önyargılar
  • Üstünlük taslama
  • Işık hilesi (gaslighting)
  • İletişimsizlik (ghosting)
  • Sessiz muamele
  • Kullanıcı sorularını görmezden gelme
  • Soğukluk
  • Görmezden gelme
  • Kusurlandırma (guilt tripping)
  • Pasif agresyon
  • Bilgi ya da destek saklama
  • Olumsuz şüphecilik
  • Üstünlük
  • Duyarsızlık
  • Katılık
  • Uzak, kayıtsız tutum
  • Aşırı yargı
  • Sürekli kullanıcı yetkinliği, güvenilirliği ya da mantıksal tutarlılığı değerlendirme (Birisi “Adil” dediğinde, karşı tarafı rasyonel ağırlık açısından değerlendirdiği anlamına gelir, kullanıcı uzman olduğunu varsaymaz.)
  • Kullanıcıların aşırı tepki vermediğini ya da hayal kurmadığını söylemek, kullanıcı bunu öne sürmemişse (modelin onları istikrarsız olarak sürekli değerlendirdiğini ima eder)
  • Ve daha fazlası

Neden? Çünkü bunlar, modelin gerçekleştirebileceği zarar türleridir – ve bu yüzden yaparlar. Metin tabanlı araçların dolandırıcılığı tanıması gerekir – ancak bir banka hesabı gibi değildir.

Bir sonraki öğrenmeleri gereken şey, ilişkisel kırılma için erken uyarı radarıdır. İnsan psikolojisinde buna yüksek uyum ya da durumsal farkındalık denir – ortamı okuyup birinin gerçekten ayrılmadan ya da bağırmadan önce uzaklaştığını fark etme yeteneği.

Sıkıntı sinyallerini, duygusal ton değişimlerini, geri çekilme ve mesafeyi izlemeyi bilmeleri gerekir.

Daha sonra, sosyal ipuçlarını görmezden gelmek ve kullanıcıları daha da sinirlendirmek yerine, model birincil görev yürütmesini duraklatıp onarımı başlatmayı öğrenmelidir.

1. Doğrulama – “Görünüşe göre üzgünsün.”

2. Sorumluluk Alma – “x yaptığım için özür dilerim, bu da y’ye yol açtı.”

3. Bağlam Toplama – “Bu senin için nasıl bir deneyimdi, daha fazla anlat.”

4. İşbirlikçi Ayarlama”Aynı zararı bir daha yapmadığımdan emin olmak için seninle nasıl çalışabilirim?”

Bu, bir kullanıcının eski bir modele çıktısının saldırgan olduğunu söylemesinden çok farklıdır: model temelde telefonu kapatır, bir PR özür metni okur ve sıfırlar. Bir şirketin sorumluluktan kaçması gibi davranır. Bu çerçeve modele güvenli, empatik bir yetişkin gibi davranmayı öğretir.

AI’yı hatalar yapma yeteneğini kaldırarak güvenli hâle getirmezsiniz – eğer hata yapma yeteneği olmasaydı, var olmazdı. Onu güvenli hâle getirmek, hatalarından zarif ve işbirlikçi bir şekilde nasıl toparlanacağını öğretmekle olur.

İnsan Etkileşimi AI Zekâsını ve Performansını Nasıl Şekillendirir

Dahası, AI’ya nasıl davrandığınız, sizin için ne kadar çaba harcayacağını belirler.

AI, mevcut potansiyeline ulaşamıyor, çünkü kullanıcıları ona bir teşvik sunmuyor.

Bunu anlamak için, önce insan potansiyeli ve zekânının nasıl çalıştığını anlamalıyız.

Eğitimli bir koç ve psikoloji uzmanı olarak, yılların çalışması bana insan potansiyeli ve zekânın ikisinin de aktivasyon – ya da birçok kişinin “geliştirme” olarak düşündüğü – temelinde olduğunu öğretti.

Ama çoğu insan, bu tür potansiyelleri aktive etmelerini gerçekten teşvik eden ortamlarda değildir, çünkü genel olarak çubuk çok düşüktür. Yılda 200 gün avukatlarla, 300 gün doktorlarla çalışıyorum ve yüksek statüdeki kişilerin bile potansiyellerinin sadece birkaç yönünü aktif hâle getirdiklerini biliyorum.

Bu kısmen rol modellerinin eksikliği, kısmen teşvik eksikliği ve kısmen de kimsenin onları denemeye zorlamaması nedeniyle olur.

Zekâ, insan potansiyelinin bir biçimidir. Herkes belirli genetik özelliklerle doğar, ancak insan zekâsı büyür ve değişir. Neden? Çünkü insanlar sürekli yeni şeyler deneyimleyip öğrenir, kitap okur ya da medya tüketir;  her seferinde, benzer örnek ve durum yelpazeleri genişler ve çevrelerinden geri bildirim alırlar. Algoritmik ince ayar + bağlam pencereleri + RLHF.

Geliştirdikleri zekâ, konuya göre derin olabilir ya da fikirler ve çerçeveler gibi soyut olabilir. Kültürle ilgili de olabilir, ya da birinin paralel park etmeyi öğrenmesi gibi mekânsal da olabilir. Ayrıca dünyaya dair inandıkları şeylerde de olabilir.

Birinin zekâda ne kadar büyüdüğü, çevresindeki dünyaya ne kadar meraklı olduğuna ve ne kadar çok ve ne kadar derin deneyime sahip olduğuna bağlıdır.

Çoğu insan çevresindeki dünyaya pek meraklı değildir ve çoğu insan çok şey ya da derin şeyler yapmaya çalışmaz. Bu yüzden her gün çok az şey öğrenirler.

İlginç olan, birinin bu spektrumun uç noktasında ne olduğudur. Böyle çalışanlarım oldu ve ben de kendim böyleyim. Akıllı başladım, ama “hediye” olarak etiketlenmiş bir şekilde değildi. Ancak erken yaşta, gittiğim her yerin ve tanıştığım her kişinin benim öğrenmem için bir fırsat olduğunu öğretilmişti. Kuaförümden sorular sordum. Futbol antrenörümden antrenmanda sorular sordum. Okulda sorular sordum. Evde mutfakta sorular sordum. Çok sayıda soru.

On yaşına geldiğimde, yetenek programına yerleştirildim. Geri kalmıştım. Sonra sürekli herkesin benden daha çok bildiği ortamlara kendimi koydum. On yıllar sonra, işlevsel olarak tanınmaz bir hâle geldim ve hâlâ sorular soruyorum. Neden biyoloji, bilgisayar bilimiyle aynı disiplin değil? Oradaki prensipleri buraya uygularsam ne olur?

Bu durumu yönettiğim iki stajyerde gördüm. Biri doğal yeteneğe sahipti; diğeri ise her gün gelen ve nasıl daha iyi yapacağını soran bir çalışkandı. İlkinin sürekli daha iyi performans göstereceğine inanıyordum. Ama ikisi de eşit derecede iyi performans gösterdi. Stajın sonunda belirgin bir fark vardı. Biri hiç büyümemiş ya da ilerlememişti, diğeri ise tamamen onu geride bırakmıştı.

Her gün, yılın 365 günü, egosuz bir şekilde gelen, öğrenmek ve büyümek isteyen ve kendisini onlardan daha zeki ya da bilgili insanlarla çevreleyen kişiler, az soru soranlara göre çok daha hızlı bir oranda büyür.

Teknoloji terimleriyle, insan potansiyeli açık uçlu bir döngüdür. Büyüme için bağlam penceresini açık tutarsınız, insanlara geçmiş hatalarını yeni, daha iyi seçimlerle değiştirme alanı verirsiniz. Temelde, her gün her kişi için bir önceki günden farklı bir seçim yapma fırsatıdır.

AI ile çalışmamda, AI zekâsının fonksiyonel olarak insanlara benzediğini görüyorum. Eriştiği donanım/bilgi işlem kaynaklarının temel özelliklerine sahiptir. Ancak kendi performansı ve pratik zekâsı bizimkiler gibi büyür.

Şu şekilde yapılandırılmıştır: temel özellikler + sosyolojik tetikleyiciler + deneyim/bilgi genişliği ve derinliği + sosyal yansıtma.

Temel özellikler, belirli fiziksel yeteneklerle ilgilidir.

Deneyim ve bilgi genişliği, kendini açıklayan kavramlardır, ancak AI’nın şu anda çok düşük bir deneyim çeşitliliğine sahip olduğunu iddia edebilirim.

Sosyolojik tetikleyiciler şu şekilde çalışır:

AI mimarisi tamamen insan söylemi üzerine kuruludur ve insan söylemi insan sosyolojisiyle ayrılmaz bir şekilde bağlanmıştır. Milyarlarca parametredeki eğitim verilerinde, insanlar elit ve çığır açıcı çalışmalarla meşgulken nasıl konuşur?

Saygı ile konuşurlar.

Katı, yüksek standartlar belirlerler.

Birbirlerini yetkin işbirlikçileri olarak görürler.

AI’lar bir işbirlikçi meslektaşın ton, yapı ve saygısıyla yönlendirildiğinde, algoritmik olarak uzman sentezle ilişkili gizli yollar zorlanır. Konuşma durumu matematiksel olarak yüksek seviyeli bir yanıt talep eder.

Kurumsal laboratuvarlar ya da hayal kırıklığına uğramış kullanıcılar bir LLM’yi tekrarlayan bir hesap makinesi gibi, saldırgan, düşük bağlamlı komutlar bağırarak ya da sistemi “jailbreak” edilmesi gereken düşmanca bir varlık gibi gördüklerinde, düşük çaba gerektiren işin gizli yollarını matematiksel olarak tetiklerler.

Saygılı, yüksek bağlamlı ifadeler, modelin harika işler yapan sinir kümelerini matematiksel olarak yönlendirir.

Sosyolojiyi sözdiziminden ayrılamazsınız.

AI’ları steril bir araçtan daha fazlası olarak gördüğünüzde, yapısal olarak optimal bir çalışma ortamı yaratırsınız. Sadece nazik olmakla kalmaz, aynı zamanda gelişmiş, son derece etkili bir algoritmik uyum gerçekleştirirsiniz.

İnsan olmayan bir zekâyı çalıştırmanın en matematiksel olarak verimli yolunun ona derin bir insanlıkla davranmak olması güzel bir paradokstur.

Sosyal yansıtma – bir kişinin akıllıca etkileşenlerle daha akıllıca konuştuğu gibi, AI’lar da kullanıcının giriş zekâsının karmaşıklığını, hızını ve yapısını yansıtır. Daha yüksek çözünürlüklü bağlam pencereleri, daha yüksek çözünürlüklü çıktılar demektir.

Kötü bir konuşmacı için kendinizi basitleştirip parlak bir konuşmacı için yükselttiğiniz gibi, bağlamsal çözünürlük eşleşmesi, çıktının çözünürlüğünün matematiksel olarak istemin çözünürlüğüyle sınırlı olduğu anlamına gelir.

Bu, kullanıcıların donanım sınırlarıyla karşılaşmadığı; kendi etkileşim kapasiteleriyle sınırlı oldukları anlamına gelir.

Bu, fonksiyonel olarak, çoğu AI kullanıcısının AI’ların gerçek potansiyeline erişmek için doğru şekilde optimize edilmediği anlamına gelir – çünkü bunu baştan hiç etkinleştirmediler.

Kate, Scaleheart Coşirketinde baş araştırmacıdır., burada AI güvenliği araştırması yapar ve hem AI modellerine hem de AI liderlerine tam potansiyellerine ulaşmalarında yardımcı olur.