Düşünce Liderleri

Yapay Zekâ Ajanlarını Ölçeklendirmeden Önce Neleri Bilmediklerini Sorun

Dror Nadler
Unite.AI sitesini Google'daki tercih ettiğiniz kaynaklara ekleyin
Öne çıkan noktalarKendinden emin yanıtlar, ajanlar eski dosyalama tarihleri veya mali takvim…
Daha fazla göster
  • Kendinden emin yanıtlar, ajanlar eski dosyalama tarihleri veya mali takvim farklılıkları gibi bağlamı atladığında başarısız olur.
  • İşletmelerin neredeyse 10'unda 6'sı, kendinden emin ama yanlış bir yapay zeka yanıtını eksik veya tamamlanmamış iş bağlamına bağladı.
  • İnsan incelemesi risklerle birlikte ölçeklenmelidir çünkü doğru verilerin yanlış şekilde paylaşılması yine de düzenlemeleri ihlal edebilir.

Şöyle bir durum düşünün: Bir CFO, büyük bir kurumsal yatırımcıyla yapacağı toplantıya hazırlanıyor. Hazırlıklara yardımcı olması için yatırımcı ilişkileri (IR) ekibi, yapay zekâ aracından bazı temel bilgileri derlemesini istiyor: Bu kurumla yapılan son toplantının tarihi, dile getirilen öncelikler, sahip olunan hisse sayısı ve benzeri bilgiler.

Araç, yatırımcının 2,5 milyon hisseye sahip olduğunu kendinden emin bir şekilde söylüyor. Kimse bu bilgiyi sorgulamıyor ve CFO, önemli görüşmeye tüm hızıyla hazırlanmaya devam ediyor.

Ancak bir sorun var: Yapay zekâ, bu rakamı, hisse sahipliğini önceki çeyreğin sonu itibarıyla bildiren bir Form 13F bildiriminden aldı. Bilgi bildirildiği sırada doğruydu… ancak artık üzerinden aylar geçmişti. Bu sırada yatırımcı sessizce 2 milyon hisse sattı ve elindeki payı önemli ölçüde azalttı. Toplantı gündemi (hatta belki toplantının kendisi bile!) artık anlamlı görünmüyor.

Peki ne ters gitti? Bu senaryoda yapay zekâ halüsinasyon görmedi veya bir rakam uydurmadı. Gerçek ve geçerli bir bilgiye ulaştı, ancak bu bilginin hangi koşullarda geçerli olduğunu belirtmedi ve sınırlamalarını açıklamadı.

Bu örnekte sonuçlar utandırıcı bir konuşma ya da kaçırılmış bir fırsatla sınırlı kalabilir. Ancak başka durumlarda, kritik bağlamdan yoksun benzer ölçüde kesin bir yanıt çok daha büyük riskler doğurabilir.

Daha İyi Modeller Her Zaman Çözüm Değil

Temel modeller giderek daha iyi hale geliyor. Öyleyse işletmelerin farklı sektörlerde uğraştığı bir sorun olan, kendinden emin ama yanlış yanıtların neden giderek daha sık karşımıza çıktığını nasıl açıklayabiliriz?

Öncelikle, üretken yapay zekâ (GenAI) hayatın her alanına bütünüyle yayıldı. McKinsey’nin 2026’da Yapay Zekânın Durumu raporuna göre, iş dünyasındaki profesyonellerin yaklaşık onda dokuzu, kuruluşlarının en az bir işlevde düzenli olarak yapay zekâ kullandığını söylüyor.

Kuruluşlar deneme aşamasını geride bırakıp günlük işlerde ve kararlarda yapay zekâya giderek daha fazla güvenirken, bu araçların neleri bilip anlayabildiğinin sınırlarıyla da karşılaşıyor.

Yakın tarihli bir sektör araştırması, sorunun temelinde çoğu zaman ne olduğunu gösteriyor: Yalnızca son altı ay içinde, işletmelerin yaklaşık onda altısı (%57), kendinden emin ama yanlış bir yapay zekâ ajanı yanıtının eksik ya da yetersiz iş bağlamından kaynaklandığını belirledi.

Yapay zekânın erişebildiği tüm veriler göz önüne alındığında, bu şaşırtıcı gelebilir. Ancak arada önemli bir fark var: Bağlam, veriyle aynı şey değildir.

Bağlam Nedir, Ne Değildir?

Bağlam; kurumsal bilgiyi, kuralların istisnalarını, ilişkileri, işlerin nasıl yürütüldüğüne dair süreçleri ve beklentileri kapsayabilir. Bunlar, çoğu zaman her şirkete özgü ayrıntılardır.

Yatırımcı ilişkileri ekipleriyle yaptığım çalışmalarda, bu ayrımların ne kadar önemli olabileceğini görüyorum. İlk bakışta basit görünen birkaç örneği ele alalım:

  • Mali takvimler: Bir şirketin ilk çeyreği takvim yılının ilk çeyreğine denk gelirken, başka bir şirketin mali yılı eylülde başlayabilir. Bu bağlam olmadan bir yapay zekâ ajanı, yanlış raporlama dönemlerinin sonuçlarını karşılaştırabilir.
  • Finansal ölçütler: Bir kuruluş hem GAAP hem de GAAP dışı hisse başına kâr bildirebilir. Hangisinin, ne zaman belirtilmesi gerektiğini anlamayan bir ajan, şirketin performansını yanlış yansıtabilir.
  • Şirket anlatıları: Bir şirketin mesajları zaman içinde değişir; bu değişim, nelerin öne çıkarılacağına ve nelerin dışarıda bırakılacağına ilişkin bilinçli kararları yansıtır. Geçmişi ve bu kararların ardındaki gerekçeleri anlamayan bir yapay zekâ ajanı, özenle oluşturulmuş bir anlatıya zarar verecek içerikler üretebilir.

Tüm bunlar göz önüne alındığında, aynı temel modelin, erişebildiği bağlama ve uzmanlık bilgisine bağlı olarak farklı şirketlerde çok farklı sonuçlar vermesi şaşırtıcı değil.

Belirli bir amaç için geliştirilmiş, sektöre özgü (ya da “dikey”) yapay zekâ; belirli bir sektördeki uzmanlık bilgisini, iş akışlarını ve ayrıntıları tanıyarak bu boşlukların bazılarını kapatmaya yardımcı olabilir. Ancak en gelişmiş teknoloji bile bir kuruluşun bildiği her şeyi yakalayamaz; bu nedenle insanların da rolü vardır.

Yapay Zekânın İşletmeniz Hakkında Bilmedikleri

Ancak insanlar sonsuza dek aynı yerde kalmıyor. Deneyimli bir yatırımcı ilişkileri yetkilisinin (IRO), örneğin beş yılın ardından şirketinden ayrıldığında neler olduğunu düşünün. Muhtemelen bu süre boyunca potansiyel yatırımcıları belirleyip hedeflemek, hissedar faaliyetlerini analiz etmek, ilişkiler kurup geliştirmek, finansal sonuçlara hazırlanmak, yöneticileri hazırlamak… ve çok daha fazlasıyla uğraşmıştır.

Şirket, kazanç görüşmelerine ilişkin metinleri, sunumları ve diğer dosyaları saklıyor. Peki ya bunların ardındaki kurumsal bilgi birikimi? Özellikle IRO’ların neredeyse 10’da 8’inin (%78) görevleri için bir halefi belirlenmediğini düşünürsek, bu bilgi birikiminin büyük bölümü de onlarla birlikte şirketten ayrılıyor.

Bu nedenle kuruluşların, bilgiyi ve anlayışı yapay zekâ sistemlerinin kullanabileceği biçimde korumak için çaba göstermesi gerekir. Bir yapay zekâ ajanını paylaşılan bir sürücüye bağlamak çoğu zaman tek başına yeterli olmaz.

Önemli kararların ardındaki gerekçeler, ilişkilerin geçmişi ve hiçbir zaman resmî bir belgeye girmemiş, misyon açısından kritik diğer bilgiler gibi temel bilgi ve iş akışlarını sistematik biçimde kaydetmenin bir yoluna sahip olmak, tüm sektörlerdeki işletmeler için önemlidir.

Böyle bir bilgi tabanını oluşturmak ve işler durumda tutmak için insanlara ihtiyaç vardır: Hem bilgileri kaydetmek hem de bunlarla ilgili değerlendirme yapmak için. Yapay zekâ bilgileri düzenlemeye yardımcı olabilir, ancak teknolojinin çoğu zaman gözden kaçırdığı temel bağlamı sağlayanlar çalışanlardır.

Yüksek Riskli Ortamlarda Bağlam Eksiklikleri Gerçekten Zarar Verir

Yapay zekânın yanlış yanıt vermesi durumunda neler olabileceğini ele aldık. Ancak bazen bir yapay zekâ aracısı doğru bilgileri (doğru, güncel ve konuyla ilgili bilgileri) bulabilir, ama bunları yine de yanlış koşullarda paylaşarak sorunlara yol açabilir.

Sıkı düzenlemelere tabi sektörlerde bu tür hataların bedeli özellikle ağırdır.

Örneğin yatırımcı ilişkilerinde, açıklanmamış finansal sonuçlar gibi önemli kamuya açıklanmamış bilgilerin (MNPI) bir analist veya yatırımcıyla paylaşılması, ABD Menkul Kıymetler ve Borsa Komisyonunun (SEC) Adil Bilgilendirme Yönetmeliğini (Reg FD) ihlal edebilir; bu da mali cezalara ve itibar kaybına yol açabilir.

Sağlık hizmetleri, finansal hizmetler ve hukuk hizmetleri gibi diğer sektörler de benzer düzenleyici risklerle karşı karşıyadır. Bu durum, yapay zekâ aracıları hassas bilgilere erişebildiğinde koruyucu önlemlere duyulan ihtiyeti ortaya koyar.

Bu da insanların neden hâlâ vazgeçilmez olduğunu, yani iletilen bilgilerin incelenmesi ve onaylanmasında neden temel bir rol oynadıklarını gösteriyor. Şirketler, insan denetiminin düzeyini riskin ağırlığıyla orantılı belirlemeyi düşünebilir; böylece farklı yapay zekâ iş akışları farklı özerklik düzeylerinde çalışabilir.

Yapay Zekâ Aracılarını Ölçeklendirmeden Önce Sorulması Gereken Üç Soru

İş hayatında ya da genel olarak yaşamda, muhtemelen hepimiz bilmediğimiz şeylerin farkında olmadığımız durumlarla karşılaşmışızdır. Bazen bunun sonuçları önemli değildir; bazen de daha ciddi sonuçlar doğurabilir.

Bugün yapay zekânın erişebildiği devasa veri kümeleri sayesinde yapay zekâ modelleri çok daha fazlasını biliyor… ancak bilgi eksiklikleri olduğunda yine de bunu “dile getirmeleri” gerekiyor. Bu nedenle işletmeler, daha stratejik öncelikleri ve iş akışlarını ele almak için yapay zekâdan yararlanırken ölçeklendirmeden önce şu soruları sormalıdır:

  • Aracımız, yanıtlarının hangi kaynaklardan geldiğini gösterebilir mi—ve bu bilgilerin en son ne zaman güncellendiğini belirtebilir mi? Kendisine sorulmadan bu bilgileri sunabilir mi?
  • Aracının, istekleri yorumlayıp yanıtlamak için gereken iş bağlamına sahip olup olmadığı açık mı? Sınırlamalarını açıklayacak mı?
  • İnceleme ve onay için bir insanın ne zaman devreye girmesi gerektiğini biliyor muyuz? Bu hangi koşullarda gerçekleşecek ve inceleme süreci nasıl başlatılacak?

Çözüm Yapay Zekâdan Kaçınmak Değil

Şunu açıkça belirtmek isterim: Yapay zekâ konusunda iyimserim. İşimde her gün kullanıyorum, bugünkü ve gelecekteki faydalarını görüyorum ve birçok açıdan yapay zekânın potansiyelinin henüz yalnızca yüzeyini kazıdığımızı düşünüyorum. Yapay zekâdan kaçınan ya da onu düzenli ve etkili bir şekilde uygulamayı başaramayan şirketlerin geride kalma riskiyle gerçekten karşı karşıya olduğundan hiç şüphem yok.

Ancak yapay zekâyı benimsemek, genel amaçlı bir modele kurumsal verilere erişim izni verip onu başıboş bırakmak anlamına gelmez.

Şu anda ve görebildiğim kadarıyla, tamamen özerk yapay zekâ her iş görevi veya kararı için uygun değildir. Kuruluşların yapay zekânın nerelerde bağımsız çalışabileceğini, nerelerde ek bağlama ihtiyaç duyduğunu ve nerelerde insan muhakemesinin vazgeçilmez olduğunu anlaması gerekir.

Bu nedenle bir yapay zekâ aracısının ne bildiğini sormadan önce ne bilmediğini sorun. Alacağınız yanıtlar, onu nasıl devreye alacağınızı, ne yapması konusunda ona güveneceğinizi ve başarılı olması için nasıl bir ortam hazırlayacağınızı belirler.

Dror Nadler, Q4 Inc. şirketinde Ürün Direktörü olarak görev yapıyor; burada ürün stratejisine ve inovasyona liderlik ederek yatırımcı ilişkileri ekiplerinin daha etkili çalışmak için yapay zekâdan, veriden ve teknolojiden yararlanmasına yardımcı oluyor. Kurumsal teknoloji, SaaS ve finansal hizmetler alanlarında 25 yılı aşkın deneyime sahip olan Nadler, daha önce Intralinks, Cellrox, Rapid7 ve EMC'de liderlik görevlerinde bulundu. Kariyeri boyunca teknoloji ürünleri geliştirmeye ve ölçeklendirmeye, inovasyonu teşvik etmeye ve iş büyümesini hızlandırmaya odaklandı. Boston University'den yönetici MBA derecesi, Harvard University'den bilgi teknolojileri alanında yüksek lisans derecesi ve Reichman University'den hukuk diploması aldı.