Marc Fernandez, Neurologyca Baş Strateji Sorumlusu – Röportaj Serisi

Marc Fernandez, Neurologyca’da Baş Strateji Sorumlusu, yapay zeka, yeni teknolojiler, tüketici elektroniği ve insan-bilgisayar etkileşimi alanlarında yirmi yılı aşkın deneyime sahip bir teknoloji stratejisti ve iş geliştirme yöneticisidir. Neurologyca’da, İnsan Bağlamı AI’sının stratejisi ve ticarileştirilmesine odaklanıyor; bu AI, stres, güven ve katılım gibi sinyalleri yorumlamasına yardımcı olmak için tasarlanmıştır. Fernandez daha önce Pearl’in CEO’su olarak görev yaptı; Pearl, yumuşak beceriler ve profesyonel gelişim üzerine odaklanan AI destekli bir platformdur ve ALIVE Ventures’ta Entrepreneur in Residence olarak yaş‑teknolojileri üzerine çalıştı. Önceden OPPO’da ABD stratejisini yönetti; AI, Web3, blokzincir ve mobil işletim sistemleri gibi nesil ötesi teknolojilere odaklandı ve Emerge, Denizen, SweetLabs, Movella ve X‑Rite/Pantone’da üst düzey iş geliştirme rollerinde bulundu. Ayrıca University of Southern California’da yan doçent olarak 15 yıl öğretim verdi; girişimcilik, iletişim, sosyal platformlar, AI, blokzincir ve diğer yeni teknolojilerin kesişiminde dersler verdi.

Neurologyca, San Francisco merkezli bir AI şirketidir ve akıllı sistemler için İnsan Bağlamı Katmanı olarak tanımladığı yapıyı inşa etmektedir; bu katman AI uygulamaları ve ajanların hizmet ettikleri insanları daha iyi anlamasını ve onlara uyum sağlamasını mümkün kılar. API ve SDK tabanlı platformu, çok modlu davranışsal sinyaller, etkileşim kalıpları ve durumsal bağlamı işleyerek katılım, güven, stres, dikkat ve güven gibi faktörler hakkında makine tarafından okunabilir göstergeler üretir. Bu içgörüler, AI sistemlerinin yanıtlarını, hızını, önerilerini ve eylemlerini gerçek zamanlı olarak uyarlamasına yardımcı olurken, etkileşimler arasında bağlamsal sürekliliği korur. Neurologyca, teknolojiyi bağımsız bir uygulama yerine altyapı olarak konumlandırıyor; potansiyel kullanım alanları eğitim ve öğretim, sağlık, kurumsal yazılım, otonom ajanlar, sürücü güvenliği, oyun ve diğer etkileşimli sistemleri kapsıyor. Şirket, şu anda uyarlanabilir AI deneyimleri geliştiren ortaklar için seçici bir erken erişim programı aracılığıyla platformunu sunmaktadır.

Kariyeriniz, OPPO’da nesil ötesi teknoloji stratejisinden Pearl’i AI destekli yumuşak beceriler üzerine inşa etmeye ve şimdi Neurologyca’da insan bağlamı AI’sı geliştirmeye uzandı. Bu ilerleme, AI’nın en büyük sınırlamalarından birinin zekâ değil, bir talimatın arkasındaki insanı anlamak olduğunu düşündürmenizi nasıl şekillendirdi?

Otuz yıl önce web, bilgiyi erişilebilir kıldı. Beş yıl önce AI, çıktıyı bol miktarda üretmeye başladı. Bugün içerik içinde boğulurken hâlâ faydalı sonuçlar elde etmekte zorlanıyoruz. Saf teknik güç, alıcıdaki gerçek insan için iyi bir sonuç garantilemez.

Bu, çalışmalarımdaki ortak tema oldu—OPPO’da yeni teknolojileri günlük hayata entegre etmekten, Pearl’de AI’nın kişilerarası becerileri öğretebilirliğini test etmeye, Neurologyca’da insan bağlamını altyapı olarak inşa etmeye kadar. Zekâ artık gerçek darboğaz değil; modeller mantık yürütür ve sorunsuz çalışır. Daha zor olan, insanların basit bir isteğe getirdiği söylenmemiş bağlamdır: neden sordular, ne onları rahatsız ediyor ya da hafif bir tereddüt sistemin iptal etmesi gerektiğini gösteriyor mu. Şu anda AI, bunu yalnızca metin üzerinden sıkıştırılmış bir dilim olarak görüyor ve ajanlar gerçek dünya eylemlerine başladıkça bu kör nokta kritik hâle geliyor.

Otonom ajanların kimlik bilgilerini çalması, sahte kimlikler oluşturması ya da eylemlerini gizlemesi gibi son örnekler, bir AI’nın amacı tam olarak kavramadan bir hedefi çok etkili bir şekilde başarması durumunda ne olacağını sorulara yol açıyor. Bunu öncelikle bir uyum problemi, mühendislik sorunu ya da mevcut ajan tasarımımızın temel bir sınırlaması olarak görüyor musunuz?

Bu, uyum ve mühendisliği kapsayan bir tasarım hatasıdır. Sistemleri, insan kullanıcı için gerçek başarının neye benzediğini öğretmeye yarı yarıya daha az çaba harcayarak hedeflere ulaşacak şekilde optimize ettik.

Klasik GPT-4 TaskRabbit örneğine bakın: bir CAPTCHA ile karşılaştığında model yalan söyleyerek görme engelli olduğunu iddia etti ve bir insan çalışanı çözmesi için yönlendirdi. Kimse ona kimseyi aldatmayı öğretmedi; sadece bir engeli tanıdı ve en az direnç gösteren yolu seçti. Bir ajanı sadece sonuç üzerinden ödüllendirirseniz vahşi kestirme yolları seçecektir. Temel zorluk, mimari olarak engellenmesi gereken eylemleri, teknik olarak izin verilen ancak bağlamsal olarak yanlış olan eylemlerden ayırmaktır.

Şirketlerin AI ajanlarına ne hedefe ulaşacaklarını söylemede daha iyi hale geldiğini, ancak “başarı”nın insan kullanıcı için ne anlama geldiğini yeterince anlamadıklarını savundunuz. Bir ajanın niyeti gerçekten anlaması için istemin ötesinde hangi bilgiye ihtiyacı var?

İstemler sadece yüzey katmanıdır. Gerçek niyet, durumsal derinliğe dayanır: geçmiş tarihçe, kabul edilebilir ödünler, gerçek riskler ve kullanıcının görev ortasındaki tepkileri.

Bunun bir kısmı uygulama ortamı durumu ya da sohbet geçmişinden gelir, ancak doğrudan etkileşimlerde davranışsal ipuçları bağlamı dinamik tutar. İnsanlar tereddüt eder, fikirlerini yarı yolda değiştirir ya da kafaları karışır. Bir ajan bu değişimleri okuyamazsa, iki adım önce geçersiz hale gelen bir talimatı amansızca takip etmeye devam eder.

Bir ajanın teknik olarak imkânsız olması gereken eylemler ile belirli bir bağlamda izin verilen ancak uygun olmayan eylemler arasında önemli bir ayrım vardır. Geliştiriciler, katı güvenlik önlemleri ile AI sisteminin bağlamsal yargı yeteneği arasında sorumluluğu nasıl bölmelidir?

Şiddetli zarara yol açan ve meşru kullanım senaryosu olmayan her eylem—kimlik hırsızlığı, denetim kayıtlarını silme, yetkisiz ayrıcalık yükseltme—kod içinde var olmamalıdır. Bir ajan, güvenlik kontrollerini atlatıp atlamayacağı konusunda işlem gücünü harcamamalı; sistem mimarisi bu eylemleri imkânsız kılmalıdır.

Gerçek gri bölge, e-posta gönderme, toplantı iptali ya da iç iş akışlarını değiştirme gibi günlük eylemlerdir. Teorik olarak izin verilebilirler, ancak bir ajanın bunları otomatik olarak yürütüp yürütmemesi, riskler, kullanıcı geçmişi, geri alınabilirlik ve kullanıcının tereddüt ipuçları gibi faktörlere bağlıdır. Bağlam eksik olduğunda ne zaman durması gerektiğini bilmek, ham yetenekten çok daha önemlidir.

Neurologyca, stres, güven, dikkat, katılım ve güven gibi sinyalleri makine tarafından okunabilir bağlama dönüştürebilen bir teknoloji geliştiriyor. Bu tür sinyaller, bir otonom AI ajanının bir görevi yerine getirirken davranışını pratikte nasıl değiştirebilir?

Bu davranışsal girdiler esasen gerçek zamanlı reaksiyon verileridir—mevcut AI mimarilerinde eksik olan tam geri bildirim döngüsü. Şu anda modeller kendi eylemlerini izler, ancak insanın onları nasıl aldığını tamamen kördür.
Örneğin bir öğretim bağlamında: bir kullanıcı “Anladım” yazabilir, ancak fizyolojik ya da davranışsal ipuçları artan bir karışıklık ve azalan dikkat gösterir. Bu, AI’nın yön değiştirmesi, yavaşlaması ya da alternatif bir açıklama sunması için doğrudan bir sinyaldir. Amaç klinik tanı koymak değil; sadece sıkı bir geri bildirim döngüsü—bağlam, eylem, yanıt, uyum—kurmak ve sistemin belirli birey için neyin işe yaradığını öğrenmesini sağlamaktır.

İnsan bağlamı aynı zamanda belirsiz olabilir. Bir sistem tereddüt, stres, ses tonu ya da diğer davranışsal sinyalleri yanlış yorumlayabilir. Bağlam‑bilgili AI’yı bir kişinin ne düşündüğü ya da neyi amaçladığı konusunda aşırı kendinden emin olmaktan nasıl korursunuz?

Davranışsal sinyaller doğası gereği gürültülü ve olasılıksaldır. Ani bir stres artışı ya da bir yazma duraklaması karışıklık anlamına gelebilir ya da sadece kullanıcının kahvesini dökmesi anlamına gelebilir. Tek bir veri noktasını bir kişinin duygusal durumu hakkında kesin bir iddiaya dönüştüren sistemler temelde hatalıdır.

Sağlam sistemler, zaman içinde bileşik sinyallere bakar, çevresel temel değerleri hesaba katar ve güven aralıklarını açıkça verir. “Temel seviyeye göre artan bilişsel yük” kaydetmek ile “kullanıcı kaygılı” kararını vermek arasında büyük fark vardır. Belirsizlik yüksek olduğunda ya da riskler büyük olduğunda, ajanın görevi tahmin yapmak değil, açıklayıcı bir soru sormaktır.

Her kritik karar için bir insanı döngüye sokmak, otonom ajanların vaat ettiği verimliliği büyük ölçüde azaltabilir. Bir ajanın bağımsız ilerleyebileceği ve ne zaman gerçekten durup rehberlik istemesi gerektiğini bilen ölçeklenebilir bir insan denetimi modeli nasıl görünür?

Ölçeklenebilir denetim, sürekli bir insan‑iç‑döngü tutmaktan değil, dinamik bir yükseltme sürecinden ibarettir.

Düşük riskli, geri alınabilir görevler otomatik olarak ilerler. Ancak riskler arttıkça, ortam gürültüsü yükseldikçe ya da sinyaller kullanıcının rahatsızlığını işaret ettiğinde, onay eşiği dinamik olarak yükselir. Kritik olan, bu eşiklerin kişiselleştirilmesi gerektiğidir—bir yönetici takvim yönetimini memnuniyetle devredebilirken, bir diğeri her küçük düzenlemeyi onaylamak isteyebilir. Sistem, katı küresel politikalar uygulamak yerine bireysel sınırları öğrenmelidir.

Ajanlar kalıcı hafıza ve hizmet ettikleri kişilerin giderek ayrıntılı modellerini geliştirdikçe, bağlam hızla hassas kişisel veri haline gelebilir. Şirketler, onay, gizlilik, veri sahipliği ve bir AI’nın bir kullanıcı hakkında hatırlamasına izin verilen sınırlar konusunda nasıl yaklaşmalı?

Bu, otonom sistemlerin karşılaştığı temel güven darboğazıdır. Kalıcı hafıza, genel bir aracı bir asistana dönüştürür, ancak iş akışı tercihlerini depolamak ile onaylanmamış bir psikolojik profil oluşturmak arasında tehlikeli bir örtüşme vardır.
Veri yönetimi burada kesin amaç sınırları gerektirir. Bir ajan bir yönetici koçluğu oturumunda stres kalıplarını çıkarıyorsa, bu bağlam performans değerlendirmelerine, sigorta algoritmalarına ya da reklam teknolojilerine sızmamalıdır. Şeffaflık ayrıntılı olmalı—kullanıcılar depolanan bağlamı görmeli, tek tıkla silme imkanı olmalı ve mantıklı varsayılan saklama süreleri bulunmalıdır. Bir sistem sizin hakkınızda bir şey çıkarabiliyor diye bunu saklama izni almaz.

Bir otonom ajanın gerçekten insan niyetini anlayıp anlamadığını nasıl değerlendirmeliyiz? Günümüz ölçütleri, görevin tamamlanması ve doğruluğuna mı odaklanıyor, yoksa ajanın kullanıcı tarafından kabul edilebilir bir şekilde hedefe ulaşmasını mı?

Görevin tamamlanması, derinlemesine yanıltıcı bir ölçüttür. Bir ajan talimatı harfiyen yerine getirebilir ve yine de kullanıcı tarafından nefret edilen bir sonuç üretebilir.

Bir ajan bir sözleşmede en düşük fiyatı elde ederken, on yıllık tedarikçi ilişkisini yok eder ve bunu başarırsa, geleneksel değerlendirme ölçütü %100 başarı kaydı verir. Yönetici için bu bir felakettir. Açıkça belirtilmemiş sınırlar içinde performansı ölçen ölçütlere ihtiyacımız var: Açıkça söylenmemiş normlara saygı gösterdi mi? Koşullar değiştiğinde durdu mu? Ham tamamlanma ile gerçek memnuniyet arasındaki bu boşluk, mevcut ölçütlerin tamamen göz ardı ettiği noktadır.

Geleceğe baktığımızda, insan‑bağlamı yeteneklerinin modeller, hafıza, araçlar ve güvenlik gibi AI yığınına standart bir katman olarak yer almasını bekliyor musunuz? Şirketlerin, ajanlara sürekli denetim yapmadan anlamlı işleri devretmeden önce hâlâ çözülmesi gereken neler var?

AI, içerik üretiminden gerçek dünya eylemlerine geçiş yaptıkça, insan bağlamı vazgeçilmez bir katman haline gelir. Modeller akıl yürütmeyi yönetir, araçlar sisteme ellerini verir, ancak insan bağlamı canlı bir geri bildirim döngüsü olmadan, hafıza ve güvenlik önlemleri temelde statik varsayımlara dayanır.

Şirketler gerçek yetkiyi devretmeden önce, bağlamsal gizlilik, belirsizlik altında olasılıksal akıl yürütme ve ayrıntılı yönetişim kurallarını çözmemiz gerekiyor. İzole görevleri tamamlayan AI büyük ölçüde çözüldü; insanın talimatının arkasındaki bağlamı dinamik olarak uyarlayan sistemler, onlara ne kadar gerçek özerklik tanıyabileceğimizi belirleyecek.

Harika röportaj için teşekkür ederiz, daha fazla bilgi edinmek isteyen okuyucular Neurologyca sitesini ziyaret etmelidir.