Yu Su, NeoCognition’un Kurucu Ortağı ve CEO’su – Röportaj Serisi

Yu Su, NeoCognition’un kurucu ortağı ve CEO’su, uzun süredir yapay zeka araştırmacısı olarak akademik, kurumsal yapay zeka ve gelişmiş ajan sistemleri gibi çeşitli alanlarda kariyeri boyunca çalışmıştır. NeoCognition’u yönetmesinin yanı sıra, Ohio Eyalet Üniversitesi’nde Yardımcı Profesör ve İnovasyon Bilimcisi olarak görev yapmaktadır ve burada yaptığı çalışmalar, yapay zeka ajanları, akıl yürütme sistemleri ve makine öğrenimi üzerine odaklanmıştır. Geçmişte, Percy Liang ile birlikte Microsoft’ (MSFT ) ta altı yıldan fazla süre boyunca Senior Researcher olarak çalışmış ve Outlook için sözdizimi parçalama teknikleri kullanarak konuşma tabanlı yapay zeka sistemleri üzerinde çalışmıştır. Microsoft, akademik ve araştırma kurumları gibi IBM T.J. Watson Research Center’da çeşitli rollerde çalışan Yu Su, akıl yürütme, öğrenme ve karmaşık dijital ortamlarla etkileşime girebilen yapay zeka sistemlerini geliştirme konusunda uzmanlaşmıştır ve bu sayede araştırmalar ile gerçek dünya uygulamaları arasındaki boşluğu kapatmıştır.

NeoCognition bir yapay zeka ajanı araştırma şirketidir ve “özel zeka” olarak adlandırdığı şey üzerinde çalışmaktadır – sürekli olarak deneyim yoluyla öğrenen ve gelişen yapay zeka sistemleri. Önde gelen yapay zeka araştırmacıları tarafından kurulan şirket, statik büyük dil modellerinin ötesine geçerek, belirli alanlarda derin uzmanlık geliştirebilen ajanlar oluşturmayı hedeflemektedir. Araştırma, sürekli öğrenme, akıl yürütme, planlama, araç kullanımı ve çoklu ajan işbirliği gibi alanlara odaklanmaktadır ve amacı, zaman içinde daha yetenekli ve güvenilir hale gelen yapay zeka sistemleri oluşturmaktır. Makine öğrenimi ilerlemelerini, yapılandırılmış akıl yürütme ve uyarlanabilir öğrenme teknikleriyle birleştirerek, NeoCognition, gerçek dünya görevlerini çözebilen bir sonraki nesil yapay zeka ajanlarını şekillendirmeyi amaçlamaktadır.

Çok sayıda şirket, genel yapay zeka kaptanlarını yayınlamaya koşuştu, ancak bu sistemlerin gerçek üretim ortamlarına girdiklerinde güvenilirlik konusunda endişeler duyulmaya başlandı. Mevcut birçok yapay zeka ajanının kontrol edilen demo ortamlarının dışında neden mücadele ettiğini düşünüyorsunuz?

Çoğu yapay zeka ajanı, gerçek üretim ortamlarında masih genelci olarak çalışmaktadır ve içinde çalıştıkları ortamın dayanıklı bir anlayışına sahip değildir. Bir görevi demo ortamında tamamlayabilirler, ancak bu, gerçek bir operasyonel sistem içinde tekrar eden yargı geliştirmekten çok farklıdır.

Bugünün modelleri etkileyici kalıp eşleştirmeciler, ancak hala insanların uzmanlaşmasını sağlayan mekanizmalara sahip değiller. İnsanlar, izole görevleri ezberleyerek güvenilir olmazlar. Bir meslek veya organizasyonun yapısını, iş akışlarını, kısıtlamalarını, ilişkilerini, araçlarını, önceliklerini ve sonuçlarını öğrenerek uzmanlaşırız. Zaman içinde, bu ortamın iç çalışma modelini geliştiririz ve bu model, iyi kararların tutarlı ve tekrar eden olmasını sağlar.

Çoğu yapay zeka ajanı, bu tür bir operasyonel anlayış geliştirmez. Görevleri tamamlamak için yardım, alma veya düzenleme katmanlarına güvenmektedir, ancak her yeni durumda hâlâ büyük ölçüde doğaçlama yapmaktadır. Bu, performansın değişen ortamda ve özellikle de kaotik, dinamik veya yüksek riskli ortamlarda bozulmasına neden olur.

Eksik olan parça, uzmanlaşmadır. İnsanlar, değişen ortamlara uyum sağlayarak ve uzmanlaşarak başarılı olur. Yapay zeka ajanlarının da benzer bir uzmanlaşma yeteneğine ihtiyacı vardır: bir alanın yerel yapısını derinlemesine öğrenerek gerçek uzmanlık ile çalışabilme yeteneği.

NeoCognition, ajanların insanların yaptığı gibi sürekli olarak öğrenip adapte olabilmesi vizyonunu tanımlamıştır. Teknik olarak, bu, günümüzde birçok şirketin kullandığı statik fine-tuning veya alma tabanlı yaklaşımlardan nasıl farklıdır?

Çoğu şirket, performansını ya bir modeli fine-tuning yaparak ya da çıkarım zamanında ilgili bilgileri alma yoluyla geliştirmektedir. Bu yaklaşımlar faydalı olabilir, ancak bir ajanın bir alanda gelişen uzmanlık geliştirmesine temel olarak izin vermez.

Fine-tuning genellikle eğitimden sonra statiktir. Alma sistemleri, bilgiyi ortaya çıkarmaya yardımcı olur, ancak bilgi alma, alan uzmanlığı geliştirme veya deneyim üzerinden davranışını güncelleme ile aynı şey değildir. Çoğu durumda, ajan hala içinde çalıştığı ortamın kalıcı bir modeline sahip değildir.

Bir insan bir şirkete katıldığında, yalnızca belgeleri araması nedeniyle etkili olmaz. İşletmenin nasıl işlediğini anlama yoluyla yargı geliştirir ve uzmanlık, iç modelini sürekli olarak iyileştirerek ortaya çıkar.

Biz de bir sonraki nesil ajanların benzer bir öğrenme mekanizmasına ihtiyacı olduğuna inaniyoruz. NeoCognition’da, ajanların bu tür gelişen operasyonel modeller oluşturmasını sağlayarak, bir alanda zaman içinde sürekli olarak uzmanlaşabilmesini ve geliştirebilmesini hedefliyoruz, böylece her zaman sıfırdan başlamak veya sürekli insan yeniden mühendisliğine güvenmek zorunda kalmazlar.

Yapay zeka deneyimi ile operasyonel güven arasında bir uçurum oluşuyor gibi görünüyor. Şirketler, ajanları içlerinde başarılı bir şekilde test edebilir, ancak bunları büyük ölçekte dağıtmak başka bir zorluktur. Bu geçişte şirketlerin neler olduğunu küçümsediğini düşünüyorsunuz?

Çok sayıda şirket, gerçek operasyonel ortamların ne kadar dinamik olduğunu küçümsüyor. %85 doğruluk oranı olan bir ajan, testlerde güçlü görünse de, şirket çapında bu, insan ekiplerinin yönetmesi gereken sürekli hatalar ve kurtarma durumları anlamına gelir. Çok adımlı iş akışlarında, sistemler ve görevler boyunca hatalar birikebilir, bu da denetimi, müdahaleyi ve hesap verebilirliği beklenenden çok daha zor hale getirir.

Şirketler, hala dağıtımı, bir düzenleme veya yardım problemi olarak ele alıyor, oysa bu aynı zamanda bir öğrenme problemidir. Zor olan, bir ajanın bir görevi gerçekleştirmesini sağlamak değildir, bir dinamik operasyonel ortamda kalıcı yetenek ve yargı geliştirmesini sağlamaktır.

Şu anda, özelleştirme, yardım, denetim ve yeniden mühendislik yükü hala insan ekipleri üzerinde yoğunlaşmaktadır. Bu, sistemin hala operasyonel anlayışa sahip olmadığına, her seferinde elle yönlendirildiğine işaret etmektedir. Bu, ölçeklenebilirlik veya güven için bir yol değildir.

Yapay zeka endüstrisinde, yönetim, güvenlik sınırları ve politika uygulaması gibi konular ön plana çıkıyor. Ancak NeoCognition, yönetim alone yeterli olmadığını savunuyor. Neden sürekli olarak ortamına adapte olabilen sistemlere ihtiyaç duyulduğunu düşünüyorsunuz?

Yönetim ve güvenlik sınırları çok önemlidir, ancak statik kurallar alone, karmaşık ortamlardaki güvenilirliği tamamen çözememektedir.

Üretim seviyesindeki operasyonel sistemler sürekli olarak değişmektedir. İş akışları evrimleşir, araçlar güncellenir, politikalar değişir ve önceden tahmin edilemeyen beklenmedik durumlar ortaya çıkabilir. Bir ajan, yalnızca önceden tanımlanmış kurallara uymayı bilirse ve içinde çalıştığı ortamı anlamazsa, sonunda önceden hesaplanmamış durumlarla karşılaşacaktır.

İnsanların güvenilirliği, yalnızca senaryolara sıkı sıkıya bağlı kalmalarından değil, çevrelerindeki dünyanın yapısını ve kısıtlarını anladıkları için gelişir. Ne zaman yükseltmeyi, ne zaman bir şeylerin anormal olduğunu, ne zaman bağlamın doğru eylem kursunu değiştirdiğini öğreniriz.

Biz de yapay zeka ajanlarının benzer bir uyum ve çevresel anlayış yeteneğine ihtiyacı olduğuna inaniyoruz. Daha güvenli sistemler,明neten uzmanlaşmış ve açık olarak tanımlanmış operasyonel dünyalarda daha yetenekli hale getirilmesinden gelecektir. Bu tür bir sistem, kendi ortamını ve çıkışlarını gözlemler, nerede başarısız olduğunu izler ve davranışını günceller.

Yapay zeka endüstrisi genellikle daha büyük modeller ve daha geniş yetenekler vurgulamaktadır, ancak NeoCognition uzmanlaşma ve bağlamsal öğrenme üzerinde odaklanmaktadır. Gelecekte, kurumsal yapay zeka ajanlarının, evrensel asistanlardan çok, yüksek uzmanlaşmış dijital işçiler gibi görünmesini bekliyorsunuz?

Kesinlikle uzmanlaşmaya odaklanacağımıza inanıyorum. Endüstri, geniş yeteneklere sahip modellere odaklanmaktadır, ancak kurumsal ortamlarda gerçek zorluk, bir ajanın her şeyi biraz yapabilmesi değil, belirli bir rolü güvenilir ve sağduyulu bir şekilde yerine getirebilmesidir. Güçlü yönümüz, her ortamda uzman olmamız değil, belirli bir dünyanın yapısını derinlemesine öğrenerek içinde etkili bir şekilde çalışabilmemizdir.

NeoCognition’da, geleceğin, bir süper ajan tarafından değil, her biri belirli bir dünya hakkında derinlemesine uzmanlaşarak gerçek uzmanlık, güvenilirlik ve yargı ile çalışabilen uzmanlaşmış ajanlar tarafından şekilleneceğine inaniyoruz. Amacı, insan uzmanlığını yerine koymak değil, daha fazla insanın eline frontier-düzey yetenek getirmek ve herhangi bir kişinin veya organizasyonun yapabileceği şeylerin temel seviyesini yükseltmektir.

Özerk ajanların davranışları, ortamların beklenmedik şekilde değiştiğinde, büyük bir endişe kaynağıdır. Gerçek dünya adaptasyonu ve çevresel farkındalığın, hataları, sanrıları veya güvensiz eylemleri önlemede ne kadar önemli olduğunu düşünüyorsunuz?

Bu, mutlak olarak kritiktir. Çevresel farkındalığa sahip olmayan ajanlar, durum anlayışları eskimiş veya eksik olduğunda bile kendinden emin bir şekilde davranmaya devam edebilir. İşte operasyonel başarısızlıklar genellikle ortaya çıkar.

Güvenilirlik için, ajanların içinde çalıştıkları ortamın yerel yapısını sürekli olarak öğrenmeleri ve anlayışlarını zaman içinde güncellemeleri gerektiğini düşünüyoruz. Güvenilirlik, zaman içinde değişir: Eylül ayında güvenilir görünen bir şey, Mayıs ayında aynı şekilde güvenilir görünmeyebilir. Bir ajan, içinde çalıştığı sistemleri, kısıtlamaları, iş akışlarını ve ilişkileri ne kadar iyi anlarsa, değişen koşulları veya belirsizliğin yükseltilmesini gerektiren durumları tanıyabilme yeteneği o kadar artar.

Endüstri, gerçek operasyonel ortamlarla etkileşime giren ve kendilerini sürekli olarak geliştirebilen yapay zeka sistemlerini dağıtmaya ne kadar yakın?

Hala, güvenilir sürekli öğrenme ve kendini geliştirme için gerekli temel öğrenme mekanizmalarının建设indeyiz, ancak endüstri, birçok insanın düşündüğünden daha yakın bir zamanda bu geçişe tanık olabilecektir. Zaman çizelgesi sıkıştırılmıştır. Bir sonraki teknolojik atılım için gerekli bileşenler hazırdır ve bu, oldukça kısa bir süre içinde olabilir.

Önemli olan, soyut self-geliştirme değil, gerçek ortamlarda yapılandırılmış uzmanlaşmadır. Bu, iş akışlarını, kısıtlamaları, ilişkileri ve başarılı davranış kalıplarını,稳 định, yönetilebilir ve felaketli unutma karşı dayanıklı bir şekilde öğrenmek anlamına gelir. NeoCognition’da, bu problemi çözüyoruz.

Gelecek birkaç yıl içinde, güvenilir kurumsal yapay zeka ajanlarını, şu anda piyasaya sürülen deneysel sistemlerden ayıran nedir?

Başarılı olanlar, oyuncak senaryolarından daha fazla, güvenilir operatörler gibi hissedeceklerdir.

Ham model yeteneği alone yeterli olmayacak. Şirketler, ajanların gerçek ortamlarında tutarlı bir şekilde çalışıp çalışamadığına, yerel iş akışlarını ve kısıtlamalarını anladıklarına, sınırlara ve izinlere saygı gösterdiklerine, zaman içinde güvenli bir şekilde adapte olup olmadıklarına ve tekrar eden sonuçlar sağlayıp sağlamadıklarına dikkat edeceklerdir.

Gelecekte, kurumsal yapay zeka alanında başarılı olanlar, en geniş soru yelpazesine cevap verebilen sistemler olmayacak. Bunlar, belirli bir operasyonel dünyayı derinlemesine öğrenerek, içinde gerçek uzmanlık, yargı ve güvenilirlik ile çalışabilen sistemler olacaktır.

Harika röportaj için teşekkür ederiz, daha fazla bilgi edinmek isteyen okuyucular NeoCognition‘u ziyaret edebilir.