Yaron Singer, Robust Intelligence CEO’sü ve Harvard Üniversitesi Bilgisayar Bilimi Profesörü – Röportaj Serisi

Yaron Singer, Robust Intelligence CEO’sü ve Harvard Üniversitesi Bilgisayar Bilimi ve Uygulamalı Matematik Profesörü’dür. Yaron, makine öğrenimi, algoritmalar ve optimizasyon alanındaki çığır açan sonuçları ile tanınmaktadır. Daha önce Google (GOOGL ) Research’te çalışmış ve PhD’lerini UC Berkeley’den almıştır.

Sizleri bilgisayar bilimi ve makine öğrenimi alanına ilk olarak neler çekmiştir?

Benim yolculuğum matematikle başladı, bu da beni bilgisayar bilimine, sonra da makine öğrenimine yöneltti. Matematik başlangıçta ilgimi çekmişti çünkü aksiyomatik sistemi yeni dünyalar yaratmama olanak tanıyordu. Bilgisayar bilimiyle varolan kanıtların yanı sıra bunların arkasındaki algoritmaları öğrendim. Yaratıcı bir bakış açısıyla, bilgisayar bilimi yapabileceğimiz ve yapamayacağımız şeyleri belirleme konusudur.

Makine öğrenimi alanındaki ilgim her zaman gerçek verilere, neredeyse fiziksel yönüne dayanmaktadır. Dünyadan şeyler alıp bunları anlamlı bir şekilde modellemek. Gerçekten de anlamlı modelleme yoluyla daha iyi bir dünya yaratabiliriz. Matematik bana kanıtlama konusunda bir temel verdi, bilgisayar bilimi bana neyin möglich ve neyin imkansız olduğunu gösterdi, makine öğrenimi ise bu kavramları dünyaya uygulamamı sağladı.

Harvard Üniversitesi Bilgisayar Bilimi ve Uygulamalı Matematik Profesörü olarak görev yaptığınız dönemde elde ettiğiniz en önemli sonuçlar nelerdir?

Harvard Üniversitesi’nde öğretim üyesi olarak görev yapmanın bana kazandırdığı en önemli şey, büyük şeyler yapma konusundaki iştahımı geliştirmesiydi. Harvard geleneksel olarak küçük bir öğretim kadrosuna sahiptir ve tenure track öğretim üyelerinden büyük sorunları ele almak ve yeni alanlar yaratmak beklenir. Cesur olmanız gerekir. Bu, bir kategori yaratıcı startup’ı başlatmak ve yeni bir alan tanımlamak için harika bir hazırlıktır. Harvard’ın tenure track’ine ilk olarak başvurmanız gerektiğini önermiyorum ancak bunu atlattıysanız, bir startup kurmak daha kolaydır.

Gelişmiş AI sistemlerinin kötü verilere karşı savunmasız olduğunu ve bunun önemli sonuçları olabileceğini fark ettiğiniz ‘aha’ anınızı anlatır mısınız?

UC Berkeley’de lisansüstü öğrencisiyken, sosyal ağlarda pazarlama için makine öğrenimi modelleri geliştiren bir startup’da çalışmak için bir süre ara verdim. Bu 2010 yılında oldu. Sosyal medyadan büyük miktarda veri aldık ve tüm modelleri sıfırdan kodladık. Perakendeciler için finansal sonuçlar oldukça önemliydi, bu nedenle modellerin performansını yakından takip ettik. Sosyal medya verilerini kullandığımız için girişte birçok hata ve sapma vardı. Küçük hataların model çıktısında büyük değişikliklere neden olabileceğini ve perakendecilerin ürününü kullandığı finanziyel sonuçlara kötü bir şekilde yansıyabileceğini gördük.

Google+’da (bunu hatırlayanlar için) çalışmaya geçtiğimde aynı etkileri gördüm. Daha dramatik bir şekilde, AdWords gibi sistemlerde, insanların bir reklam için anahtar kelimelere tıklayacağı olasılığa ilişkin tahminlerde, model girişindeki küçük hatalar çok kötü tahminlere yol açıyordu. Bu sorunu Google ölçeğinde gördüğünüzde, sorunun evrensel olduğunu anlarsınız.

Bu deneyimler, araştırma odaklanmamı büyük ölçüde etkiledi ve Harvard’da AI modellerinin neden hata yaptığını ve özellikle de hataları önlemek için algoritmalar tasarlamayı araştırdım. Bu, elbette daha fazla ‘aha’ anına ve sonunda Robust Intelligence’ın yaratılmasına yol açtı.

Robust Intelligence’ın doğuş hikayesini paylaşır mısınız?

Robust Intelligence, ilk olarak teorik bir problem olan AI modellerinin kararları için hangi garantilerin sağlanabileceği konusundaki araştırmayla başladı. Kojin, Harvard’da bir öğrenciydi ve birlikte çalıştık, ilk olarak araştırma makaleleri yazarak başladı. Böylece, teorik olarak mümkün ve imkansız olan şeyleri ortaya koyan makaleler yazarak başlıyor. Daha sonra, AI hatalarını önlemek için algoritmalar ve modeller tasarlamak için bir programa devam ettik. Sonra, bu algoritmaları uygulayabilecek sistemler inşa ettik. Sonraki doğal adım, organizasyonların böyle bir sistemi kullanabileceği bir şirket kurmaktı.

Robust Intelligence’ın çözümlediği birçok sorun sessiz hatalardır. Bu sessiz hatalar nedir ve neden bu kadar tehlikelidirler?

Sessiz hataların teknik tanımını vermeden önce, neden AI’nin hatalar yapmasından endişe ediyoruz anlamak önemlidir. AI modellerinin hatalar yapmasından endişe ediyoruz çünkü bu hataların sonuçları vardır. Dünyamız, kritik kararları otomatikleştirmek için AI’yi kullanıyor: kimin bir işveren kredisi alacağı ve hangi faiz oranlarıyla, kimin sağlık sigortası kapsamına alınacağı ve hangi oranlarda, hangi mahallelerin polisle güvenlik altına alınacağı, hangi adayların bir işe en uygun aday olacağı, havalimanı güvenliğinin nasıl organize edileceği vb. AI modellerinin çok hata eğilimli olması, bu kritik kararları otomatikleştirdiğimizde büyük bir riski miras aldığımız anlamına gelir. Robust Intelligence’da buna “AI Risk” diyoruz ve şirketin misyonu AI Risk’i ortadan kaldırmaktır.

Sessiz hatalar, AI modelinin girdisini aldığı ve yanlış veya önyargılı bir çıktı veya karar ürettiği hatalardır. Yani, sistem için her şey fonksiyonel olarak doğru görünür, ancak çıktı yanlış veya önyargılıdır. Bu hatalar sessizdir çünkü sistem hatanın farkında değildir. Bu, AI modelinin çıktılarından hiçbirinin üretilmediği duruma göre çok daha kötü olabilir, çünkü organizasyonların AI sisteminin kusurlu olduğunu anlaması uzun zaman alabilir. Sonra AI riski, AI başarısızlıklarına dönüşebilir ve bu da kötü sonuçlara yol açabilir.

Robust Intelligence, esasen imkansız olarak kabul edilen bir AI Güvenlik Duvarı tasarladı. Bu neden böyle bir teknik zorluktur?

AI Güvenlik Duvarı’nın bir nedeni, önceki ML topluluğunun paradigmasına aykırı olmasıdır. ML topluluğunun önceki paradigması, hataları ortadan kaldırmak için modellere daha fazla veri, včetně kötü verilerin verilmesi gerektiğiydi. Bu yaklaşımın sorunu, modelin doğruluğunun dramatik bir şekilde düşmesidir. En iyi bilinen sonuçlar, AI modelinin doğruluğunu %98.5’ten %37’ye düşürür.

AI Güvenlik Duvarı farklı bir çözüm sunar. Hatanın tanımlanması sorununu, bir tahmin oluşturma görevinden ayırarak, güvenlik duvarı tek bir görev üzerinde odaklanabilir: bir veri noktasının yanlış bir tahmin üreteceğini belirleme.

Bu, tek bir veri noktası için bir tahminde bulunmanın zorluğu nedeniyle kendisi bir zorluktu. Modellerin hata yapma nedenleri çok fazla, bu nedenle bu hataları öngören bir teknoloji geliştirmek kolay değildi. Çok yetenekli mühendislerimiz olduğu için şanslıyız.

Sistem AI önyargısını nasıl önleyebilir?

Model önyargısı, modelin eğitildiği veriler ile tahminlerde bulunduğu veriler arasındaki uyumsuzluktan kaynaklanır. AI riskine geri dönersek, önyargı sessiz hataların önemli bir sorunudur. Örneğin, bu, temsil edilmeyen nüfuslar için souvent bir sorundur. Bir model, bu nüfustan daha az veri gördüğü için önyargılı olabilir, bu da modelin performansını ve tahminlerinin doğruluğunu dramatik bir şekilde etkiler. AI Güvenlik Duvarı, organizasyonları bu veri uyumsuzluklarına karşı uyarabilir ve modelin doğru kararlar almasına yardımcı olabilir.

AI Güvenlik Duvarı’nın organizasyonları korumaya yardımcı olduğu diğer riskler nelerdir?

AI’yi kritik kararları otomatikleştirmek için kullanan herhangi bir şirket, otomatik olarak riski de tanıtmış olur. Kötü veri, sadece bir sıfır yerine bir bir girilmesi olabilir, ancak önemli sonuçlara yol açabilir. AI Güvenlik Duvarı, organizasyonların riski tamamen önlemede yardımcı olur.

Robust Intelligence hakkında paylaşmak istediğiniz başka bir şey var mı?

Robust Intelligence hızla büyüyor ve çok iyi adaylar başvuruyor. Ancak vurgulamak istediğim bir şey, adaylarda aradığımız en önemli niteliğin misyona olan tutkuları olmasıdır. Teknik olarak güçlü adaylarla tanışıyoruz, ancak gerçekten AI riskini ortadan kaldırmak ve dünyayı daha güvenli ve daha iyi bir yer haline getirmek için tutkulu olanları arıyoruz.

Dünyanın gideceği yönde, şu anda insanların yaptığı birçok karar otomatikleştirilecek. Buna ister istemez, bu bir gerçektir. Buna karşın, otomatikleştirilen kararların sorumlu bir şekilde verilmesini istiyoruz. Bu nedenle, impact yaratmak isteyen, insanların hayatlarını nasıl etkileyebileceğini anlayan herkesi Robust Intelligence’a katılmaya davet ediyoruz. Tutkuyu arıyoruz. Dünyanın kullanacağı bu teknolojiyi yaratacak insanları arıyoruz. Tutkuyu arıyoruz. Dünyanın kullanacağı bu teknolojiyi yaratacak insanları arıyoruz.

Harika bir röportaj için teşekkür ederim, AI önyargısını önleme ve AI Güvenlik Duvarı ihtiyacına ilişkin görüşlerinizi öğrenmekten keyif aldım, daha fazla bilgi edinmek isteyen okuyucular Robust Intelligence sitesini ziyaret edebilir.