Aizip Inc’in Kurucu Ortağı Yubei Chen – Röportaj Serisi

Yubei Chen Aizip inc.’in kurucu ortaklarından biri. Aynı zamanda California, Davis Üniversitesi’nde ECE Departmanı’nda yardımcı profesör. Chen’in araştırmaları, hesaplamalı nörobilimi ve derin gözetimsiz (kendini gözetimli) öğrenme arasındaki kesişme noktasında yer alıyor. Bu araştırmalar, beynin ve makinelerin gözetimsiz temsil öğrenimi üzerindeki hesaplamalı ilkelerin anlaşılmasını geliştiriyor ve doğal sinyal istatistiklerine ilişkin içgörülerimizi yeniden şekillendiriyor.

UC Davis’e katılmadan önce, Chen, NYU Center for Data Science (CDS) ve Meta Fundamental AI Research (FAIR) bünyesinde Prof. Yann LeCun ile doktora sonrası nghiên cứu yaptı. Berkeley AI Research (BAIR), UC Berkeley’de Prof. Bruno Olshausen’in rehberliğinde doktorasını tamamladı.

Aizip, kenar cihazlar için optimize edilmiş ultra verimli AI çözümleri geliştiriyor. Görüntü, ses, zaman serisi, dil ve sensör füzyon uygulamaları için kompakt modeller sunuyor. Ürünleri, yüz ve nesne tanıma, anahtar kelime tanıma, ECG/EEG analizi ve cihaz içi sohbet botları gibi görevleri gerçekleştirebiliyor. Tüm bunlar TinyML tarafından destekleniyor. AI nanofactory platformu Aizipline aracılığıyla, şirket, temel ve üreteç modelleri kullanarak AI tasarım otomasyonuna doğru ilerlemeyi hızlandırıyor. Aizip’in Gizmo serisi küçük dil modelleri (300M-2B parametre), geniş bir cihaz yelpazesini destekliyor ve kenara akıllı yetenekler getiriyor.

Yann LeCun ile NYU ve Meta FAIR’de yaptığınız doktora sonrası araştırması ve UC Berkeley’deki araştırmanız, gerçek dünya AI çözümlerini oluşturma yaklaşımınızı nasıl şekillendirdi?

Berkeley’de, çalışmalarım bilimsel sorgulama ve matematiksel titizlik üzerine derinlemesine köklenmişti. Doktora araştırmam, elektrik mühendisliği, bilgisayar bilimi ve hesaplamalı nörobilim birleştirdi. AI sistemlerini “beyaz kutu” perspektifinden anlamaya odaklandım. Yorumlanabilir, yüksek performanslı AI modelleri ve görselleştirme teknikleri geliştirdim. Bunlar, siyah kutu AI sistemlerini açığa çıkarmaya yardımcı oldu.

Meta FAIR’de odak, ölçeklenebilirlik ve mühendislik üzerineydi. Dünya standartlarında hesaplama kaynaklarına erişimim vardı. Kendini gözetimli öğrenme sınırlarını keşfettim ve “dünya modelleri” olarak adlandırdığımız şeylere katkıda bulundum. Bunlar, veri öğrenen ve mümkün环境ları hayal eden AI sistemleridir. Berkeley’deki bilimsel anlayış ve Meta’daki ölçeklenebilirlik deneyimi, AI geliştirme hakkında kapsamlı bir perspektif kazandırdı. Hem teorik içgörü hem de pratik uygulama arasındaki önem üzerinde durdu.

Hesaplamalı nörobilim ile AI birleştiren çalışmalarınız, AI modellerinin geliştirilme şeklini nasıl etkiliyor?

Hesaplamalı nörobilimde, beyin nasıl bilgi işlediğini anlamak için çeşitli stimuluslara tepkilerini ölçeriz. AI modellerini de benzer şekilde iç mekanizmalarını anlamak için sorgularız. Kariyerimin başlangıcında, kelime gömme analiz teknikleri geliştirdim. Kelimeleri (“elma” gibi) anlamsal bileşenlerine ayırarak (“meyve” ve “teknoloji” gibi) analiz ettim. Daha sonra bu yaklaşım, transformerler ve büyük dil modelleri gibi daha karmaşık AI modellerine genişletildi. Bu, onların bilgi işleme ve depolama stratejilerini açığa çıkarmaya yardımcı oldu.

Bu yöntemler, nörobilimde beynin aktivitesini incelemek için kullanılan tekniklere paralel. AI modellerinin iç temsilini sorgulamak, onların akıl yürütme stratejilerini ve ortaya çıkan özelliklerini (örneğin, belirli fikirleri temsil eden kavram nöronları) anlamamızı sağlar. Bu, modelden kaynaklanan önyargıları gidermek için de kullanılır. Bu nedenle, nörobilimdense esinlenen yaklaşımlar, AI’yi daha açıklanabilir, güvenilir ve verimli hale getirir.

Aizip’i kurma fikri nasıl oluştu? Şirketin kuruluş yolculuğunu paylaşabilir misiniz?

Temel AI araştırmacısı olarak, çalışmalarımın çoğu teorikti. Ancak, araştırma ile gerçek dünya uygulamaları arasındaki boşluğu kapatmak istedim. Aizip’i, kenar cihazlar için optimize edilmiş AI yeniliklerini pratik kullanıma taşımak amacıyla kurdum. Büyük temel modeller yerine, dünyanın en küçük ve en verimli AI modellerini geliştirmeye odaklandık.

Yolculuk, bir gözlemle başladı: AI ilerlemeleri hızlı bir şekilde ölçekleniyordu, ancak gerçek dünya uygulamaları genellikle hafif ve yüksek verimli modellere ihtiyaç duyuyordu. Bilimsel titizlik ve pratik dağıtım arasında bir denge sağlamak için yeni bir yönün öncüsü olmak için bir fırsat gördük. Kendini gözetimli öğrenme ve kompakt model mimarileri konusundaki içgörülerimizi kullanarak, Aizip, kenarda çalışabilen ve yeni AI olanakları sunan AI çözümleri sunmaya başladı.

Aizip, kenar cihazlar için küçük AI modellerine odaklanıyor. Pazarda hangi boşluğu gördünüz ki bu odaklanma oluştu?

AI endüstrisi genellikle modelleri ölçeklendirme üzerine odaklanıyor. Ancak, gerçek dünya uygulamaları genellikle yüksek verimlilik, düşük güç tüketimi ve minimum gecikme gerektirir. Çoğu AI modeli, gömülü cihazlarda dağıtıma uygun değildir. Pazarda, güçlü performans sunarken kaynak kısıtlamaları içinde çalışan AI çözümlerine ihtiyaç duyulan bir boşluk gördük.

Her AI uygulamasının devasa modeller üzerinde çalışması gerekmediğini ve bunun ölçeklendirilebilir olmayacağını anladık. Algoritmaları maximum verimlilik için optimize etmeye odaklandık. Kenar uygulamaları için tasarlanmış AI modelleri geliştirerek, AI’yi geleneksel modellerin çalışamayacağı yerlerde çalıştırabiliyoruz. Bu yaklaşım, AI’yi daha erişilebilir, ölçeklendirilebilir ve enerji verimli hale getirerek, bulut ötesinde AI driven yenilikler için yeni olanaklar sunuyor.

Küçük Dil Modelleri (SLM) konusunda Aizip’in geliştirdiği yaklaşımı ve bunların daha büyük modellerle nasıl rekabet ettiğini veya tamamlayıcı olduğunu anlatır mısınız?

SLM’ler ve daha büyük modeller gibi GPT-4, doğrudan rekabet içinde değildir. Farklı ihtiyaçları karşılarlar. Daha büyük modeller, genellemeye ve derin akıl yürütmeye güçlüdür, ancak önemli hesaplama kaynakları gerektirir. SLM’ler, verimlilik ve kenar cihazlarda dağıtım için tasarlanmıştır. Gerçek zamanlı, yerel zeka sunarak, bulut tabanlı büyük modelleri tamamlarlar. Büyük modeller, karmaşık sorguları işlerken, SLM’ler kenarda anlık kararlar alabilir.

Düşük güç tüketimli kenar cihazlar için AI modellerini yeterli derecede verimli hale getirmenin en büyük teknik zorlukları nelerdir?

Temel bir zorluk, AI modellerinin nasıl çalıştığına dair tam bir teorik anlayışın eksikliğidir. Bu, optimizasyon çabalarının genellikle deneysel olmasına yol açar, bu da verimlilik kazanımlarını sınırlar. Ayrıca, insan öğrenmesi, mevcut makine öğrenimi paradigmalarının tam olarak yakalayamadığı çeşitli yollardan gerçekleşir. Bu, insan verimliliğini taklit eden modeller tasarlamayı zorlaştırır.

Mühendislik açısından, AI’yi aşırı kısıtlamalar içinde çalıştırma ihtiyacı, model sıkıştırma, kuantizasyon ve mimari tasarımında yenilikçi çözümler gerektirir. Bir diğer zorluk, çeşitli cihazlar ve ortamlarda çalışabilen ve esnekliğini koruyan AI modelleri oluşturmaktır. AI, IoT ve sensörler aracılığıyla fiziksel dünya ile etkileşime girerken, doğal ve verimli arayüzlerin ihtiyacı artıyor. Kenardaki AI, kullanıcıların dijital dünya ile etkileşimini yeniden tanımlamaya yönelik.

Aizip’in SoftBank gibi şirketlerle yaptığı çalışmalardan bahseder misiniz?

SoftBank ile bir aquaculture projesinde ortaklık kurduk. Bu proje, bir CES İnovasyon Ödülü kazandı. Verimli, kenar tabanlı bir AI modeli geliştirdik. Bu model, su ürünleri yetiştiricileri için balık sayma uygulamasında kullanılabiliyor. Bu çözüm, su ürünleri yetiştiriciliğinde sürdürülebilirlik, gıda israfı ve karlılık sorunlarına yol açabilecek bir sorunu ele alıyor. Endüstrinin, özellikle denizde güvenilir güç ve bağlantı eksikliği nedeniyle, AI çözümlerini benimsemesi yavaş ilerledi.

Bu soruna çözüm olarak, cihazda çalışan bir çözüm geliştirdik. SoftBank’in bilgisayar grafikleri simülasyonlarını eğitim verisi olarak kullandık ve kompakt AI modellerimizle birleştirdik. Yüksek doğrulukta bir sistem oluşturduk ve bu sistem akıllı telefonlarda çalışabiliyor. Su altı testlerinde %95’lik bir tanıma oranına ulaştı. Bu, balık sayımlarının doğruluğunu önemli ölçüde iyileştirdi. Böylece, yetiştiriciler depolama koşullarını optimize edebiliyor, balıkların canlı mı dondurulmuş mu taşınması gerektiğine karar verebiliyor ve balıklarda olası hastalıkları veya diğer sağlık sorunlarını tespit edebiliyor.

Bu, verimliliği artırıyor, maliyetleri düşürüyor ve manuel emek ihtiyacını azaltıyor. Daha geniş bir perspektiften, AI’nin gerçek dünya sorunlarına somut bir impact yaratabileceğini gösteriyor.

Aizip, “AI Nanofactory” kavramını tanıttı. Bu, AI model geliştirme sürecini nasıl otomatikleştiriyor?

AI Nanofactory, AI tasarım otomasyon.pipeline’imizi ifade ediyor. Bu, yarı iletken üretimi中的 Electronic Design Automation (EDA) tarafından esinlenildi. Yeni bir teknoloji alanındaki erken geliştirme, çok fazla manuel çaba gerektirir. Otomasyon, ilerlemeyi hızlandırmak ve ölçeklenebilirliği artırmak için anahtardır.

AI’nin kendi gelişimini hızlandırmasını sorduk. AI Nanofactory, AI model geliştirme sürecinin her aşamasını otomatikleştiriyor: veri işleme, mimari tasarım, model seçimi, eğitim, kuantizasyon, dağıtım ve hata ayıklama. AI’yi kullanarak AI’yi optimize ederek, yeni modellerin geliştirme süresini ortalama 10 kat azalttık. Bazı durumlarda, 1.000 kat daha hızlı geliştiriyoruz. Bir yıl süren bir model geliştirme süreci, artık birkaç saat içinde tamamlanıyor.

Bu, AI çözümlerinin ekonomik olarak uygulanabilir olmasını sağlıyor ve gerçek dünya AI dağıtımı daha erişilebilir ve ölçeklenebilir hale geliyor.

Gelecek beş yıl içinde kenar AI’nin rolünün nasıl evrileceğini öngörüyorsunuz?

Kenar AI, teknoloji ile etkileşimimizi değiştirecek. Bugün çoğu AI uygulaması bulut tabanlı, ancak AI, fiziksel dünya ile etkileşen sensörler ve cihazlara doğru kayıyor. Bu, kenarda gerçek zamanlı işleme ihtiyacını vurguluyor.

Gelecek beş yıl içinde, kenar AI’nin daha doğal insan-bilgisayar etkileşimlerini ermögekteğini bekliyoruz. Ses ve jest tanıma gibi arayüzler, klavye ve dokunmatik ekran bağımlılığını azaltacak. AI, akıllı evler veya endüstriyel otomasyon gibi ortamlarda daha fazla gömülü hale gelecek ve anlık kararlar alabilecek. Kenar AI sistemleri, AI Nanofactory gibi otomasyon sayesinde, daha fazla self-optimizasyon ve adaptasyon gösterecek. Bu, sağlık, otomotiv ve tarım gibi sektörlerde yeni fırsatlar açacak.

Aizip’ten en çok heyecan duyduğunuz AI destekli cihazlar hangileri?

Otomotiv sektöründe bir AI ajanı üzerinde çalışıyoruz. Çinli otomobil üreticileri, ChatGPT benzeri dil modellerini araç içi asistan olarak geliştirmeye ilgi gösteriyorlar. Ancak, mevcut asistanlar genellikle bulutta çalışıyor ve esnek diyalog için yerel olarak çalışmıyor. Biz, ultra verimli, SLM güçlendirilmiş AI ajanları geliştiriyoruz. Bunlar, araç içi “koltuk arkası” olarak çalışabilecek ve sürücülere daha doğal bir şekilde komut verme olanağı tanıyacak.

Bu ajanlar, niyeti daha nüanslı bir şekilde anlayabiliyor ve sürücünün sadece “Soğuk” dediğinde sıcaklığı ayarlayabiliyor veya “Yarın Boston’a gidiyorum, ne giymeliyim?” gibi bir soruya cevap verebiliyor. Bunlar, sürücünün dikkatini yoldan ayırmadan, sesli komutlarla araç kontrollerini yönetmesini sağlıyor. Ayrıca, conexiónsız bölgelerde bile çalışmaya devam ediyor.

Bunlar, insanların günlük hayatlarında anlamlı bir fark yaratan çözümler. Biz, insanların hayatlarını iyileştiren çözümler geliştirmekten gurur duyuyoruz.

Aizip, kenar cihazlar için optimize edilmiş ultra verimli AI çözümleri geliştiriyor. Görüntü, ses, zaman serisi, dil ve sensör füzyon uygulamaları için kompakt modeller sunuyor. Ürünleri, yüz ve nesne tanıma, anahtar kelime tanıma, ECG/EEG analizi ve cihaz içi sohbet botları gibi görevleri gerçekleştirebiliyor. Tüm bunlar TinyML tarafından destekleniyor. AI nanofactory platformu Aizipline aracılığıyla, şirket, temel ve üreteç modelleri kullanarak AI tasarım otomasyonuna doğru ilerlemeyi hızlandırıyor. Aizip’in Gizmo serisi küçük dil modelleri (300M-2B parametre), geniş bir cihaz yelpazesini destekliyor ve kenara akıllı yetenekler getiriyor.

Harika bir röportaj için teşekkür ederiz. Daha fazla bilgi öğrenmek isteyen okuyucular Aizip‘i ziyaret edebilir.