Etan Ginsberg, Martian'ın Kurucu Ortağı – Röportaj Serisi

Etan Ginsberg Kurucu Ortaktır Mars, her istemi dinamik olarak en iyi LLM'ye yönlendiren bir platform. Martian, yönlendirme sayesinde, GPT-4 de dahil olmak üzere herhangi bir bireysel sağlayıcıdan daha yüksek performans ve daha düşük maliyet elde ediyor. Sistem, LLM'leri karmaşık kara kutulardan daha yorumlanabilir bir mimariye dönüştüren şirketin benzersiz Model Haritalama teknolojisi üzerine inşa edilmiştir ve bu da onu mekanik yorumlanabilirliğin ilk ticari uygulaması haline getirmektedir.

Etan ortaokul yıllarından bu yana müşteriler için kod yazıyor, web siteleri tasarlıyor ve müşteriler için e-işletmeler kuruyor. Polimat Etan, Dünya Hafıza Şampiyonası yarışmacısıdır ve Çin'in Shenzhen kentinde düzenlenen Dünya Hızlı Okuma Şampiyonasında 2. olmuştur.

Kendisi bir video hackathon yarışmacısıdır. Geçmiş ödüller arasında Tech Crunch SZ'de 3.lük ödülü, Princeton Hackathon'da ilk 7 finalist ve Yale Hackathon'da 3 sektör ödülü yer alıyor.

Daha önce iki kez startup kurucusu oldunuz, bu şirketler nelerdi ve bu deneyimden ne öğrendiniz?

İlk şirketim, Amerikan Ninja Savaşçısı sporunun tanıtımına ve ilerlemesine yönelik ilk platformdu. 2012'de American Ninja Warrior'ı bir yeraltı sporu olarak görüyordum (90'lardaki MMA'ya benzer) ve insanların plan satın alabileceği, engeller sipariş edebileceği ve antrenman yapacak spor salonları bulabileceği ilk platformu oluşturdum. ABD Özel Kuvvetlerine bir eğitim kursunda yardımcı olmak ve bir tesisi peçete taslağından ilk 300 ayda gelirini 3 bin dolara çıkarmak da dahil olmak üzere kendi spor salonlarını açmak isteyen şirketlere danışmanlık yaptım. Lisede olmama rağmen, 20'den fazla çalışandan oluşan ekipleri yönetme konusunda ilk deneyimimi yaşadım ve etkili yönetim ve kişilerarası ilişkiler hakkında bilgi sahibi oldum.

İkinci şirketim, kriptoda ICO dalgasından önce 2017 yılında kurucu ortağı olduğum alternatif bir varlık yönetimi şirketiydi. Bu, sosyal medya verilerinin duyarlılık analizini bir yatırım stratejisi olarak kullandığımız NLP ile ilk karşılaşmamdı.

Bir ekibin nasıl yönetileceğinden NLP'nin teknik yönlerine kadar, bir startup'ı yönetmeye yönelik pek çok sert ve yumuşak beceriyi öğrendim. Aynı zamanda kendim ve hangi alanda çalışmak istediğim hakkında da çok şey öğrendim. En başarılı şirketlerin, daha geniş bir vizyona veya onları yönlendiren bir hedefe sahip kurucular tarafından kurulduğuna inanıyorum. NLP'ye odaklanmak için 2017'de kriptoyu bıraktım çünkü insanlığın zekasını geliştirmek ve anlamak beni gerçekten motive eden bir şey. Bunu keşfettiğime sevindim.

Pensilvanya Üniversitesi'ne giderken biraz yapay zeka araştırması yaptınız, özellikle neyi araştırıyordunuz?

Araştırmamız başlangıçta Yüksek Lisans uygulamaları oluşturmaya odaklandı. Özellikle, Yüksek Lisans'ın eğitimsel uygulamaları üzerinde çalışıyorduk ve ilk Yüksek Lisans destekli bilişsel öğretmeni inşa ediyorduk. Sonuçlar oldukça iyiydi - ilk deneylerde öğrenci sonuçlarında 0.3 standart sapmalık bir iyileşme gördük - ve sistemimiz Pennsylvania Üniversitesi'nden Butan Üniversitesi'ne kadar kullanıldı.

Bu araştırmanın sizi Martian'ın kurucu ortağı olmaya nasıl yönlendirdiğini anlatabilir misiniz?

Yüksek Lisans'ların üzerine uygulama geliştiren ilk kişilerden olduğumuz için, aynı zamanda insanların Yüksek Lisans'ın üzerine uygulama geliştirirken karşılaştıkları sorunlarla karşılaşan ilk kişilerden bazılarıydık. Bu, araştırmamızı altyapı katmanına doğru yönlendirdi. Örneğin, çok erken bir dönemde, GPT-3 gibi daha büyük modellerin çıktıları üzerinde daha küçük modellere, programlama ve matematik problemi çözme gibi görevler için ise özel veri kaynaklarına ilişkin modellere ince ayar yapıyorduk. Bu da sonunda bizi model davranışını anlama ve model yönlendirmeyle ilgili sorunlara yöneltti.

Mars isminin kökeni ve zekayla ilişkisi de ilginç, bu ismin nasıl seçildiğinin hikâyesini paylaşabilir misiniz?

Şirketimiz adını "" olarak bilinen bir grup Macar-Amerikalı bilim adamından almıştır.)Marslılar”. 20. yüzyılda yaşayan bu grup, gelmiş geçmiş en akıllı insanlardan oluşuyordu:

• Aralarında en ünlüsü şuydu John von Neumann; oyun teorisini, modern bilgisayar mimarisini, otomata teorisini icat etti ve onlarca başka alana temel katkılarda bulundu.
• paul erdos 1500'den fazla makale yayınlayarak tüm zamanların en üretken matematikçisiydi.
• Theodore Von Karman Aerodinamiğin temel teorilerini oluşturdu ve Amerikan uzay programının kurulmasına yardımcı oldu. Dünya ile uzay arasındaki insan tarafından tanımlanan sınıra, çalışmalarının anısına “Kármán çizgisi” adı veriliyor.
• Leo Szilard atom bombasını, radyasyon terapisini ve parçacık hızlandırıcılarını icat etti.

Bu bilim adamları ve onlar gibi 14 kişi (hidrojen bombasının mucidi, grup teorisini modern fiziğe sokan adam ve kombinatorik, sayı teorisi, sayısal analiz ve olasılık teorisi gibi alanlara temel katkıda bulunanlar dahil) dikkate değer bir benzerliği paylaşıyordu; hepsi Budapeşte'nin aynı bölgesinde doğdular. Bu durum insanları şu soruyu sormaya yöneltti: Bu kadar çok istihbaratın kaynağı neydi?

Yanıt olarak Szilard, "Marslılar zaten buradalar ve kendilerine Macar diyorlar!" şeklinde şaka yaptı. Gerçekte… kimse bilmiyor.

İnsanlık bugün potansiyel olarak süperzeki yeni bir dizi zihinle ilgili olarak kendisini benzer bir konumda buluyor: Yapay Zeka. İnsanlar modellerin inanılmaz derecede akıllı olabileceğini biliyor ancak nasıl çalıştıkları hakkında hiçbir fikirleri yok.

Misyonumuz bu soruyu yanıtlamak, modern süper zekayı anlamak ve kullanmaktır.

İnanılmaz hafıza becerilerine sahip bir geçmişiniz var, bu hafıza zorluklarına nasıl kapıldınız ve bu bilgi Marslı kavramı konusunda size nasıl yardımcı oldu?

Çoğu spor dalında, profesyonel bir sporcu ortalama bir insandan yaklaşık 2-3 kat daha iyi performans gösterebilir (ortalama bir kişinin sahadan ne kadar uzağa şut atabildiğini veya bir profesyonelle karşılaştırıldığında hızlı bir topu ne kadar hızlı fırlattığını karşılaştırın). Hafıza sporları büyüleyicidir çünkü en iyi sporcular çoğu spor dalından daha az antrenman yapan ortalama bir kişiden 100 kat, hatta 1000 kat daha fazla ezberleyebilirler. Üstelik bunlar genellikle ortalama doğal hafızaya sahip ve performanslarını herkesin öğrenebileceği belirli tekniklere borçlu olan kişilerdir. İnsanlığın bilgisini en üst düzeye çıkarmak istiyorum ve dünya hafıza şampiyonalarını, insan zekasını artırarak olağanüstü getirileri nasıl elde edebileceğimize dair yeterince takdir edilmeyen bir içgörü olarak gördüm.

Bellek tekniklerini eğitim sisteminin tamamına yaymak istedim ve böylece NLP ve LLM'lerin, en etkili eğitim yöntemlerinin ana akım eğitim sisteminde kullanılmasını engelleyen kurulum maliyetini azaltmaya nasıl yardımcı olabileceğini araştırmaya başladım. Yash ve ben ilk LLM destekli bilişsel öğretmeni yarattık ve bu, bugün çözülmesine yardımcı olduğumuz LLM dağıtımıyla ilgili sorunları keşfetmemize yol açtı.

Martian, esasen hangi Büyük Dil Modelinin (LLM) kullanılacağına dair kararı soyutluyor, bu neden şu anda geliştiriciler için bu kadar sıkıntılı bir nokta?

Dil modelleri oluşturmak giderek daha kolay hale geliyor; bilgi işlem maliyeti düşüyor, algoritmalar daha verimli hale geliyor ve bu modelleri oluşturmak için daha fazla açık kaynak araç mevcut. Sonuç olarak, giderek daha fazla şirket ve geliştirici, özel veriler üzerinde eğitilmiş özel modeller oluşturuyor. Bu modellerin maliyetleri ve yetenekleri farklı olduğundan birden fazla model kullanarak daha iyi performans elde edebilirsiniz ancak hepsini test etmek ve kullanılacak doğru modeli bulmak zordur. Geliştiriciler için bununla ilgileniyoruz.

Sistemin, her bir özel görev için hangi LLM'nin en iyi şekilde kullanıldığını nasıl anladığını tartışabilir misiniz?

İyi yönlendirme, temelde modellerin anlaşılmasıyla ilgili bir sorundur. Modeller arasında etkili bir şekilde yönlendirme yapmak için, onların başarısız olmasına veya başarılı olmasına neyin sebep olduğunu anlayabilmek istersiniz. Model eşlemeyle bu özellikleri anlayabilmek, herhangi bir modelin bir istek üzerine o modeli çalıştırmaya gerek kalmadan ne kadar iyi performans göstereceğini belirlememize olanak tanır. Sonuç olarak bu isteği en iyi sonucu verecek modele gönderebiliriz.

Hangi LLM'nin kullanıldığını optimize ederek görülebilecek maliyet tasarrufu türlerini tartışabilir misiniz?

Kullanıcıların maliyet ve performans arasında nasıl bir denge kuracaklarını belirlemelerine izin veriyoruz. Yalnızca performansı önemsiyorsanız, openai/eval'lerde GPT-4'ten daha iyi performans gösterebiliriz. Birim ekonominizi yürütmek için belirli bir maliyet arıyorsanız, isteğiniz için maksimum maliyeti belirtmenize ve ardından bu isteği tamamlamak için en iyi modeli bulmanıza olanak sağlıyoruz. Daha dinamik bir şey istiyorsanız, daha iyi bir yanıt için ne kadar ödemek istediğinizi belirtmenize izin veririz; bu şekilde, iki model benzer performansa sahip ancak maliyet açısından büyük bir fark varsa, daha ucuz modelleri kullanmanıza izin verebiliriz. . Müşterilerimizden bazıları maliyette 12 kata kadar düşüş gördü.

Marslıların geleceğine dair vizyonunuz nedir?

Modellere ilişkin temel anlayışımızı her geliştirdiğimizde, bu yapay zeka için bir paradigma değişikliğine yol açıyor. İnce ayar, çıktıların anlaşılmasıyla yönlendirilen paradigmaydı. Yönlendirme, girdilerin anlaşılmasıyla yönlendirilen paradigmadır. Model anlayışımızdaki bu tek fark, geleneksel ML'yi ("hadi bir regresör eğitelim") ve modern üretken yapay zekayı ("hadi bir bebek AGI'yi harekete geçirelim") ayıran şeyin büyük bir kısmıdır.

Amacımız, yapay zeka tam olarak anlaşılana ve mantık veya matematik teorilerimiz kadar sağlam bir zeka teorisine sahip olana kadar, yorumlanabilirlik alanında sürekli olarak atılımlar sunmaktır.

Bizim için bu, inşa etmek anlamına geliyor. Bu, harika yapay zeka araçları oluşturmak ve bunları insanların kullanımına sunmak anlamına geliyor. Bu, daha önce kimsenin yapmadığı, kalıpları kıran ve her şeyden çok ilginç ve faydalı olan şeyleri serbest bırakmak anlamına geliyor.

Sir Francis Bacon'un ifadesiyle "Bilgi güçtür." Buna göre yapay zekayı anladığımızdan emin olmanın en iyi yolu güçlü araçlar sunmaktır. Bize göre bir model yönlendirici bu tür bir araçtır. Onu inşa etmekten, büyütmekten ve insanların ellerine teslim etmekten heyecan duyuyoruz.

Bu, önümüzdeki aylarda yayınlayacağımız birçok aracın ilki. Güzel bir yapay zeka teorisi keşfetmek, tamamen yeni türde yapay zeka altyapısı sağlamak, hem insan hem de makine için daha parlak bir gelecek inşa etmeye yardımcı olmak için bu araçları sizinle paylaşmak için sabırsızlanıyoruz.

Harika röportaj için teşekkürler, daha fazla bilgi edinmek isteyen okuyucular ziyaret etmelidir. Mars.