Etan Ginsberg, Martian’in Kurucu Ortağı – Röportaj Serisi

Etan Ginsberg, Martian adlı platformun kurucu ortağıdır. Martian, her bir promtu en iyi LLM’ye dinamik olarak yönlendiren bir platformdur. Yönlendirme yoluyla, Martian tek bir sağlayıcıdan daha yüksek performans ve daha düşük maliyet sağlar, bu da GPT-4 dahil olmak üzere herhangi bir bireysel sağlayıcıdan daha iyidir. Sistem, LLM’leri karmaşık siyah kutulardan daha yorumlanabilir bir mimariye ayırarak şirketin benzersiz Model Mapping teknolojisine dayanmaktadır ve bu, mekanik yorumlanabilirliğin ilk ticari uygulamasıdır.

Etan, ortaokuldayken kodlama, web sitesi tasarımı ve müşteriler için e-işletmeler oluşturmaya başlamıştır. Bir polymath olan Etan, Dünya Hafıza Şampiyonaları’na katılan bir yarışmacıdır ve Çin’in Shenzhen kentinde düzenlenen Dünya Hızlı Okuma Şampiyonaları’nda 2. olmuştur.

O, bir vid hackathon yarışmacısıdır. Geçmişteki ödülleri arasında Tech Crunch SZ’de 3. ödül, Princeton Hackathon’da ilk 7 finalist ve Yale Hackathon’da 3 endüstri ödülü bulunmaktadır.

Siz daha önce iki kez startup kurucususunuz, bu şirketler nelerdi ve bu deneyimden neler öğrendiniz?

İlk şirketim, American Ninja Warrior sporunun tanıtımı ve geliştirilmesi için ilk platformdu. 2012’de, American Ninja Warrior’ı (90’ların MMA’sı gibi) yeraltı bir spor olarak gördüm ve insanların mavi çizimleri satın alabileceği, engeller sipariş edebileceği ve antrenman için salon bulabileceği ilk platformu oluşturdum. Şirketler için kendi jimnastik salonlarını açmaları konusunda danışmanlık yaptım, ayrıca ABD Özel Kuvvetleri için bir eğitim kursu ve 3 ayda 300.000 dolar gelir elde eden bir tesisi ölçeklendirme konusunda yardımcı oldum. Lisedeydim, ancak 20’den fazla işçinin yönetimine ilişkin ilk deneyimimi kazandım ve etkili yönetim ve kişiler arası ilişkiler hakkında öğrendim.

İkinci şirketim, 2017’de kripto ICO dalgasından önce kurduğum bir alternatif varlık yönetim şirketiydi. Bu, NLP’ye ilk maruz kaldığım yerdi, burada sosyal medya verilerinin duygu analizini bir yatırım stratejisi olarak kullandık.

Startup işletmenin teknik ve idari yönlerini öğrendim. Aynı zamanda, ne üzerinde çalışmak istediğimi de öğrendim. En başarılı şirketlerin, daha geniş bir vizyon veya hedef tarafından yönlendirilen kurucular tarafından kurulduğuna inanıyorum. 2017’de NLP’ye odaklanmak için kriptoyu bıraktım, çünkü insan zekasını güçlendirme ve anlama fikri beni gerçekten motive ediyor. Bunu keşfetmekten memnundum.

Pennsylvania Üniversitesi’ne katıldığınız sırada yaptığınız bazı AI araştırmaları nelerdi?

Araştırmamız başlangıçta LLM’lerin uygulamalarını oluşturmaya odaklanmıştı. Özellikle, LLM’lerin eğitim uygulamaları üzerinde çalıştık ve ilk LLM güçlendirilmiş bilişsel öğretmeni inşa ettik. Sonuçlar oldukça iyiydi – ilk deneylerde öğrenci sonuçlarında 0,3 standart sapma iyileşmesi gördük ve sistemimiz Pennsylvania Üniversitesi’nden Bhutan Üniversitesi’ne kadar kullanıldı.

Bu araştırma size Martian’i kurma fikrini nasıl verdi?

LLM’ler üzerinde uygulama geliştiren ilk kişilerdik ve LLM’ler üzerinde uygulama geliştirmenin sorunlarıyla karşılaşan ilk kişilerdik. Bu, araştırmamızı altyapı katmanına yöneltti. Örneğin, oldukça erken bir aşamada, daha büyük modellerin çıktıları üzerinde daha küçük modelleri ince ayarlıyorduk ve programlama ve matematik problem çözme gibi görevler için özel veri kaynaklarına fine-tuning ediyorduk. Bu, sonunda model davranışını anlama ve model yönlendirme sorunlarına yol açtı.

Martian isminin kökeni ve zekayla ilişkisi de ilginç, bu ismin nasıl seçildiğini paylaşabilir misiniz?

Şirketimiz, 20. yüzyılda yaşamış Macar-Amerikalı bilim adamlarının oluşturduğu “Martian” adlı bir grup bilim adamının adını taşımaktadır. Bu gruptaki en nổitili John Von Neumann idi; o, oyun teorisini, modern bilgisayar mimarisini, otomat teorisini icat etti ve birçok başka alanda temel katkılar yaptı.

• Paul Erdos, tüm zamanların en üretken matematikçisiydi ve 1500’den fazla makale yayınladı.
• Theodore Von Karman, aerodinamiğin temel teorilerini kurdu ve Amerikan uzay programının kurulmasına yardımcı oldu. İnsan tarafından tanımlanan Dünya ve dış uzay arasındaki sınır, “Karman çizgisi” olarak adlandırılmıştır.
• Leo Szilard, atom bombasını, radyasyon tedavisini ve parçacık hızlandırıcılarını icat etti.

Bu bilim adamları ve 14 diğerleri (hidrojen bombasının mucidi, modern fiziğe grup teorisini getiren adam ve kombinatorik, sayı teorisi, sayısal analiz ve olasılık teorisi alanlarına temel katkılar yapanlar dahil) benzer bir özelliği paylaşıyorlardı – hepsi aynı Budapest bölgesinde doğmuşlardı. Bu, insanların bu kadar zekanın kaynağının ne olduğunu sorgulamasına yol açtı.

Aslında… kimse bilmiyor.

İnsanlık, yeni bir süper zeki zihinler kümesiyle ilgili olarak benzer bir konumda bulunuyor: Yapay Zeka. İnsanlar, modellerin inanılmaz derecede zeki olabileceğini biliyor, ancak nasıl çalıştıklarını bilmiyorlar.

Misyonumuz, bu soruyu cevaplamak – modern süper zekayı anlamak ve kullanmak.

Süper hafıza yeteneklerine sahip olduğunuzu biliyoruz, bu hafıza yarışmalarına nasıl dahil oldunuz ve bu bilgi size Martian kavramı hakkında nasıl yardımcı oldu?

Çoğu spor dalında, bir profesyonel atlet ortalama bir insandan 2-3 kat daha iyi performans gösterebilir (ortalama bir insanın bir futbol sahasını nasıl tepebileceğini veya bir profesyonel bir futbolcu nasıl hızlı bir atış yapabileceğini karşılaştırın). Hafıza sporları ise ilginçtir, çünkü en iyi atletler ortalama bir insandan 100 veya hatta 1000 kat daha fazla şey hatırlayabilir ve çoğu sporun eğitiminden daha az eğitimle. Ayrıca, bu genellikle doğal hafızaları ortalama olan ve performanslarını öğrenilebilecek belirli tekniklere bağlayan insanlardır. İnsanlığın bilgisini en üst düzeye çıkarmak istiyorum ve dünya hafıza şampiyonalarını, insan zekasını nasıl olağanüstü getirilere çıkarabileceğimizin hakkında gözden kaçan bir bakış açısı olarak gördüm.

Hafıza tekniklerini eğitim sisteminin her yerine dağıtmak istedim, bu nedenle NLP ve LLM’lerin, etkili eğitim yöntemlerinin ana akım eğitim sisteminde kullanılmasını engelleyen kurulum maliyetini azaltmaya nasıl yardımcı olabileceğini araştırmaya başladım. Yash ve ben, ilk LLM güçlendirilmiş bilişsel öğretmeni yarattık ve bu, bugün çözmeye çalıştığımız LLM dağıtım sorunlarını keşfetmemize yol açtı.

Martian, temelde geliştiricilerin hangi Büyük Dil Modeli (LLM) kullanacağına ilişkin kararı soyutluyor, bu şu anda neden geliştiriciler için bir ağrı noktası?

Dil modellerini oluşturmak her geçen gün daha da kolay hale geliyor – hesaplama maliyeti düşüyor, algoritmalar daha verimli hale geliyor ve bu modelleri oluşturmak için daha fazla açık kaynak aracı mevcut. Sonuç olarak, daha fazla şirket ve geliştirici, özel veri üzerinde eğitilmiş özel modeller oluşturuyor. Bu modeller farklı maliyetlere ve yeteneklere sahip olduğu için, birden fazla modeli kullanarak daha iyi performans elde edilebilir, ancak hepsini test etmek ve doğru olanını bulmak zordur. Biz geliştiriciler için bunu hallediyoruz.

Sistem, her bir görev için hangi LLM’nin en iyi şekilde kullanılacağını nasıl anlıyor?

İyi yönlendirme, temel olarak model anlama sorunudur. Modeller arasında etkili bir şekilde yönlendirmek için, modellerin neden başarısız olduğuna veya başarılı olduğuna neden olabileceğini anlamak istersiniz. Model eşleştirmesi, bir modelin bir istek üzerinde nasıl performans göstereceğini, o modeli çalıştırmak zorunda kalmadan anlamamızı sağlar. Bu nedenle, o isteği en iyi sonucu üretecek modele gönderebiliriz.

LLM’yi optimize etmenin maliyet tasarrufu açısından neler gibi faydaları olabilir?

Kullanıcıların performans ve maliyet arasında nasıl bir ticaret yapacağını belirtmelerine izin veriyoruz. Sadece performansla ilgileniyorsanız, openai/evals’de GPT-4’ü geride bırakabiliriz. Belirli bir maliyetle birim ekonomilerini çalıştırmak istiyorsanız, isteğinizin tam maliyetini belirtmenize izin veririz, ardından o isteği tamamlayacak en iyi modeli buluruz. Ve daha dinamik bir şey istiyorsanız, daha iyi bir cevap için ne kadar ödemeye hazır olduğunuzu belirtmenize izin veririz – bu şekilde, iki model benzer performans gösteriyor ancak maliyet açısından büyük bir fark varsa, daha ucuz modelleri kullanmamıza izin verir. Bazı müşterilerimiz, maliyetlerinde %12’ye varan bir azalma gördü.

Martian’in geleceği için vizyonunuz nedir?

Her defasında modellerin temel anlaşılmasını geliştirdiğimizde, bu AI için bir paradigmaya yol açar. İnce ayar, çıktıların anlaşılmasına dayanan bir paradigmadır. Girdilerin anlaşılmasına dayanan paradigm ise yönlendirme paradigmasıdır. Modellerin anlaşılmasındaki bu tek fark, geleneksel ML (“bir regresör eğitmeye çalışalım”) ile modern üreteş AI (“bir bebek AGI’ye yönlendirme yapalım”) arasındaki farkın büyük bir kısmıdır.

Hedefimiz, AI tamamen anlaşıldığında ve mantık veya kalkülüs teorileri kadar güçlü bir zeka teorisi olduğunda, model anlaşılırlığında sürekli olarak atılımlar yapmak.

Bunun anlamı, inşa etmek, harika AI araçları oluşturmak ve insanların eline vermek. İlginç ve yararlı olan, kalıpları kıran, kimsenin daha önce yapmadığı ve her şeyden önce – insanların ellerine verebileceğimiz araçlar oluşturmaktır.

Sir Francis Bacon’un sözleriyle, “Bilgi güçtür”. Buna göre, AI’yi anladığımızdan emin olmak için en iyi yol, güçlü araçlar yayınlamaktır. Bir model yönlendiricisinin bu tür bir araç olduğuna inanıyoruz. Onu inşa etmek, büyütmek ve insanların eline vermek için heyecanlanıyoruz.

Bu, önümüzdeki aylarda yayınlayacağımız birçok aracın ilkidir. Güzel bir yapay zeka teorisi keşfetmek, tamamen yeni tür AI altyapilerini etkinleştirmek, hem insan hem de makine için daha parlak bir gelecek inşa etmeye yardımcı olmak – bu araçları sizinle paylaşmayı 4 gözle bekliyoruz.

Harika bir röportaj için teşekkür ederiz, daha fazla bilgi öğrenmek isteyen okuyucular Martian‘i ziyaret edebilir.