Dr. Mike Flaxman, HEAVY.AI Ürün Müdürü – Röportaj Serisi

Dr. Mike Flaxman şu anda HEAVY.AI’de Ürün Müdürü olarak görev yapmakta ve daha önce Ürün Müdürü olarak görev yapmış ve Profesyonel Hizmetlerde Mekansal Veri Bilimi uygulamasını yönetmiştir. Son 20 yıldır mekansal çevre planlaması alanında çalışmaktadır. HEAVY.AI’den önce, mekansal analiz teknolojilerini planlamaya uygulayan iki startup olan Geodesign Technologies, Inc. ve GeoAdaptive LLC’yi kurmuştur. Startup hayatından önce, MIT’de planlama profesörü ve ESRI’de Endüstri Müdürü olarak görev yapmıştır.

HEAVY.AI gerçek zamanlı, yüksek etkili veri analizi için donanım hızlandırılmış bir platformdur. Hem GPU hem de CPU işleme kullanarak büyük veri kümelerini hızlı bir şekilde sorgulamaya olanak tanır ve SQL ve mekansal veri için destek sağlar. Platform, etkileşimli paneller, çapraz filtreleme ve ölçeklenebilir veri görselleştirmeleri için görsel analiz araçlarını içerir, böylece çeşitli endüstrilerde büyük veri analizi yapılır.

Profesyonel geçmişiniz ve HEAVY.AI’ye katılmanıza neler yol açtı, bize anlatır mısınız?

HEAVY.AI’ye katılmadan önce, akademide yıllarca çalıştım ve sonunda MIT’de mekansal analitik öğretim üyesi oldum. Ayrıca kamu sektöründe çeşitli müşterileri olan küçük bir danışmanlık firması işlettim. 17 ülkede GIS projelerinde çalıştım. Çalışmam, Inter Amerikan Kalkınma Bankası gibi kuruluşlara danışmanlık yapmaktan, ESRI’de mimarlık, mühendislik ve inşaat için GIS teknolojisini yönetmeye kadar çeşitlilik gösterdi.

HEAVY.AI ile ilk karşılaşmamı çok net olarak hatırlıyorum, bu da Florida Beaches Habitat Conservation Program için senaryo planlaması için danışman olarak sorumlu olduğum zamanlara denk geliyordu. Arkadaşlarım ve ben, 30m Landsat verisi ile deniz kaplumbağası habitatını modellemeye çalışıyorduk, ancak bir arkadaşım bana çok ilgili ve o zamanlar yeni olan 5cm LiDAR verisini gösterdi. Bilimsel olarak tam olarak ihtiyacımız olan şeydi, ancak planladığımız veri miktarının 3600 katı büyüklüğündeydi. Tabii ki, kimse bütçemi bu kadar artırma düşüncesinde değildi. O gün, birkaç on yıl kullandığım ve öğrettiğim araçları bir kenara bıraktım ve yeni bir şeyler aramaya başladım. HEAVY.AI, o veriyi çok sorunsuz ve zahmetsizce işledi, o anda hemen etkilenmiştim.

İleriye doğru gidersek, masih HEAVY.AI’nin yaptığı şeyin oldukça benzersiz olduğunu düşünüyorum ve endüstri stillerine göre GPU analitiğine yapılan erken yatırım đúng bir karardı. HEAVY.AI, büyük veri erişimini demokratikleştirmeye odaklanıyor. Bu, veri hacmi ve işleme hızı bileşenini içerir ve temelde herkesin kendi süper bilgisayarına sahip olmasını sağlar. Ancak büyük dil modellerinin ortaya çıkışı ile birlikte, mekansal modellemeyi daha fazla insan için erişilebilir hale getirmek de giderek daha önemli hale geliyor. Artık, binlerce araç içeren karmaşık bir arayüze yıllarca öğrenmek yerine, HEAVY.AI ile istediğiniz dili kullanarak sohbet edebilirsiniz. Program, yalnızca komutları üretmekle kalmaz, ayrıca ilgili görselleştirmeleri de sunar.

Kolay kullanım sunmak, tabii ki çok zordur. Şu anda HEAVY.AI’de Ürün Müdürü olarak, ürünlerimizin hangi özelliklere ve yeteneklere öncelik vereceğimizi belirlemede aktif bir role sahibim. Mekansal veri bilimi alanındaki geniş deneyimim, müşterilerimizin ihtiyaçlarını gerçekten anlamamı ve geliştirme yol haritamızı buna göre yönlendirmemi sağlar.

Önceki mekansal çevre planlaması ve startup deneyimlerin, HEAVY.AI’deki çalışmalarınıza nasıl yansımıştır?

Çevre planlaması, hem insan ihtiyaçlarını hem de doğal dünyayı hesaba katmanız gereken özellikle zor bir alandır. Çözüm, katılımcı planlama yöntemi ile uzaktan algılama ve GIS teknolojilerini birleştirmekti. Bir plana geçmeden önce, bilgisayar kullanarak görselleştirmeler ile çeşitli senaryolar oluşturup, bunların olumlu ve olumsuz etkilerini simüle ederdik. Katılımcı süreçler, farklı uzmanlıkları birleştirmemizi ve çok karmaşık sorunları çözmemizi sağladı.

HEAVY.AI’de genellikle çevre planlaması yapmasak da, bu model vẫn çok iyi işliyor. Müşterilerimize, işlerinin kritik kısımlarının dijital ikizlerini oluşturmayı ve hızlı bir şekilde iş senaryoları oluşturup değerlendirmelerini sağlıyoruz.

Sanırım öğretme deneyimim, özellikle karmaşık yazılımların kullanıcıları için derin bir empati kazandırdı. Bir öğrenci belirli bir noktada takıldığında rastgele olabilir, ancak dozens veya hundreds of people benzer hatalar yapıyorsa, bir tasarım vấneminiz var demektir. Belki de yazılımla ilgili en sevdiğim kısım, bu öğrenmeleri alıp yeni sistemlerin tasarımına uygulamaktır.

HeavyIQ, veri keşfi ve görselleştirmeyi kolaylaştırmak için doğal dil işleme nasıl kullanıyor?

Şu günlerde herkes ve kardeşi yeni bir AI modeli ile ortaya çıkıyor, ancak çoğu unutulmaya mahkûm klonlar. Biz farklı bir yol izledik. Doğru, tekrar üretebilirlik ve gizlilik gibi özelliklerin, iş analitiği araçları için, özellikle büyük dil modelleri ile üretilenler için, temel özellikler olduğuna inanıyoruz. Bu nedenle, bunları temel düzeyde sunmaya çalıştık. Örneğin, model girişlerini sıkı bir şekilde kurumsal veritabanlarına ve şirket güvenlik sınırları içindeki belgelerine kısıtladık. Ayrıca, çıktıları en son HeavySQL ve Charts’a kısıtladık. Bu, sorduğunuz her soruya, verilerinizi kullanarak cevap vermeye çalışacağımız ve size tam olarak nasıl ulaştığımızı göstereceğimiz anlamına gelir.

Bu garantilerin olması, müşterilerimiz için nasıl sorguları işlediğimizden daha az önemlidir. Ancak arka planda, tüketici AI’inden farklı olarak, modelleri, iş kullanıcılarının iş verilerine sorduğu türdeki sorulara karşı geniş bir şekilde ayarlıyoruz. Örneğin, modelimiz, klasik SQL benchmark’larında bulunmayan ancak kullanıcılarımızın günlük olarak kullandığı mekansal ve zaman serisi birleştirmelerinde mükemmel.

Bu temel yetenekleri, HeavyIQ olarak adlandırdığımız bir Defter arabirimine paketledik. IQ, doğal dil işleme (NLP) kullanarak veri keşfi ve görselleştirmeyi mümkün olduğunca sezgisel hale getirmektir. İngilizce’de bir soru sorarsınız – örneğin, “California’da geçen hafta hava koşulları nasılydı?” – ve HeavyIQ bunu nhanh bir şekilde işlenen SQL sorgularına çevirir. Sonuçlar, yalnızca veri olarak değil, aynı zamanda görselleştirmeler olarak sunulur – haritalar, grafikler, vb. Hızlı, etkileşimli sorgulamayı mümkün kılmak önemlidir, özellikle büyük veya hızlı hareket eden veri kümeleriyle çalışırken. Anahtar, often ilk sorduğunuz soru değil, belki de üçüncü soru,真正 bir içgörü sağlar ve HeavyIQ, bu daha derin keşfi kolaylaştırmak için tasarlanmıştır.

Telco, utiliteler ve hükümet ajansları için HeavyIQ, geleneksel BI araçlarına göre primary faydaları nelerdir?

HeavyIQ, büyük ölçekli, yüksek hızlı veri ile çalışan ortamlarda excels – tam da telco, utiliteler ve hükümet ajanslarının karşılaştığı veri türü. Geleneksel iş zekası araçları genellikle bu tür verilerin hacmi ve hızıyla başa çıkmakta zorlanırlar. Örneğin, telekomünikasyonda, milyarlarca arama kaydınız olabilir, ancak odaklanmanız gereken, düşen aramaların küçük bir kısmıdır. HeavyIQ, GPU altyapımız sayesinde bu verilere 10 ila 100 kat daha hızlı bir şekilde ulaşmanızı sağlar. Bu hız, etkileşimli sorgulama ve görselleştirme yeteneği ile birleştiğinde, risk analizi için utilitelere veya hükümet ajansları için gerçek zamanlı senaryo planlaması için çok değerlidir.

Diğer bir avantaj, daha önce de bahsedildiği gibi, mekansal ve zaman serisi SQL sorgularının analitik olarak çok güçlü, ancak elle yazmak bazen yavaş veya zor olabilir. Bir sistem “merak hızında” çalıştığında, kullanıcılar daha fazla ve daha nüanslı sorular sorabilir. Örneğin, bir telekom mühendisi, bir izleme sistemi aracılığıyla ekipman arızalarının zaman içindeki bir artışını fark edebilir, belirli bir tesiste bir şeyler yanlış gittiği hissine kapılabilir ve bir harita döndüren bir mekansal sorgu ile bunu kontrol edebilir.

HeavyIQ kullanırken metadata sızıntısını önlemek için hangi önlemler alınmıştır?

Önceki gibi, HeavyIQ’yi gizlilik ve güvenlik temelinde inşa ettik. Bu, yalnızca veri değil, aynı zamanda çeşitli metadata türlerini içerir. Sütun ve tablo düzeyinde metadata’yı, hangi tablo ve sütunların sorguya必要 olan bilgileri içerdiğini belirlemek için geniş bir şekilde kullanıyoruz. Ayrıca, sağlandığı takdirde, şirket içi belgeleri, bekannt olarak retrieval-augmented generation (RAG) olarak bilinen bir işlemde yardıma yardımcı olmak için kullanıyoruz. Son olarak, dil modelleri kendileri de metadata üretir. Bunların tümü, özellikle son ikisi, yüksek iş duyarlılığı olabilir.

Üçüncü taraf modellerinin aksine, verileriniz dış sunuculara gönderilmez, HeavyIQ yerel olarak aynı GPU altyapısında çalışır. Bu, verilerinizi ve metadata’nızı kontrol altında tutmanızı sağlar ve hiçbir sızıntı riski yoktur. En yüksek güvenlik düzeyini gerektiren kuruluşlar için, HeavyIQ tamamen havadan izole edilmiş bir ortamda da dağıtılabilir, böylece hassas bilgiler belirli ekipman dışına asla çıkmaz.

HEAVY.AI, büyük veri kümeleriyle GPU altyapısını kullanarak nasıl yüksek performans ve ölçeklenebilirlik sağlar?

Sır, temel olarak diğer sistemlerde yaygın olan veri hareketini önlemektedir. Temelde, GPU’larda çalışmak için özel olarak tasarlanmış bir veritabanından başlar. Bu konuda 10 yıldan fazla bir süredir çalışıyoruz ve gerçekten GPU hızlandırılmış analitikte en iyi çözümü olduğuna inanıyoruz.

En iyi CPU tabanlı sistemler, bir GPU’nun çok ötesinde bir performans sunar. CPU’da bu gerçekleştiğinde, veri dağıtmak için bir strateji gerekir – yani “yatay ölçeklendirme”. Bu, zaman kritik olmayan bazı bağlamlarda iyi çalışır, ancak genellikle ağ performansı ile sınırlıdır.

Veri hareketini sorgulamalarda önlemenin yanı sıra, diğer birçok ortak görevde de veri hareketini önleriz. İlk olarak, verileri hareket ettirmeden grafikleri oluşturabiliriz. Ardından, makine öğrenimi modelleme çıkarımı için de veri hareketine ihtiyacımız yoktur. Ve büyük bir dil modeli ile verilere soru sorduğunuzda, yine veri hareketine ihtiyacımız yoktur. Veri bilimcisiseniz ve verilere Python’dan erişmek istiyorsanız, bunu da GPU’da veri hareketi olmadan yapabilirsiniz.

Bu, uygulamada, sorguları ve görselleştirmeleri geleneksel CPU tabanlı veritabanları ve harita sunucularından 10 ila 100 kat daha hızlı gerçekleştirebileceğimiz anlamına gelir. Müşterilerimizle çalıştıkları büyük, hızlı veri kümeleri ile bu performans artışı mutlak olarak gereklidir.

HEAVY.AI, büyük veri analitiği ve AI’nin hızlı değişen ortamında rekabet avantajını nasıl sürdürüyor?

Bu, gerçekten düşündüğümüz bir soru. Büyük veri analitiği ve AI alanı, yeni buluşlar ve yenilikler ile inanılmaz bir hızla evrim geçiriyor. Tabii ki, GPU veritabanı teknolojisi konusunda 10 yıllık bir başlangıç avantajımız var.

Sanırım bizim için anahtar, büyük, mekansal veri erişimini demokratikleştirmeye odaklanmaya devam etmek. Bu, GPU hızlandırılmış analitiğin sınırlarını sürekli olarak zorlamak ve ürünlerimizin bu alanda eşsiz performans ve yetenek sunmasını sağlamak anlamına gelir. Bunun önemli bir kısmı, mekansal SQL ve mekansal analiz nüanslarını gerçekten anlayan, özel olarak ayarlanmış dil modelleri geliştirmeye devam etmektedir.

Geniş bir eğitim verisi kütüphanesi oluşturduk, genel benchmark’lerin ötesine geçerek, konuşma analitik araçlarımızın kullanıcılarla doğal ve sezgisel bir şekilde etkileşime girebileceğini garantileyerek. Ancak teknoloji alone yeterli değil. Müşterilerimizle ve onların değişen ihtiyaçlarıyla derin bir şekilde bağlantılı kalmamız gerekiyor. Sonunda, rekabet avantajımız, kullanıcılarımıza dönüştürücü değer sunmaya odaklanmamızdan geliyor. Sadece pazarı takip etmiyoruz, büyük veri ve AI ile mümkün olanın sınırlarını itiyoruz. Ve bunu, ne kadar hızlı olursa olsun, alanın evrimine devam edeceğiz.

HEAVY.AI, HeavyEco aracılığıyla acil müdahale çabalarına nasıl destek oluyor?

HeavyEco’yu, büyük utility müşterilerimizin günün hava modeli çıkışlarını yüklemekte ve bunları ortak karşılaştırmalar için görselleştirmekte önemli zorluklar yaşadıklarını gördüğümüzde inşa ettik. Bir müşterimiz, veriyi yüklemekte dört saate kadar zaman harcıyordu ve hızlı hareket eden aşırı hava koşulları gibi yangınlar olduğunda bu kesinlikle yeterli değildi.

HeavyEco, yüksek sonuçlu durumlar gibi yangın veya sel sırasında gerçek zamanlı içgörüler sunmak üzere tasarlanmıştır. Bu tür senaryolarda, hızlı ve en iyi posible verilere dayalı kararlar almanız gerekir. HeavyEco, öncelikle NOAA ve USGS gibi otoriter modeller için profesyonellerce yönetilen bir veri işlem hattı olarak hizmet eder. Bunların üzerine, gerçek zamanlı olarak senaryolar oluşturmanıza, bina düzeyindeki etkileri modellemenize ve verilerinizi görselleştirmenize olanak sağlar. İlk müdahale ekiplerine, ne zaman gerekli olursa en kritik bilgileri sağlar. Karmaşık, büyük ölçekli veri kümelerini, acil kararlar almanıza yardımcı olan eyleme geçirilebilir içgörülere dönüştürmektedir.

Son olarak, amacımız, kullanıcılarımızın verilerini düşünce hızında keşfetmelerini sağlamaktır. Karmaşık mekansal modelleri çalıştırıyor, hava tahminlerini karşılaştırıyor veya mekansal zaman serileri中的 desenleri tanımlamaya çalışıyor olsunlar, bunu sorunsuz bir şekilde yapabilmelerini istiyoruz.

HEAVY.AI’nin özel LLM’si, diğer üçüncü taraf LLM’lerden, accuracy ve performans açısından nasıl farklılık gösteriyor?

Özel LLM’miz, odaklandığımız analitik türlerine – örneğin, metin-SQL ve metin-görselleştirme – için özel olarak ayarlanmıştır. Geleneksel üçüncü taraf modelleri denedik, ancak kullanıcılarımızın yüksek doğruluk gereksinimlerini karşılamadığını gördük. Bu nedenle, çeşitli açık kaynak modellerini ayarladık ve endüstri benchmark’larına karşı test ettik.

LLM’miz, özellikle mekansal ve zaman serisi SQL kavramları gibi gelişmiş SQL kavramları için, kullanıcılarımızın ihtiyaç duyduğu daha doğru.

Ayrıca, GPU altyapımızda çalıştığı için daha güvenli.

Yerleşik model yeteneklerinin yanı sıra, yöneticiler ve kullanıcılar için, domaine veya işle ilgili metadata eklemek veya düzenlemek için tam bir etkileşimli kullanıcı arabirimini de sağlıyoruz. Örneğin, temel model beklendiği gibi performans göstermezse, sütun düzeyinde metadata’yı içe aktarabilir, düzenleyebilir veya rehber bilgilerini ekleyerek hemen geri bildirim alabilirsiniz.

HEAVY.AI, çeşitli endüstrilerin geleceğini şekillendirmede mekansal ve zaman serisi veri analitiğinin rolünü nasıl görüyor?

Mekansal ve zaman serisi veri analitiğinin, birçok endüstrinin geleceği için kritik olacağına inanıyoruz. Aslında, müşterilerimize daha iyi kararlar almalarına, daha hızlı yardımcı olmakla ilgileniyoruz. Telekom, utiliteler, hükümet veya diğer – gerçek zamanlı olarak veri analiz edip görselleştirebilmek, oyun değiştirici olabilir.

Misyonumuz, bu güçlü analitiği herkesin erişebileceği hale getirmek, yalnızca büyük kaynaklara sahip büyük oyuncular değil. Müşterilerimizin sahip oldukları verilerini kullanabilmelerini, ortaya çıkan sorunları çözebilmelerini istiyoruz. Veri büyüdükçe ve karmaşıklık arttıkça, araçlarımızın bu değişikliklerle birlikte evrimleşmesini sağlamak rolümüz. Müşterilerimiz her zaman ne olabileceğini bilerek hazırlıklı olsunlar.

Harika bir röportaj için teşekkür ederiz, daha fazla bilgi edinmek isteyen okuyucular HEAVY.AI ziyaret edebilir.