Derek Collison, Pendiri & CEO Synadia – Seri Wawancara

Derek Collison adalah Pendiri & CEO Synadia. Synadia menciptakan teknologi konektivitas sumber terbuka, NATS.io. Dengan NATS, Anda dapat dengan mudah menghubungkan semua aplikasi dan data Anda pada skala global, tanpa memperhatikan bahasa apa yang mereka tulis atau di mana mereka berjalan.

Derek Collison adalah veteran industri 30 tahun, wirausaha, dan pelopor dalam sistem terdistribusi yang aman dan besar serta komputasi awan. Ia membantu mengubah cara kerja sistem keuangan, transportasi, dan logistik secara fundamental selama lebih dari satu dekade di TIBCO, merancang sistem yang masih memuat sebagian besar industri tersebut saat ini. Di Google (GOOGL ), Derek membantu mendirikan grup AJAX APIs dan menciptakan CDN terbesar untuk perpustakaan JavaScript populer, mengidentifikasi kebutuhan akses mudah dan aman ke layanan Google tanpa perlu server tambahan.

Bagaimana AI dan komputasi edge dapat bekerja sama untuk mencapai pemrosesan data kompleks dengan latensi rendah?

Komputasi edge memiliki dua peran utama dalam perekonomian AI. Peran utama saat ini adalah dalam pengumpulan dan distribusi data/telemetri berbasis edge untuk digunakan dalam pelatihan model terpusat.

Kesempatan yang muncul dan jauh lebih besar adalah untuk kasus inferensi AI. AI dan komputasi edge adalah kombinasi yang kritis dan kuat yang memungkinkan pemrosesan waktu nyata, latensi yang berkurang, akurasi yang ditingkatkan, dan privasi & keamanan yang diperkuat.

Kita sekarang melihat tanda-tanda jelas bahwa inferensi di edge tidak hanya mendapatkan model kuantisasi besar untuk berjalan di edge. Ini berkembang menjadi pipa multi-tahap, di mana operasi augmentasi prompt dan generasi retrieval-augmented (RAG) mengubah prompt awal dari pengguna atau sistem menggunakan akses waktu nyata dan lokasi independen ke data di edge. Yang kedua adalah traversal grafik dari beberapa model versus satu model, baik lokal maupun remote.

Apa saja contoh aplikasi dunia nyata di mana kombinasi AI dan komputasi edge telah membuat dampak signifikan?

AI mempengaruhi setiap industri dengan kecepatan yang meningkat. Kami melihat komunitas dan ekosistem NATS sumber terbuka membangun aplikasi dan layanan di manufaktur industri dan IoT (perawatan prediktif, optimasi proses & digital twins), kendaraan otonom (rute yang dioptimalkan & keamanan), energi hijau (optimasi energi), ritel (pengalaman belanja pribadi dan manajemen inventori waktu nyata), FinTech (kepatuhan regulasi dan perdagangan algoritmik) dan pemerintah (komunitas DoD/IC, misalnya, CUAS drone).

Salah satu pelanggan kami adalah produsen perangkat medis yang digunakan sebagai platform pelatihan di fasilitas di seluruh dunia. Setiap acara lokal perlu ditangkap dan disimpan sebagai bagian dari proses sertifikasi. Mengharuskan semua lalu lintas kembali ke awan pusat sangat mahal dan sulit untuk sesi yang lebih terpencil. Kemampuan edge asli kami memungkinkan mereka untuk menyederhanakan kemampuan pengiriman platform mereka.

Sebagai pencipta NATS.io, bagaimana Anda melihat teknologi sumber terbuka membentuk masa depan komputasi edge?

Komputasi edge telah terbukti menjadi lanskap yang berbeda dari komputasi awan. Pendekatan dan solusi yang digunakan dalam arsitektur “cloud native” saat ini tidak diterjemahkan ke edge.

“Apa” komponen solusi tetap familiar, tetapi “bagaimana” sangat berbeda. Synadia/NATS.io mengubah “bagaimana”, bukan “apa”, untuk memecahkan tantangan dengan mikro-layanan dan akses serta aliran data di edge di seluruh awan atau geografi.

Apa saja manfaat utama menggunakan NATS.io untuk koneksi aplikasi dan data global?

Kelebihan utama NATS.io berasal dari pendekatan uniknya terhadap konektivitas dan lapisan data terintegrasi. Konektivitas pintar NATS memungkinkan aplikasi dan layanan dibangun dengan transparansi lokasi atau apa yang kami sebut “aplikasi nomaden.” NATS menghilangkan kebutuhan akan infrastruktur awan tambahan seperti load balancer, service mesh, atau API gateway untuk memungkinkan pengguna menulis aplikasi sekali dan menggunakannya di mana saja.

Membangun di atas itu adalah lapisan data kami, dengan aliran dan toko kunci-objek. Ini adalah kombinasi dari lapisan data kami dengan lapisan konektivitas yang memberikan pola akses dan aliran yang kuat yang sangat sesuai untuk edge untuk aplikasi yang sensitif terhadap latensi dan waktu nyata.

Apa saja inovasi besar berikutnya dalam edge dan konektivitas yang Anda lihat dalam beberapa tahun mendatang?

Manajemen armada waktu nyata, pengumpulan data telemetri, analisis di edge dan tentu saja inferensi AI di edge dalam waktu nyata dengan amplop temporal tertentu akan menjadi inovasi prioritas. Contoh dari ini termasuk:

• Peningkatan kemampuan AI di edge: Saat daya pengolahan meningkat, kemampuan AI dan pembelajaran mesin yang lebih maju akan berpindah dari awan ke perangkat edge.
• Konvergensi 5G dan komputasi edge: Peluncuran jaringan 5G yang berkelanjutan akan mengubah kemampuan komputasi edge dengan menyediakan latensi ultra-rendah dan bandwidth tinggi.
• Kontinum edge-ke-awan: Kami kemungkinan akan melihat integrasi yang lebih mulus antara komputasi edge dan awan, menciptakan kontinum di mana data dan beban kerja diterapkan secara dinamis berdasarkan kebutuhan. Kami menyukai istilah “aplikasi nomaden yang sebenarnya”.
• Pusat data hiperlokal: Akan ada proliferasi pusat data kecil, hiperlokal untuk mendukung kebutuhan komputasi edge. Perusahaan seperti Akamai sudah memanfaatkan kembali infrastruktur untuk menciptakan jaringan global pusat data edge.
• Solusi edge khusus industri: Kami akan melihat lebih banyak solusi komputasi edge yang dirancang khusus untuk industri tertentu seperti kesehatan, manufaktur, ritel, dan pertanian yang menangani tantangan dan peluang unik di setiap sektor.

Bagaimana Synadia memposisikan diri untuk memimpin dalam tren masa depan ini?

Pendekatan kami pertama-tama adalah untuk menangani konektivitas jaringan, kemudian data, dan kami baru-baru ini memperkenalkan kemampuan untuk menangani beban kerja secara asli dengan Mesin Eksekusi NATS (NEX). Pendekatan yang berbeda ini dari yang lain menyebabkan kami sangat salah dipahami pada awalnya. Namun, pendekatan ini memungkinkan kami untuk membawa beberapa solusi inovatif dan sangat kuat ke pasar untuk tantangan seputar desain sistem dan edge.

Ketika aplikasi beralih ke mikro-layanan dan berpindah ke edge, kami perlu memastikan bahwa berbagai komponen dapat berkomunikasi. Kami membalik pendekatan yang memakan waktu dengan menambahkan API gateway dan service mesh, dan sebaliknya, kami menggunakan Platform Synadia dan NATS.io untuk menyederhanakan tumpukan teknologi dan komunikasinya.

Apa saja tantangan utama dalam merancang dan membangun sistem terdistribusi modern, dan bagaimana Synadia menangani tantangan ini?

Sebagian besar orang merancang sistem mereka dengan fokus pada beban kerja terlebih dahulu, kemudian data, dan terakhir, jaringan yang diperlukan untuk menggabungkan semuanya. Keamanan biasanya dilapiskan terakhir.

Tumpukan teknologi Synadia, yang ditambatkan oleh NATS.io, memungkinkan desain konsisten dan cepat dari sistem terdistribusi modern. Sistem ini dapat beradaptasi dengan penyebaran awan tunggal, tetapi yang lebih penting, tetap tahan masa depan dan aman ketika beberapa penyedia awan, wilayah, dan lokasi edge memasuki gambaran.

Dapatkah Anda memberikan contoh tentang bagaimana solusi Synadia membantu perusahaan mengatasi masalah dengan model konektivitas tradisional?

Platform Synadia memungkinkan perancang sistem untuk mencapai keberhasilan cepat dalam penerapan berbasis edge dan untuk memastikan sistem tersebut tetap tahan masa depan, terlepas dari target penerapan.

Mereka juga memungkinkan model keamanan konsisten dan penghapusan sejumlah bagian yang bergerak yang tidak diperlukan dengan platform Synadia, seperti load balancer, API gateway, GSLB, firewall, VPN, service mesh, dll.

Kami bekerja dengan sebuah OEM otomotif global yang ingin memodernisasi infrastruktur digitalnya. Tujuannya adalah untuk menghindari proyek aplikasi yang terisolasi dan menerapkan “kain data global” yang semua layanan digital masa depan dapat colokkan. Ini adalah jenis proyek yang membangkitkan semangat kami.

Bagaimana penawaran komersial Synadia, seperti Synadia Cloud dan Synadia Platform, meningkatkan kemampuan NATS.io?

Meskipun kami akan terus membuka fitur sumber untuk pengembang NATS, Synadia menyediakan IP bernilai tambah terutama seputar pemantauan dan administrasi perusahaan NATS.

Synadia Cloud & Platform adalah versi “bersertifikat” dari perangkat lunak yang didukung untuk penerapan kritis misi dan perusahaan. Ini adalah penawaran yang dipaket yang menyediakan spektrum penawaran dari biaya yang lebih rendah, multi-regional dan multi-awan SaaS dari Synadia Cloud, hingga penerapan on-premise dan edge untuk Synadia Platform. Kedua penawaran ini sering bekerja sama juga.

Seberapa pentingnya keterlibatan komunitas bagi Synadia, dan apa saja inisiatif yang Anda ambil untuk memupuk komunitas pengembang yang kuat?

Jalan teknologi kami sepenuhnya didorong oleh ekosistem sumber terbuka kami dan pengembang yang menggunakan perangkat lunak. Kami terus berinteraksi dengan ekosistem, berinteraksi dan mendapatkan umpan balik.

Kami telah melakukan investasi signifikan dalam sumber daya untuk membantu dengan pengalaman pengembang. Ini termasuk dokumentasi, tutorial video, dan sumber daya kode contoh.

Terima kasih atas wawancara yang luar biasa, pembaca yang ingin mempelajari lebih lanjut dapat mengunjungi Synadia atau NATS.io.