Liran Hason, Co-Founder & CEO of Aporia – Interview Series

Liran Hason adalah Co-Founder dan CEO dari Aporia, sebuah platform observabilitas ML full-stack yang digunakan oleh perusahaan Fortune 500 dan tim ilmu data di seluruh dunia untuk memastikan AI yang bertanggung jawab. Aporia terintegrasi dengan lancar dengan infrastruktur ML apa pun. Baik itu server FastAPI di atas Kubernetes, alat deployment open-source seperti MLFlow atau platform mesin pembelajaran seperti AWS Sagemaker

Sebelum mendirikan Aporia, Liran adalah Arsitek ML di Adallom (diakuisisi oleh Microsoft), dan kemudian menjadi investor di Vertex Ventures.

Anda mulai mengkode saat Anda berusia 10 tahun, apa yang awalnya menarik Anda ke komputer, dan apa yang Anda kerjakan?

Itu tahun 1999, dan teman saya menelepon saya dan mengatakan bahwa dia telah membangun sebuah situs web. Setelah mengetik alamat sepanjang 200 karakter di browser saya, saya melihat situs web dengan namanya di atasnya. Saya terkesan dengan fakta bahwa dia menciptakan sesuatu di komputernya dan saya bisa melihatnya di komputer saya sendiri. Ini membuat saya sangat penasaran tentang bagaimana itu bekerja dan bagaimana saya bisa melakukan hal yang sama. Saya meminta ibu saya untuk membelikan saya sebuah buku HTML, yang merupakan langkah pertama saya dalam pemrograman.

Saya menemukan kebahagiaan besar dalam menghadapi tantangan teknis, dan seiring berjalannya waktu, rasa ingin tahu saya hanya bertambah. Saya belajar ASP, PHP, dan Visual Basic, dan benar-benar mengonsumsi apa pun yang bisa saya dapatkan.

Ketika saya tidak memiliki pekerjaan aktif, saya bekerja pada proyek-proyek saya sendiri – biasanya situs web dan aplikasi yang bertujuan untuk membantu orang lain mencapai tujuan mereka:

Blue-White Programming – adalah bahasa pemrograman Hebrew, mirip dengan HTML, yang saya bangun setelah menyadari bahwa anak-anak di Israel yang tidak memiliki tingkat bahasa Inggris yang tinggi terbatas atau dipaksa keluar dari dunia pemrograman.

Blinky – Kakek dan nenek saya tuli dan menggunakan bahasa isyarat untuk berkomunikasi dengan teman-teman mereka. Ketika perangkat lunak konferensi video seperti Skype dan ooVoo muncul, itu memungkinkan mereka untuk pertama kalinya berbicara dengan teman-teman bahkan jika mereka tidak berada di ruangan yang sama (seperti yang kita lakukan dengan ponsel kita). Namun, karena mereka tidak bisa mendengar, mereka tidak bisa tahu kapan mereka memiliki panggilan masuk. Untuk membantu mereka, saya menulis perangkat lunak yang mengidentifikasi panggilan video masuk dan mengingatkan mereka dengan berkedip-kedip lampu array di perangkat keras kecil yang saya bangun dan hubungkan ke komputer mereka.

Ini hanya beberapa proyek yang saya bangun sebagai seorang remaja. Rasa ingin tahu saya tidak pernah berhenti dan saya menemukan diri saya belajar C, C++, Assembly, dan bagaimana sistem operasi bekerja, dan benar-benar mencoba belajar sebanyak mungkin.

Apakah Anda bisa berbagi cerita tentang perjalanan Anda sebagai arsitek mesin pembelajaran di Adallom yang diakuisisi oleh Microsoft?

Saya memulai perjalanan saya di Adallom setelah saya menyelesaikan dinas militer. Setelah 5 tahun di angkatan bersenjata sebagai Kapten, saya melihat kesempatan besar untuk bergabung dengan perusahaan yang sedang muncul dan pasar – sebagai salah satu karyawan pertama. Perusahaan itu dipimpin oleh pendiri yang hebat, yang saya kenal dari dinas militer saya, dan didukung oleh VC tingkat atas – seperti Sequoia. Ledakan teknologi cloud ke pasar masih dalam masa kanak-kanak, dan kami sedang membangun salah satu solusi keamanan cloud pertama pada saat itu. Perusahaan besar baru saja mulai beralih dari on-premise ke cloud, dan kami melihat standar industri baru muncul – seperti Office 365, Dropbox, Marketo, Salesforce, dan lain-lain.

Selama beberapa minggu pertama, saya sudah tahu bahwa saya ingin memulai perusahaan saya sendiri suatu hari nanti. Saya benar-benar merasa, dari perspektif teknis, bahwa saya siap untuk menghadapi tantangan apa pun yang datang. Dan jika bukan saya, saya tahu orang-orang yang tepat untuk membantu saya mengatasi apa pun.

Adallom membutuhkan seseorang yang memiliki pengetahuan mendalam tentang teknologi tetapi juga bisa berhadapan dengan pelanggan. Beberapa minggu kemudian, saya berada di pesawat ke AS, untuk pertama kalinya dalam hidup saya, untuk bertemu dengan orang-orang dari LinkedIn (sebelum Microsoft). Beberapa minggu kemudian dan mereka menjadi pelanggan pertama kami di AS. Ini hanya salah satu dari banyak perusahaan besar – Netflix, Disney, dan Safeway – yang saya bantu memecahkan masalah cloud kritis.

Bagi saya, bergabung dengan Adallom benar-benar tentang bergabung dengan tempat di mana saya percaya pada pasar, saya percaya pada tim, dan saya percaya pada visi. Saya sangat berterima kasih atas kesempatan yang saya dapatkan di sana.

Saya bertanggung jawab atas arsitektur infrastruktur ML kami. Dan saya melihat dan mengalami langsung kekurangan alat yang tepat untuk ekosistem. Ya, jelas bagi saya bahwa harus ada solusi yang didedikasikan di tempat terpusat di mana Anda dapat melihat semua model Anda; di mana Anda dapat melihat keputusan apa yang mereka buat untuk bisnis Anda; di mana Anda dapat melacak dan menjadi proaktif dengan tujuan ML Anda. Misalnya, kami memiliki waktu ketika kami mengetahui masalah dalam model pembelajaran mesin kami terlalu lambat, dan itu tidak baik untuk pengguna dan tentu saja tidak baik untuk bisnis. Ini adalah tempat di mana ide untuk Aporia mulai terbentuk.

Apakah Anda bisa berbagi cerita tentang asal-usul Aporia?

Pengalaman pribadi saya dengan pembelajaran mesin dimulai pada 2008, sebagai bagian dari proyek kolaboratif di Institut Weizmann, bersama dengan Universitas Bath dan Pusat Penelitian Cina. Di sana, saya membangun sistem identifikasi biometrik dengan menganalisis gambar iris. Saya berhasil mencapai akurasi 94%. Proyek itu sukses dan dipuji dari sudut pandang penelitian. Tapi bagi saya, saya telah membangun perangkat lunak sejak saya berusia 10 tahun, dan sesuatu terasa tidak nyata. Anda tidak bisa benar-benar menggunakan sistem identifikasi biometrik yang saya bangun dalam kehidupan nyata karena itu hanya bekerja baik untuk dataset spesifik yang saya gunakan. Ini tidak deterministik enough.

Ini hanya sedikit latar belakang. Ketika Anda membangun sistem pembelajaran mesin, misalnya untuk identifikasi biometrik, Anda ingin prediksi menjadi deterministik – Anda ingin tahu bahwa sistem secara akurat mengidentifikasi seseorang, kan? Seperti iPhone Anda tidak membuka kunci jika tidak mengenali orang yang tepat pada sudut yang tepat, ini adalah hasil yang diinginkan. Tapi ini tidak benar-benar kasus dengan pembelajaran mesin pada awalnya, ketika saya pertama kali memasuki ruang ini.

Kira-kira tujuh tahun kemudian dan saya mengalami langsung, di Adallom, kenyataan menjalankan model produksi tanpa garda yang dapat diandalkan, karena mereka membuat keputusan untuk bisnis kami yang mempengaruhi pelanggan kami. Kemudian, saya beruntung bisa bekerja sebagai investor di Vertex Ventures, selama tiga tahun. Saya melihat bagaimana lebih dan lebih banyak organisasi menggunakan ML, dan bagaimana perusahaan beralih dari hanya berbicara tentang ML ke benar-benar melakukan pembelajaran mesin. Namun, perusahaan-perusahaan ini mengadopsi ML hanya untuk dihadapkan pada masalah yang sama yang kami hadapi di Adallom.

Semua orang terburu-buru menggunakan ML, dan mereka mencoba membangun sistem pemantauan di dalam. Jelas, itu bukan bisnis inti mereka, dan tantangan ini cukup kompleks. Ini adalah tempat di mana saya juga menyadari bahwa ini adalah kesempatan saya untuk membuat dampak besar.

AI sedang diadopsi di seluruh hampir setiap industri, termasuk kesehatan, layanan keuangan, otomotif, dan lain-lain, dan itu akan menyentuh kehidupan semua orang dan mempengaruhi kita semua. Ini adalah tempat di mana Aporia menampilkan nilai sebenarnya – memungkinkan semua kasus penggunaan yang mengubah kehidupan ini untuk berfungsi sebagaimana dimaksud dan membantu meningkatkan masyarakat kita. Karena, seperti dengan perangkat lunak apa pun, Anda akan memiliki bug, dan pembelajaran mesin tidak berbeda. Jika dibiarkan tidak terkendali, masalah ML ini dapat benar-benar merusak kelangsungan bisnis dan mempengaruhi masyarakat dengan hasil bias yang tidak disengaja. Ambil upaya Amazon untuk mengimplementasikan alat perekrutan AI – bias yang tidak disengaja menyebabkan model pembelajaran mesin merekomendasikan kandidat laki-laki lebih dari kandidat perempuan. Ini adalah hasil yang tidak diinginkan. Jadi, perlu ada solusi yang didedikasikan untuk mendeteksi bias yang tidak disengaja sebelum itu membuat berita dan mempengaruhi pengguna akhir.

Untuk organisasi untuk benar-benar mengandalkan dan menikmati manfaat dari pembelajaran mesin, mereka perlu tahu kapan itu tidak berfungsi dengan benar, dan sekarang dengan regulasi baru, pengguna ML sering memerlukan cara untuk menjelaskan prediksi model mereka. Pada akhirnya, ini sangat penting untuk melakukan penelitian dan mengembangkan model dan proyek inovatif baru, tapi ketika model tersebut bertemu dengan dunia nyata dan membuat keputusan nyata untuk orang, bisnis, dan masyarakat, ada kebutuhan yang jelas untuk solusi observabilitas komprehensif untuk memastikan bahwa mereka dapat mempercayai AI.

Apakah Anda bisa menjelaskan pentingnya AI yang transparan dan dapat dijelaskan?

Sementara itu mungkin tampak serupa, ada perbedaan penting yang harus dibuat antara perangkat lunak tradisional dan pembelajaran mesin. Dalam perangkat lunak, Anda memiliki insinyur perangkat lunak, menulis kode, mendefinisikan logika aplikasi, kita tahu persis apa yang akan terjadi pada setiap alur kode. Ini deterministik. Ini adalah bagaimana perangkat lunak biasanya dibangun, insinyur membuat kasus uji, menguji kasus ujung, mendapatkan cakupan sekitar 70% – 80% – Anda merasa cukup baik bahwa Anda bisa merilis ke produksi. Jika ada peringatan yang muncul, Anda bisa dengan mudah melakukan debug dan memahami apa alur yang salah, dan memperbaikinya.

Ini tidak terjadi dengan pembelajaran mesin. Sebaliknya jika manusia mendefinisikan logika, itu didefinisikan sebagai bagian dari proses pelatihan model. Ketika berbicara tentang logika, tidak seperti perangkat lunak tradisional itu bukanlah sekumpulan aturan, tetapi lebih seperti matriks jutaan dan miliaran angka yang mewakili pikiran, otak model pembelajaran mesin. Dan ini adalah kotak hitam, kita tidak benar-benar tahu makna dari setiap angka dalam matriks ini. Tapi kita tahu secara statistik, jadi ini probabilistik, dan tidak deterministik. Ini bisa akurat 83% atau 93% dari waktu. Ini memunculkan banyak pertanyaan, kan? Pertama, bagaimana kita bisa mempercayai sistem yang kita tidak bisa menjelaskan bagaimana itu sampai pada prediksinya? Kedua, bagaimana kita bisa menjelaskan prediksi untuk industri yang sangat diatur – seperti sektor keuangan. Misalnya, di AS, firma keuangan diwajibkan oleh hukum untuk menjelaskan kepada pelanggan mereka mengapa mereka ditolak untuk permohonan pinjaman.

Ketidakmampuan untuk menjelaskan prediksi pembelajaran mesin dalam teks yang dapat dibaca manusia bisa menjadi penghalang besar untuk adopsi massal ML di seluruh industri. Kita ingin tahu, sebagai masyarakat, bahwa model itu tidak membuat keputusan yang bias. Kita ingin memastikan kita memahami apa yang menyebabkan model membuat keputusan tertentu. Ini adalah tempat di mana kejelasan dan transparansi sangat penting.

Bagaimana solusi toolbox AI yang dapat dijelaskan dari Aporia bekerja?

Toolbox AI yang dapat dijelaskan dari Aporia bekerja sebagai bagian dari sistem observabilitas pembelajaran mesin yang terpadu. Tanpa visibilitas yang dalam dari model produksi dan solusi pemantauan dan peringatan yang dapat diandalkan, sulit untuk mempercayai wawasan AI yang dapat dijelaskan – tidak ada kebutuhan untuk menjelaskan prediksi jika output tidak dapat diandalkan. Dan itu adalah tempat di mana Aporia datang, menyediakan visibilitas kaca tunggal atas semua model yang berjalan, pemantauan yang dapat disesuaikan, kemampuan peringatan, alat debugging, penyelidikan penyebab akar, dan AI yang dapat dijelaskan. Solusi observabilitas full-stack yang didedikasikan untuk setiap masalah yang muncul di produksi.

Platform Aporia adalah netral dan memungkinkan bisnis yang berorientasi AI, tim ilmu data dan ML untuk memiliki dasbor terpusat dan visibilitas lengkap ke kesehatan model, prediksi, dan keputusan – memungkinkan mereka untuk mempercayai AI mereka. Dengan menggunakan AI yang dapat dijelaskan dari Aporia, organisasi dapat menjaga semua pemangku kepentingan yang relevan dalam loop dengan menjelaskan keputusan pembelajaran mesin dengan sekali klik – mendapatkan wawasan yang dapat dibaca manusia ke prediksi model tertentu atau mensimulasikan situasi “What if?”. Selain itu, Aporia terus melacak data yang dimasukkan ke model serta prediksi, dan proaktif mengirimkan peringatan atas peristiwa penting, termasuk degradasi kinerja, bias yang tidak disengaja, pergeseran data dan bahkan kesempatan untuk meningkatkan model Anda. Akhirnya, dengan toolbox investigasi Aporia Anda dapat mencapai penyebab akar dari setiap peristiwa untuk memperbaiki dan meningkatkan model apa pun di produksi.

Beberapa fungsi yang ditawarkan termasuk Alat Penyelidikan Poin Data dan Waktu, bagaimana alat-alat ini membantu mencegah bias AI dan pergeseran?

Poin Data menyediakan tampilan langsung dari data yang model terima dan prediksi yang dibuatnya untuk bisnis. Anda dapat mendapatkan umpan langsung dari itu dan memahami persis apa yang terjadi di bisnis Anda. Jadi, kemampuan visibilitas ini sangat penting untuk transparansi. Terkadang hal-hal berubah seiring waktu dan ada korelasi antara perubahan multiple seiring waktu – ini adalah peran penyelidikan waktu.

Baru-baru ini, pengecer besar telah mengalami kegagalan semua alat prediksi AI mereka ketika memprediksi masalah rantai pasokan, bagaimana platform Aporia akan menyelesaikan masalah ini?

Tantangan utama dalam mengidentifikasi masalah ini terletak pada kenyataan bahwa kita berbicara tentang prediksi masa depan. Artinya, kita memprediksi sesuatu akan terjadi atau tidak akan terjadi di masa depan. Misalnya, berapa banyak orang yang akan membeli kemeja tertentu atau membeli PlayStation baru.

Kemudian, butuh beberapa waktu untuk mengumpulkan semua hasil aktual – lebih dari beberapa minggu. Kemudian, kita bisa merangkum dan mengatakan, oke, ini adalah permintaan aktual yang kita lihat. Waktu ini, kita berbicara tentang beberapa bulan bersama-sama. Ini adalah apa yang membawa kita dari saat model membuat prediksi sampai bisnis tahu persis apakah itu benar atau salah. Dan pada saat itu, biasanya sudah terlambat, bisnis baik kehilangan pendapatan potensial atau margin terjepit, karena mereka harus menjual stok berlebih pada diskon besar.

Ini adalah tantangan. Dan ini adalah tempat di mana Aporia datang dan menjadi sangat, sangat membantu bagi organisasi-organisasi ini. Pertama, itu memungkinkan organisasi untuk dengan mudah mendapatkan transparansi dan visibilitas ke keputusan yang dibuat – Apakah ada fluktuasi? Apakah ada sesuatu yang tidak masuk akal? Kedua, karena kita berbicara tentang pengecer besar, kita berbicara tentang jumlah stok yang besar, dan melacaknya secara manual hampir tidak mungkin. Ini adalah tempat di mana bisnis dan tim pembelajaran mesin sangat menghargai Aporia, sebagai sistem pemantauan otomatis 24/7 yang dapat disesuaikan. Aporia terus melacak data dan prediksi, menganalisis perilaku statistik dari prediksi ini, dan dapat mengantisipasi dan mengidentifikasi perubahan dalam perilaku konsumen dan perubahan dalam data segera setelah itu terjadi. Sebagai gantinya menunggu enam bulan untuk menyadari bahwa peramalan permintaan salah, Anda bisa dalam beberapa hari, mengidentifikasi bahwa kita berada di jalur yang salah dengan peramalan permintaan kita. Jadi Aporia mempersingkat waktu ini dari beberapa bulan menjadi beberapa hari. Ini adalah perubahan besar untuk setiap praktisi ML.

Apakah ada yang lain yang Anda ingin bagikan tentang Aporia?

Kami terus tumbuh dan mencari orang-orang luar biasa dengan pikiran brilian untuk bergabung dengan perjalanan Aporia. Periksa posisi terbuka kami.

Terima kasih atas wawancara yang luar biasa, pembaca yang ingin mempelajari lebih lanjut harus mengunjungi Aporia.