Brian Sathianathan, direktur teknologi dan salah satu pendiri Iterate.ai — Seri wawancara

Brian Sathianathan adalah Chief Technology Officer dan co-founder di Iterate.ai, pencipta platform low-code Interplay untuk membangun aplikasi berbasis AI di berbagai industri. Sebelumnya, Sathianathan bekerja di Apple (AAPL ) pada berbagai proyek teknologi yang sedang muncul, termasuk sistem operasi Mac dan iPhone pertama.

Apa yang awalnya menarik Anda untuk bekerja dengan teknologi AI?

Saya selalu memiliki minat pada pembelajaran yang didorong oleh algoritma, dan saya mulai bekerja dengan sistem AI selama hari-hari kuliah saya. Selain itu, saya menghabiskan banyak waktu di awal karir saya membangun teknologi keamanan dan kriptografi untuk Apple, dan teknologi kompresi video untuk perusahaan sebelumnya yang saya dirikan bersama. Kedua teknologi video dan kripto sangat intensif algoritma, dan itu membuat kurva pembelajaran saya di AI/ML lebih cepat. Sekitar 2016, saya mulai bermain dengan kerangka kerja AI sumber terbuka/GPU, menyadari seberapa jauh mereka telah berkembang dalam lima tahun terakhir – baik dari perspektif algoritma dan kemampuan mereka untuk melakukan klasifikasi yang lebih luas. Kemudian saya menyadari kebutuhan untuk membuat ini lebih mudah dan sederhana untuk digunakan oleh semua orang.

Anda memiliki beberapa pandangan kuat tentang bias kognitif dan bias data di AI, bisakah Anda membagikan kekhawatiran tersebut?

Bias AI terjadi ketika insinyur membiarkan pandangan dan prasangka mereka sendiri membentuk set data pelatihan AI mereka. Dengan melakukan hal ini, mereka dengan cepat melemahkan apa yang mereka coba capai dengan AI. Biasanya, pengaruh ini tidak disadari, sehingga mereka mungkin tidak menyadari bahwa bias telah meresap ke dalam set data mereka. Tanpa pemeriksaan dan keseimbangan yang efektif, data dapat dibatasi hanya pada titik fokus atau demografi yang insinyur cenderung pertimbangkan. Bahkan ketika insinyur memiliki kualitas dan volume data yang tinggi untuk bekerja, bias dalam set data dapat membuat hasil yang disampaikan oleh aplikasi AI menjadi salah dan, dalam banyak kasus, tidak berguna.

Laporan Gartner memperkirakan bahwa hingga 2030, 85% proyek AI akan memberikan hasil yang salah karena bias. Itu adalah celah besar yang harus diatasi. Bisnis yang berinvestasi, mempercayai, dan membuat keputusan strategis berdasarkan AI – hanya untuk dipandu oleh kesimpulan yang salah yang berakar pada bias – berisiko mengalami kegagalan yang mahal dan merusak reputasi mereka. Dengan AI yang dengan cepat beralih dari teknologi yang sedang muncul ke fondasi yang ada di seluruh aplikasi yang menghadap pelanggan dan proses internal, menghilangkan bias adalah penting untuk mewujudkan potensi AI yang sebenarnya di masa depan.

Apa beberapa cara untuk mencegah jenis bias ini dari muncul?

Bias AI harus dideteksi dan dihilangkan secara sistematis dan proaktif. Bias mungkin telah dikodekan ke dalam algoritma. Ketidakakuratan mungkin diperkenalkan melalui bias kognitif yang hanya menghilangkan data yang diperlukan. Bias agregasi adalah risiko lain di sini, di mana serangkaian keputusan kecil menambahkan hingga hasil AI yang miring.

Mendeteksi dan menghilangkan bias AI dalam semua bentuknya memerlukan organisasi untuk menggunakan kerangka kerja, toolkit, proses, dan kebijakan yang dibangun untuk secara efektif mengatasi masalah-masalah ini. Misalnya, kerangka kerja AI seperti Aletheia Framework dari Rolls Royce dan kerangka kerja AI Deloitte – yang dilengkapi dengan benchmark yang ditegakkan secara otomatis – dapat mempromosikan praktik bebas bias di seluruh pengembangan dan penerapan aplikasi AI. Toolkit seperti AI Fairness 360 dan IBM Watson OpenScale dapat mengenali dan menghilangkan bias dan pola bias dalam model dan pipa ML. Akhirnya, proses yang menguji data melawan metrik bias yang ditentukan, dikombinasikan dengan kebijakan yang menyediakan tata kelola untuk mencegah bias melalui praktik yang ditegakkan, memungkinkan organisasi untuk sistematis dalam memeriksa titik buta mereka dan mengurangi bias AI.

Anda adalah CTO dan co-founder di Iterate.ai – bagaimana awal mula perusahaan ini?

Cerita itu dimulai pada 2013 ketika co-founder Jon Nordmark (CEO kami) dan saya sama-sama menjabat sebagai anggota dewan dari akselerator Eropa Timur yang berbasis di Ukraina, yang dirancang untuk membantu wirausaha di sana membangun dan mengoperasikan startup gaya Lembah Silikon. Pengalaman dengan perusahaan baru yang sangat inovatif itu membawa kita ke ide untuk menghubungkan startup yang menjanjikan (tetapi mungkin kurang dikenal) dengan perusahaan besar yang membutuhkan dukungan inovasi. Kami kemudian meluncurkan apa yang saat itu disebut Iterate Studio, menawarkan mesin pencari khusus untuk perusahaan untuk menemukan mitra startup berdasarkan kemampuan inovatif yang dicari oleh organisasi yang lebih besar. Pada 2015, perusahaan tersebut menjadi Iterate.ai untuk menekankan kurasi startup yang didorong AI. Hari ini, database Signals kami mengindeks lebih dari 15,7 juta teknologi startup berdasarkan berbagai faktor (dan menggunakan AI milik kami untuk membuatnya terjadi pada skala itu).

Kami memperluas pada 2017 dan meluncurkan versi pertama platform pengembangan aplikasi low-code Interplay kami. Interplay menyediakan lapisan perangkat lunak yang didorong AI yang memodernisasi tumpukan warisan perusahaan dengan memungkinkan penggunaan drag-and-drop dari teknologi inovatif sambil mempercepat pengembangan perangkat lunak sepuluh kali lipat. Platform low-code memiliki 475 komponen yang sudah dibangun, sehingga pengguna dapat mencampur dan mencocokkan teknologi yang mereka butuhkan untuk dengan cepat membangun aplikasi. Pemberdayaan AI ada di inti platform, serta komponen low-code lainnya untuk IoT, integrasi data, dan bahkan blockchain.

Iterate adalah platform low-code untuk mengembangkan aplikasi yang didorong AI; apa saja contoh aplikasi AI yang dapat dibangun?

Platform low-code kami telah memungkinkan aplikasi AI untuk berbagai kasus penggunaan yang sangat menarik – keragaman penerapan adalah sesuatu yang kami banggakan. Ulta Beauty (ULTA ), retailer kecantikan global senilai miliaran dolar, menggunakan platform kami untuk membangun chatbot retail tamu AI cerdas dalam waktu hanya dua minggu. Sebaliknya, chatbot primitif adalah sentris kata kunci, dan sebagian besar aplikasi chatbot vendor tidak dapat diintegrasikan secara mulus dengan sistem warisan untuk mengakses informasi pelanggan atau memungkinkan transisi yang mulus ke dukungan yang dibantu manusia. Chatbot AI cerdas Ulta menghilangkan masalah-masalah tersebut dengan fungsi pemrosesan bahasa alami dan kemampuan untuk mengenali “niat” pelanggan untuk memberikan respons yang sangat akurat. Platform kami membuatnya sederhana bagi Ulta untuk membangun mesin AI chatbot dalam beberapa jam, dan untuk mengkonfigurasi, memperbaiki, dan meningkatkan pelatihan dan respons chatbot dengan sangat cepat.

Dalam contoh lain, Jockey menggunakan platform kami untuk memungkinkan FAQ yang didorong AI yang siap untuk merespons secara otomatis (dan sukses) pada skenario layanan pelanggan yang kompleks dan subjektif. Platform kami juga memungkinkan jaringan toko kelontong dan pom bensin global untuk merespons pandemi dengan pom bensin tanpa sentuhan, yang bergantung pada pengenalan gambar AI dari pelat nomor pelanggan. Kemampuan AI kami juga diterapkan untuk memungkinkan strategi keamanan kamera-sentris di lokasi retail. Melalui pengenalan gambar, aplikasi AI yang dilatih dapat mengidentifikasi ancaman dan kehadiran senjata di luar toko, memicu penguncian toko untuk melindungi pelanggan, dan menghubungi otoritas.

Seberapa sedikit pemrograman yang sebenarnya diperlukan? Keterampilan pengembangan apa yang harus dimiliki pengguna?

Menurut pendapat saya, aturan 80/20 berlaku. 80% dari kasus penggunaan AI yang diterapkan sudah dibangun dan memiliki model dan data pelatihan yang mapan di sekitar mereka. Organisasi tradisional dapat dengan mudah menggunakan platform low-code (milik kami, Interplay, adalah salah satu platform tersebut) dan menerapkan kasus-kasus tersebut. Berikut beberapa contoh:

• FAQ yang didorong AI
• Pencari produk yang didorong AI
• Rekomendasi produk dan penggabungan
• OCR
• Identifikasi visual produk
• Analisis data tabular: hal-hal seperti AOV, analisis keranjang, prediksi churn, dll
• Pengambilan objek / deteksi
• Permanensi objek

Kasus-kasus tersebut dapat diimplementasikan oleh insinyur dengan pengetahuan pemrograman sisi server dan beberapa pemahaman dasar tentang API mesin pembelajaran. Ini sangat mirip dengan teknik streaming video, kriptografi, dan manajemen kunci yang secara luas digunakan melalui API hari ini. Sebagian besar insinyur yang menggunakan API tersebut sering tidak tahu bagaimana mereka bekerja di bawahnya.

Mengapa low-code AI penting untuk menskalakan teknologi AI?

Bisnis yang mengejar kemampuan AI dalam pengembangan aplikasi mereka dapat dengan cepat menghadapi tantangan besar ketika tidak menggunakan low-code. Di dunia saat ini, hanya ada 300.000 insinyur AI, dan hanya 60.000 di antaranya adalah ilmuwan data. Karena itu, bakat yang dibutuhkan untuk mengembangkan dan menskalakan solusi AI sangat mahal dan meningkat. Sebaliknya, pengembangan low-code benar-benar mendemokratisasikan akses ke AI. Dengan low-code, setiap orang dari 25 juta pengembang perangkat lunak di dunia dan bahkan mereka yang tidak terlatih, dapat dengan mudah mengimplementasikan mesin AI, memperbaiki kemampuan mereka, dan menghasilkan solusi yang efektif dan menskalakan.

Kembali ke platform Signals dari Iterate.ai yang didukung AI, apa saja tren yang lebih menarik yang muncul?

Kami melihat pertumbuhan yang pesat di seluruh lima kekuatan inovasi: AI, IoT, blockchain, data, dan solusi startup yang muncul. Ini semua adalah pasar yang sangat besar. Kami melihat ribuan poin data tentang berita, paten, dan produk startup baru setiap hari. Interplay dibangun untuk menarik kekuatan-kekuatan ini, dengan komponen yang sudah dibangun untuk memanfaatkan kekuatan-kekuatan yang tumbuh ini.

Apakah ada yang ingin Anda bagikan tentang Iterate.ai?

Saya pikir masih ada kesalahpahaman seputar low-code dan perannya dalam membangun aplikasi AI. Tidak jarang melihat profesional TI yang mempertanyakan apakah strategi low-code dapat memenuhi persyaratan mereka untuk skalabilitas, ekstensibilitas, dan keamanan kelas perusahaan. Saya pikir bahwa low-code yang dimaksudkan untuk prototyping – tetapi disalahgunakan sebagai alat untuk aplikasi produksi – telah menimbulkan keraguan ini. Namun, low-code yang tepat benar-benar mampu membangun dan mendukung aplikasi AI yang siap produksi. Perusahaan harus melakukan due diligence dalam memilih alat low-code, memastikan bahwa alat tersebut memiliki lapisan keamanan yang transparan dan menyeluruh, dan catatan yang terbukti dalam mengirimkan aplikasi pada skala perusahaan.

Terima kasih atas wawancara yang luar biasa, pembaca yang ingin mempelajari lebih lanjut harus mengunjungi Iterate.ai.